# LlamaFirewall - AI 보안 위험 감지/차단 프레임워크

> Clean Markdown view of GeekNews topic #21948. Use the original source for factual precision when an external source URL is present.

## Metadata

- GeekNews HTML: [https://news.hada.io/topic?id=21948](https://news.hada.io/topic?id=21948)
- GeekNews Markdown: [https://news.hada.io/topic/21948.md](https://news.hada.io/topic/21948.md)
- Type: news
- Author: [xguru](https://news.hada.io/@xguru)
- Published: 2025-07-13T09:31:02+09:00
- Updated: 2025-07-13T09:31:02+09:00
- Original source: [github.com/meta-llama](https://github.com/meta-llama/PurpleLlama/tree/main/LlamaFirewall)
- Points: 6
- Comments: 0

## Summary

Meta가 주도하는 **Purple Llama** 프로젝트는 **생성형 AI 보안**을 위한 오픈소스 생태계를 지향하며, 개발자와 커뮤니티가 함께 **툴, 가이드, 평가·벤치마크** 등 신뢰성 도구를 통합적으로 활용할 수 있는 환경을 제공합니다. 이 중 **LlamaFirewall**은 다계층 스캐너 구조를 통해 **LLM 기반 챗봇과 에이전트의 보안 위협**(프롬프트 인젝션, 코드 취약점 등)을 실시간으로 탐지하고 차단하는 핵심 프레임워크입니다. **Llama Guard, Prompt Guard, Code Shield, CyberSec Eval** 등 다양한 보안 도구와 연계해 **시스템 레벨의 종합적 AI 안전 레이어**를 구성하며, **낮은 지연시간, 오픈소스, 확장성**으로 기업 및 개발자들이 쉽고 빠르게 안전한 **Guardrail** 구축이 가능하게 돕습니다.

## Topic Body

- **Purple Llama**는 Meta가 주도하는 오픈소스 AI 신뢰성과 보안 생태계의 **상위(umbrella) 프로젝트**로, 생성형 AI(LLM) 개발에 필요한 다양한 **보안 툴·가이드·평가 도구(Eval), 벤치마크**를 한데 모아 커뮤니티와 함께 발전시키는 것을 목표로 함  
- **LlamaFirewall**은 Purple Llama 프로젝트의 핵심 구성요소로, **생성형 AI(특히 LLM 기반 챗봇/에이전트)에서 발생할 수 있는 다양한 보안 위협(프롬프트 인젝션, 미스얼라인먼트, 코드 취약점 등)을 다계층 스캐너 구조로 실시간 탐지·차단하는 프레임워크**  
- **Llama Guard, Prompt Guard, Code Shield, CyberSec Eval** 등 Purple Llama의 여러 보안/신뢰성 도구들과 함께 **시스템-레벨의 종합적 AI 안전 레이어**를 구현함  
  - **Llama Guard**: Llama 3 기반의 입출력 유해 컨텐츠 검출/차단 모델. LlamaFirewall 정책에 포함해 모든 입력/출력 단계에서 자동 적용 가능  
  - **Prompt Guard**: 프롬프트 인젝션/탈옥 공격 탐지 특화, LlamaFirewall 내 PromptGuardScanner로 연동  
  - **Code Shield**: LLM 생성 코드의 실시간 취약점·유해 코드 감지, LlamaFirewall 내 CodeShieldScanner로 연동  
  - **CyberSec Eval**: Purple Llama의 LLM 사이버보안 벤치마크 도구. LlamaFirewall 기반 모델의 실제 보안 내성·취약점 테스트에 사용  
- **낮은 지연시간/고처리량, 실시간 적용, 투명한 오픈소스, 강력한 확장성**이 특징  
- 보안팀/AI 개발자가 LLM 기반 챗봇·에이전트·멀티스텝 AI에 **안전한 Guardrail(방호벽) 구축**을 빠르게 적용 가능

## Comments



_No public comments on this page._