-
Purple Llama는 Meta가 주도하는 오픈소스 AI 신뢰성과 보안 생태계의 상위(umbrella) 프로젝트로, 생성형 AI(LLM) 개발에 필요한 다양한 보안 툴·가이드·평가 도구(Eval), 벤치마크를 한데 모아 커뮤니티와 함께 발전시키는 것을 목표로 함
-
LlamaFirewall은 Purple Llama 프로젝트의 핵심 구성요소로, 생성형 AI(특히 LLM 기반 챗봇/에이전트)에서 발생할 수 있는 다양한 보안 위협(프롬프트 인젝션, 미스얼라인먼트, 코드 취약점 등)을 다계층 스캐너 구조로 실시간 탐지·차단하는 프레임워크
-
Llama Guard, Prompt Guard, Code Shield, CyberSec Eval 등 Purple Llama의 여러 보안/신뢰성 도구들과 함께 시스템-레벨의 종합적 AI 안전 레이어를 구현함
-
Llama Guard: Llama 3 기반의 입출력 유해 컨텐츠 검출/차단 모델. LlamaFirewall 정책에 포함해 모든 입력/출력 단계에서 자동 적용 가능
-
Prompt Guard: 프롬프트 인젝션/탈옥 공격 탐지 특화, LlamaFirewall 내 PromptGuardScanner로 연동
-
Code Shield: LLM 생성 코드의 실시간 취약점·유해 코드 감지, LlamaFirewall 내 CodeShieldScanner로 연동
-
CyberSec Eval: Purple Llama의 LLM 사이버보안 벤치마크 도구. LlamaFirewall 기반 모델의 실제 보안 내성·취약점 테스트에 사용
-
낮은 지연시간/고처리량, 실시간 적용, 투명한 오픈소스, 강력한 확장성이 특징
- 보안팀/AI 개발자가 LLM 기반 챗봇·에이전트·멀티스텝 AI에 안전한 Guardrail(방호벽) 구축을 빠르게 적용 가능