# Meta, 생성형 AI의 신뢰와 안전을 위한 Purple Llama 프로젝트 발표

> Clean Markdown view of GeekNews topic #12286. Use the original source for factual precision when an external source URL is present.

## Metadata

- GeekNews HTML: [https://news.hada.io/topic?id=12286](https://news.hada.io/topic?id=12286)
- GeekNews Markdown: [https://news.hada.io/topic/12286.md](https://news.hada.io/topic/12286.md)
- Type: news
- Author: [xguru](https://news.hada.io/@xguru)
- Published: 2023-12-11T10:16:02+09:00
- Updated: 2023-12-11T10:16:02+09:00
- Original source: [ai.meta.com](https://ai.meta.com/blog/purple-llama-open-trust-safety-generative-ai/)
- Points: 2
- Comments: 1

## Topic Body

- 개발자들이 책임감 있게 생성 AI 모델을 배포할 수 있도록 지원하기 위해, 개방형 신뢰 및 안전 도구와 평가를 제공하는 엄브렐라 프로젝트  
- 첫번째 단계로 두가지 도구를 공개  
  - CyberSec Eval : LLM들을 위한 사이버보안 안전 평가 벤치마크  
  - Llama Guard : 배포가 쉽도록 최적화된 입출력 필터링을 위한 Safety Classifier  
- AI Alliance, AMD, AWS, Google Cloud, Hugging Face, IBM, Intel, Lightning AI, Microsoft, MLCommons, NVIDIA, Scale AI 등과 협력하여 이러한 도구를 오픈 소스 커뮤니티에 제공할 예정  
### 왜 Purple 인가?  
- 제너레이티브 AI가 제시하는 도전들을 진정으로 완화하려면 공격(레드팀)과 방어(블루팀) 태세를 모두 갖춰야 한다고 믿음   
- 레드팀과 블루팀의 조합으로 구성된 퍼플팀은 잠재적 위험을 평가하고 완화하기 위한 협업적 접근 방식  
- Purple Llama 프로젝트는 연구 및 상업적 사용을 가능하게 하는 허가적 라이선스로 제공될 예정  
- 이는 커뮤니티 협업을 촉진하고 생성 AI 개발을 위한 신뢰 및 안전 도구의 개발 및 사용을 표준화하는 중요한 단계

## Comments



### Comment 21325

- Author: xguru
- Created: 2023-12-11T10:17:02+09:00
- Points: 1

[AI Alliance - https://thealliance.ai](https://thealliance.ai/) 가 뭔가 하고 봤는데 IBM과 Meta가 주도해서 만든 연합이네요.  
50개가 넘는 회사/단체들이 참여했는데, 정작 OpenAI, Google, NVidia, Microsoft 같은데는 다 빠져서 이게 뭔가 싶은.. ㅎㅎ