Meta, 생성형 AI의 신뢰와 안전을 위한 Purple Llama 프로젝트 발표
(ai.meta.com)- 개발자들이 책임감 있게 생성 AI 모델을 배포할 수 있도록 지원하기 위해, 개방형 신뢰 및 안전 도구와 평가를 제공하는 엄브렐라 프로젝트
- 첫번째 단계로 두가지 도구를 공개
- CyberSec Eval : LLM들을 위한 사이버보안 안전 평가 벤치마크
- Llama Guard : 배포가 쉽도록 최적화된 입출력 필터링을 위한 Safety Classifier
- AI Alliance, AMD, AWS, Google Cloud, Hugging Face, IBM, Intel, Lightning AI, Microsoft, MLCommons, NVIDIA, Scale AI 등과 협력하여 이러한 도구를 오픈 소스 커뮤니티에 제공할 예정
왜 Purple 인가?
- 제너레이티브 AI가 제시하는 도전들을 진정으로 완화하려면 공격(레드팀)과 방어(블루팀) 태세를 모두 갖춰야 한다고 믿음
- 레드팀과 블루팀의 조합으로 구성된 퍼플팀은 잠재적 위험을 평가하고 완화하기 위한 협업적 접근 방식
- Purple Llama 프로젝트는 연구 및 상업적 사용을 가능하게 하는 허가적 라이선스로 제공될 예정
- 이는 커뮤니티 협업을 촉진하고 생성 AI 개발을 위한 신뢰 및 안전 도구의 개발 및 사용을 표준화하는 중요한 단계
AI Alliance - https://thealliance.ai 가 뭔가 하고 봤는데 IBM과 Meta가 주도해서 만든 연합이네요.
50개가 넘는 회사/단체들이 참여했는데, 정작 OpenAI, Google, NVidia, Microsoft 같은데는 다 빠져서 이게 뭔가 싶은.. ㅎㅎ