Llama 2 Everywhere (L2E) - 스탠드얼론, 바이너리 포터블, 부팅 가능한 Llama 2
(github.com/trholding)- 광범위한 종류의 기기(폐기된 크롬북부터 고밀도 유니커널 까지)에서 호환성을 보장 하는 것을 목표
- L2E들이 네트워크로 연결되고 분산되고 자체 조정되는 소규모 전문 LLM Army를 구축하고 활용하여
미래의 AI에 대한 접근을 민주화하고 단일 대규모 LLM을 능가할 수 있다고 믿음 - L2E OS : 작은 Llama2 모델로 부팅하고 바로 추론 가능
- Unikernel Build : 수천개의 Llama 2 모델을 서버에서 실행하고 추론
- 한개의 실행파일로 어떤 X86_64 기기에서든 실행가능(cosmopolitan 툴체인을 이용)