- Llama.ttf는 폰트 파일이면서 대형 언어 모델(LLM)과 그 모델의 추론 엔진
- Firefox/Chrome에 사용되는 글꼴 셰이핑 엔진인 Harfbuzz는 Wasm shaper를 통해 임의의 코드로 텍스트를 "셰이핑"할 수 있게 해줌
- 이 "임의의" 코드는 LLM을 초기화하고 텍스트 생성에 사용하는 등 훈련된 매개변수를 포함한 전체 LLM 추론 엔진이 될 수 있음
- 여기서는 Llama라는 LLM을 사용했기에 llama.ttf라는 이름이 붙음
- 즉, Wasm이 활성화된 Harfbuzz 기반 애플리케이션에서 이 글꼴을 사용하여 LLM을 실행하고 텍스트 생성 등을 할 수 있음
- 벤더가 "Copilot" 같은 기능을 구현하기를 기다릴 필요 없이 모든 것이 로컬에서 실행됨
- 이 글꼴을 사용하면 글꼴과 채팅할 수도 있음
- 사용 방법:
-
llama.ttf 파일을 다운로드하여 다른 글꼴처럼 사용하면 됨
- Harfbuzz를
Dwasm=enabled로 빌드하고 wasm-micro-runtime을 빌드한 후, 결과 공유 라이브러리를 LD_PRELOAD 환경 변수에 추가한 다음 gedit나 GIMP 같은 Harfbuzz 기반 애플리케이션을 실행하면 됨
- 글꼴과 LLM을 이용한 다른 재미있는 시도들도 소개됨
GN⁺의 의견
-
llama.ttf는 폰트 파일을 통해 LLM을 실행할 수 있는 혁신적인 접근법임.
- 로컬에서 실행되므로 개인정보 보호와 성능 측면에서 유리함.
- Harfbuzz와 Wasm에 대한 이해가 필요하므로 초급 엔지니어에게는 다소 어려울 수 있음.