11P by neo 5달전 | favorite | 댓글 2개
  • Llama.ttf는 폰트 파일이면서 대형 언어 모델(LLM)과 그 모델의 추론 엔진
  • Firefox/Chrome에 사용되는 글꼴 셰이핑 엔진인 Harfbuzz는 Wasm shaper를 통해 임의의 코드로 텍스트를 "셰이핑"할 수 있게 해줌
    • 이 "임의의" 코드는 LLM을 초기화하고 텍스트 생성에 사용하는 등 훈련된 매개변수를 포함한 전체 LLM 추론 엔진이 될 수 있음
    • 여기서는 Llama라는 LLM을 사용했기에 llama.ttf라는 이름이 붙음
  • 즉, Wasm이 활성화된 Harfbuzz 기반 애플리케이션에서 이 글꼴을 사용하여 LLM을 실행하고 텍스트 생성 등을 할 수 있음
    • 벤더가 "Copilot" 같은 기능을 구현하기를 기다릴 필요 없이 모든 것이 로컬에서 실행됨
    • 이 글꼴을 사용하면 글꼴과 채팅할 수도 있음
  • 사용 방법:
    • llama.ttf 파일을 다운로드하여 다른 글꼴처럼 사용하면 됨
    • Harfbuzz를 Dwasm=enabled로 빌드하고 wasm-micro-runtime을 빌드한 후, 결과 공유 라이브러리를 LD_PRELOAD 환경 변수에 추가한 다음 gedit나 GIMP 같은 Harfbuzz 기반 애플리케이션을 실행하면 됨
  • 글꼴과 LLM을 이용한 다른 재미있는 시도들도 소개됨

GN⁺의 의견

  • llama.ttf는 폰트 파일을 통해 LLM을 실행할 수 있는 혁신적인 접근법임.
  • 로컬에서 실행되므로 개인정보 보호와 성능 측면에서 유리함.
  • Harfbuzz와 Wasm에 대한 이해가 필요하므로 초급 엔지니어에게는 다소 어려울 수 있음.

본문 Why? 소제목 아래 아무것도 안 적혀 있는 게 🤣

Hacker News 의견
  • 주간 TV 프로그램으로 이상하고 재미있는 콘텐츠를 제공하면 좋겠다는 의견.
  • Tetris를 폰트로 만든 것처럼 LLM과 추론 엔진을 폰트에 넣어 대화하거나 글을 쓸 수 있게 만든 프로젝트 소개.
  • 이 프로젝트는 멋지지만, 280GB의 TTF 파일 크기와 다른 폰트와의 호환성 문제를 지적함.
  • 폰트에 게임을 내장한 웹사이트 링크 공유.
  • Harfbuzz 엔진이 Wasm 셰이퍼를 사용해 텍스트를 "형성"할 수 있는 기능을 제공한다는 설명.
  • 작업이 아카이브에 저장되었다는 알림과 감사 인사.
  • Harfbuzz와 wasm-micro-runtime을 빌드하고 LD_PRELOAD 환경 변수에 추가해 데모를 쉽게 할 수 있기를 바라는 의견.
  • PDF가 대화할 수 있는 미래를 상상하지 못했다는 감탄.
  • 이번 주에 본 것 중 가장 멋진 것이라는 의견.
  • 폰트가 항상 같은 문자열을 생성하는 이유와 LLM이 새로운 "추론"을 생성해야 하지 않느냐는 질문.
  • 폰트가 텍스트 스타일을 자동으로 생성하는 기능이 가능할지 궁금해하는 의견.