Andrej Karpathy, LLM OS를 구상중
(twitter.com/karpathy)- "LLM OS를 요리하고 있으니 기다려 줘"
- 스펙
- LLM: Open AI GPT-4 Turbo 256 코어(배치 사이즈) 프로세스 @20Hz(tok/s)
- RAM: 128Ktok
- Filesystem: Ada002
- 이더넷을 통해서 브라우저와 다른 LLM 엱동
- 비디오/오디오 출력
- 기존 컴퓨터의 도구들 포함 (계산기, 파이썬 인터프리터, 터미널)
일전에 'LLM은 새로운 컴퓨팅 패러다임'이라고도 얘기했었는데, 정말 하고 있군요 ㅎㄷㄷ
https://twitter.com/karpathy/status/1707437820045062561
(⚠️광고⚠️: 한국어 번역은 https://discuss.pytorch.kr/t/llm/2567 에 있습니다.)