▲

10억 매개변수 LLM 실행에 전구용 13와트 전력이면 충분

 (arxiv.org)
1P by flypeace 4달전 | favorite | 댓글과 토론

https://news.ucsc.edu/2024/06/matmul-free-llm.html

matmul free 알고리즘 + 전용 fpga로 효율 극대화