▲
livekth 2024-05-02 | parent | ★ favorite | on: Llama3-gradient - LLAMA의 컨텍스트 길이를 8k에서 1m으로 확장한 모델(ollama.com)

컨텍스트 윈도가 늘어난 덕분에 성능은 원래 LLaMa 3에 비해 현저히 떨어져서 못쓸 지경이라는 댓글이 있네요.

https://twitter.com/ArkaPal999/status/1785611161540378707