▲
laeyoung 2022-09-29 | parent | ★ favorite | on: BigCode - 오픈소스로 만드는 코드 생성용 AI 제작 프로젝트(bigcode-project.org)

그렇긴 하네요.

현실적으로는 LLM(Large Language Model)이라 그냥 로컬로 직접으로는 안될거 같고 on-prem에 넣을 수 있는 사이즈 정도만 되도 쓸만할거 같아요. 150억개 파라미터면, GPT-2(15억개)와 GPT-3(1750억개) 사이 사이즈의 파라미터를 가지고 있는데 되려나...ㅠ

▲
ffdd270 2022-09-29  [-]

GPT-2는 로컬로 돌릴 수 있.. 었던 걸로 알고 있답니다. Tabnine이 그 모델 기반인데, 로컬 모델을 제공해주고 있거든요.

답변달기