PaLM - Google AI가 공개한 540B 파라미터를 가진 Pathways Language Model

• 540B 파라미터를 가진 모델로 GPT-3 (175B) 대비 3배 커짐
• TPU v4를 이용해 학습을 진행함
• 모델이 커짐으로써 더 다양한 Task들을 처리 할 수 있음 (수학문제, 설명, 코드 생성 등)

관련 글

• GPT-NeoX-20B 에게 사칙연산 질문을 물어봤더니

[kunggom]

구글에서는 이런 걸 로봇과 결합하여, 인공지능이 현실의 물리 세계 또한 배울 수 있도록 하려는 것 같습니다.
https://say-can.github.io/
https://arxiv.org/abs/2204.01691

[xguru]

• 초대형 AI NLP Model은 어디로 가고 있는가?
• GPT-3는 이제 시장에서 유일하지 않음
• 2022 AI Index Report

[laeyoung]

AI Model이 크면 클수록 좋다, 라는 흐름이 계속 되는거 같습니다.