Hacker News 의견

• GPU 연결 문제: GPU가 PCIe 버스에서 인식되지 않는 문제를 언급함.
• 냉각 인프라: 기존의 공랭 환경을 유지하면서 기계적 및 열 설계를 변경해야 했음.
• 시간 제약: 시간 제약이 모델의 전반적인 품질에 영향을 미쳤음.
• Meta의 검색 기능: Meta가 새로운 LLM을 훈련시키기보다는 검색 기능을 개선했으면 좋겠다는 의견.
• 데이터 수집 방법: Meta가 데이터를 어떻게 수집하고 준비하는지, 특히 PII(개인 식별 정보)를 어떻게 정리하는지 궁금해함.
• 비용 문제: LLM이 클라우드 외의 애플리케이션에서는 비용 문제로 인해 비현실적일 수 있다고 언급함.
• 클러스터 구축: 두 개의 24k 클러스터를 구축하여 운영 경험을 배우려는 시도가 인상적임.
• 작업 스케줄링: 대규모 머신 배열에서 작업을 스케줄링하는 방법에 대한 구체적인 정보가 부족함.
• 수익 창출: Meta가 LLM을 대규모로 활용하여 어떻게 수익을 창출할지 명확하지 않음.
• Google의 AI 우위: Google이 커스텀 실리콘을 통해 AI 분야에서 우위를 점하고 있다는 의견.
• 도메인 이름: Meta의 도메인이 여전히 engineering.fb.com인 것이 흥미로움.