1P by neo 16일전 | favorite | 댓글 1개
  • OpenAI가 AI 추론 칩을 개발하고 파운드리 네트워크 계획을 포기함
  • Broadcom이 OpenAI의 칩 설계를 돕고 TSMC에서 제조할 수 있도록 지원함
  • OpenAI는 AMD의 AI 칩을 추가하여 칩 공급을 다각화함

OpenAI의 내부 칩 설계 노력과 산업 파트너십 활용

  • OpenAI는 칩 공급을 다각화하고 비용을 절감하기 위해 다양한 옵션을 검토함
  • 회사는 당분간 야심찬 파운드리 계획을 중단하고 내부 칩 설계 노력에 집중할 계획임
  • OpenAI의 전략은 Amazon, Meta, Google, Microsoft와 같은 대규모 경쟁사들과 마찬가지로 산업 파트너십과 내부 및 외부 접근 방식을 활용하여 칩 공급을 확보하고 비용을 관리하는 방법을 보여줌
  • OpenAI는 칩 구매자 중 가장 큰 규모 중 하나로, 맞춤형 칩을 개발하면서 다양한 칩메이커로부터 소싱하기로 한 결정은 기술 분야에 광범위한 영향을 미칠 수 있음
  • Broadcom은 Google과 같은 기업이 제조를 위해 칩 설계를 미세 조정하는 것을 돕고, 칩에서 정보를 빠르게 이동시키는 데 도움이 되는 설계 부품을 공급함
  • OpenAI는 Broadcom을 통해 2026년에 첫 번째 맞춤형 설계 칩을 제조할 수 있는 TSMC와의 제조 능력을 확보함
  • 현재 Nvidia의 GPU는 80% 이상의 시장 점유율을 차지하고 있음
  • 그러나 공급 부족과 비용 상승으로 Microsoft, Meta, 그리고 이제 OpenAI와 같은 주요 고객들이 내부 또는 외부 대안을 모색하고 있음
  • OpenAI가 Microsoft의 Azure를 통해 AMD 칩을 사용하기로 한 것은 AMD의 새로운 MI300X 칩이 Nvidia가 지배하고 있는 시장의 일부를 차지하려고 시도하고 있음을 보여줌
  • AI 모델 훈련 및 ChatGPT와 같은 서비스 운영에는 비용이 많이 듦
  • OpenAI는 올해 37억 달러의 매출에 50억 달러의 손실을 예상하고 있음
  • 컴퓨팅 비용은 회사의 가장 큰 비용으로, 활용도를 최적화하고 공급업체를 다각화하려는 노력을 촉발시킴

GN⁺의 의견

  • OpenAI의 내부 칩 설계 노력과 다양한 칩메이커와의 협력은 AI 산업에서 중요한 변화를 나타냄. 이는 Nvidia의 지배력에 도전할 수 있는 새로운 대안을 만들어내고, AI 기술 발전을 가속화할 수 있음
  • 그러나 OpenAI의 비용 구조와 관련된 우려가 제기될 수 있음. AI 모델 개발과 서비스 운영에 막대한 비용이 소요되는 상황에서, 장기적인 수익성과 지속 가능성에 대한 의문이 있음
  • 한편, AMD의 MI300X 칩과 같은 신규 AI 칩의 등장은 시장 경쟁을 촉진하고 고객들에게 더 많은 선택지를 제공할 것임. 이는 AI 기술의 대중화와 상용화에 기여할 수 있음
  • AI 칩 시장의 경쟁 심화로 인해 기술 혁신이 가속화되고, 고성능 저전력 칩에 대한 수요가 증가할 것으로 예상됨. 이에 따라 칩 설계 및 제조 분야의 투자와 인재 확보 경쟁도 더욱 치열해질 전망임
  • 기업들이 AI 칩을 도입할 때는 성능, 비용, 호환성, 확장성 등 다양한 요소를 종합적으로 고려해야 함. 장기적인 기술 로드맵과 비즈니스 전략에 부합하는 최적의 칩을 선택하는 것이 중요함
Hacker News 의견
  • OpenAI는 칩 제조를 위한 "foundries"라는 공장 네트워크를 구축하려는 계획을 포기했음. 이는 비용과 시간 문제 때문임

    • OpenAI의 계획은 7조 달러를 모아 36개의 AI 실리콘 제조 공장을 짓는 것이었음
    • TSMC 경영진은 이 계획을 듣고 웃었다고 전해짐
  • OpenAI는 Google의 하드웨어 엔지니어들을 많이 채용하고 있음

    • LinkedIn에서 OpenAI의 하드웨어 엔지니어 프로필을 보면 많은 이들이 전 Google 직원임을 알 수 있음
    • Google의 TPU 팀은 이전보다 약해졌으며, 향후 Google TPU가 OpenAI 칩보다 열등할 가능성도 있음
  • Google의 TPU 개발은 Broadcom의 도움을 받았음

    • Broadcom이 Google의 TPU 개발에 기여한 점을 고려하면, 전 Google 직원들이 새로운 회사에서도 이 관계를 유지하는 것은 당연함
  • AMD와 NVIDIA 칩을 추가하여 인프라 수요를 충족하려는 움직임이 있음

    • 수요가 "미친 듯이" 증가하고 있으며, 이는 공급 문제로 이어질 수 있음
    • Fortune 500 기업들은 모든 자원을 한 곳에 집중하지 않으며, AI 하드웨어와 소프트웨어의 공급원을 다양화하는 것이 현명함
  • OpenAI가 자체 데이터 센터를 구축하고 있는 것으로 보이나, 기사에서는 이를 명확히 언급하지 않음

    • TSMC가 아닌 다른 서구 AI/행렬곱 칩을 제조하는 곳이 있는지 궁금함
    • NVIDIA, AMD, Google, OpenAI 모두 TSMC를 사용하고 있음
    • 삼성은 경쟁력이 없는지 궁금함
  • 새로운 칩을 생산하고 훈련/추론에 사용하는 데 얼마나 시간이 걸릴지 궁금함

  • GH Copilot 외에 LLMs의 사회/문화적 영향은 아직 보지 못했음

    • 사회에 널리 퍼지고 지속적인 영향을 미치는 생산적인 문화적 영향이 있기를 기대함
  • OpenAI는 자체 칩 설계와 제조를 통해 경쟁 우위를 확보하려 했음

    • 자체 칩이 비용 면에서 큰 이점을 제공할 수 있음
    • 아마도 자체 칩 설계로 시작하는 것이 충분하다고 판단했을 수 있음
  • 7조 달러를 들여 자체 공장을 짓는 것은 야심차고 무모한 계획이었음

    • 현실을 직시하고 계획을 축소한 것으로 보임
    • 품질을 유지하기를 바람
  • TSMC와 함께 자체 칩을 만드는 것이 "축소된" 계획이라는 점이 재미있음