▲

GN⁺: OpenAI 공동 창업자 John Schulman, 경쟁사 Anthropic 합류 발표

 (cnbc.com)
4P by neo 4달전 | favorite | 댓글 2개
  • OpenAI 공동 창업자 John Schulman이 월요일 X 게시물에서 Microsoft의 지원을 받는 회사를 떠나 Amazon으로부터 투자를 받은 AI 스타트업 Anthropic에 합류할 것이라고 밝힘
  • Schulman은 ChatGPT 챗봇과 서드파티 개발자를 위한 프로그래밍 인터페이스용 AI 모델을 개선하는 OpenAI의 post-training 팀의 공동 리더였음
  • 6월, OpenAI는 Schulman이 정렬 과학 책임자로서 이사회에 조언을 제공할 안전 및 보안 위원회에 합류할 것이라고 발표함

Schulman의 이직 이유

  • Schulman은 소셜 미디어 게시물에서 "이 선택은 AI 얼라인먼트에 대한 집중을 더 깊이 하고, 기술적인 작업에 다시 손을 대기 위해 이직을 결심했다"고 말함
  • 그는 OpenAI에서 이 주제에 대한 새로운 작업에 대한 지원 부족으로 인해 떠나는 것이 아니라고 말함
  • "오히려 회사 리더들은 이 영역에 투자하는 데 매우 전념해 왔다"고 그는 말함
  • 이 결정은 OpenAI가 인간의 능력을 초과하는 AI 시스템을 제어하려는 슈퍼얼라인먼트 팀을 해체한 지 3개월도 채 되지 않아 이루어졌음
    • 슈퍼얼라인먼트 팀의 리더였던 Jan Leike와 공동 창업자 Ilya Sutskever도 올해 회사를 떠났음
    • Leike는 Anthropic에 합류했고, Sutskever는 Safe Superintelligence Inc.라는 새로운 회사를 시작했음

OpenAI와 Anthropic 간의 경쟁

  • OpenAI 직원들이 2021년 Anthropic을 설립한 이래로, 두 젊은 샌프란시스코 기반 기업은 인간과 유사한 텍스트를 생성할 수 있는 가장 성능이 뛰어난 생성 AI 모델을 보유하기 위해 경쟁해 왔음
  • Amazon, Google, Meta도 대규모 언어 모델을 개발해 왔음

최근 OpenAI의 변화

  • 이사회가 지난 11월 Altman을 최고경영자에서 밀어내자 Schulman을 비롯한 직원들이 항의함
  • 이에 따라 Sutskever와 다른 두 명의 이사회 구성원인 Tasha McCauley와 Helen Toner가 사임함
  • Altman은 복직했고 OpenAI는 추가 이사회 구성원을 받아들임

기타 소식

  • OpenAI의 공동 창업자이자 사장인 Greg Brockman은 올해 말까지 안식년을 가질 것이라고 발표했음

GN⁺의 의견

  • OpenAI와 Anthropic 간의 인재 유출은 AI 산업에서 경쟁이 치열해지고 있음을 보여줌
  • AI 안전 및 정렬은 AI 기술이 발전함에 따라 점점 더 중요해질 것으로 보이며, 이는 Schulman의 이직 이유에서도 드러남
  • 두 회사 모두 대규모 언어 모델 개발에 주력하고 있지만, AI 기술의 책임감 있는 개발과 배포를 위해서는 안전과 윤리에 대한 고려도 필수적임
  • OpenAI의 최근 내부 갈등과 경영진 교체는 빠르게 성장하는 AI 스타트업이 겪을 수 있는 성장통을 보여주는 사례로 볼 수 있음
  • 향후 OpenAI와 Anthropic이 어떤 방향으로 나아갈지, 그리고 AI 산업에서 어떤 역할을 할지 지켜볼 필요가 있음
▲
xguru 4달전  [-]

기타 소식에 잠깐 언급되었는데 OpenAI 리더급들의 이동이 많네요

  • OpenAI의 공동 창업자이자 사장인 Greg Brockman은 연말까지 장기 휴가를 갈 예정
  • 작년에 입사한 제품 리더 Peter Deng도 퇴사함
    • 최근 첫 CFO와 CPO를 영입했는데, 이는 Deng의 역할에 영향을 미쳤을 것으로 보임
  • 최근 또 다른 안전 리더인 Aleksander Madry를 다른 역할로 재배치함
  • 공동 창업자 Ilya Sutskever는 퇴사후 Safe Superintelligence Inc. 창업
  • 공동 창업자 Andrej Karpathy는 퇴사하고 AI+교육 회사 EurekaLabs를 창업
답변달기
▲
neo 4달전  [-]
Hacker News 의견

  • ChatGPT 5에 나쁜 소식일 가능성이 있음. 공동 창업자가 Anthropic으로 떠난 것은 OpenAI가 선두에 있지 않다는 신호일 수 있음

    • OpenAI의 연간 소모율이 약 50억 달러이며, 자금 조달이 잘 되지 않으면 의심스러운 투자자에게 돈을 받아야 할 수도 있음
    • 윤리적이고 원칙적인 길을 선택할 때 개인의 이익도 함께 얻을 수 있는 경우가 많음

  • 공동 창업자로서 어려운 결정이었을 것임. OpenAI의 최고 안전 책임자였음

    • OpenAI 리더십이 안전에 헌신하지 않아서 떠난 것은 아니라고 하지만, 믿기 어려움
    • Brockman의 안식년과 발표 시기가 일치하는 것이 흥미로움

  • GPT-4o에 혼란스러움. 속도는 빠르지만 품질이 떨어짐

    • 반복적인 답변을 주는 경우가 많음
    • Plus 구독을 취소했다가 다시 가입했지만, 가치가 없다고 느낌
    • 무료 티어의 빠른 다운그레이드가 짜증스러움
    • "메모리"와 "대화" 기능은 광고에 불과함
    • Gemini가 많이 개선됨
    • Claude와 Mistral은 코드 실행이 불가능함

  • AI 분야의 변화는 폭풍 전의 고요와 같음

    • 첫 번째 무료 오픈 AI 웹사이트가 인기를 끌 때가 중요함
    • AI 답변 산업이 검색 산업보다 10배 더 커질 수 있음
    • Google은 2년 동안 수익화 없이 운영됨

  • OpenAI의 공동 창업자는 11명이었음. Schulman도 그 중 하나였음

    • Schulman은 원래 AI 정렬/안전 책임자가 아니었음
    • 비영리 AI 연구소의 창립자가 복잡한 조직의 리더가 되기를 원하지 않을 수 있음
    • OpenAI의 성공은 적절한 인재를 채용하고 유지하는 능력에 달려 있음

  • Greg Brockman과 Peter Deng의 이탈을 포함한 더 포괄적인 제목

  • OpenAI가 수익성 모델로 이동하는 반면, Anthropic은 OpenAI의 원래 목표에 더 부합함

    • Anthropic이 어떻게 운영 자금을 조달하는지 궁금함
    • Amazon과 Google로부터 각각 40억 달러와 20억 달러의 투자를 받았음

  • Anthropic의 Claude 3.5 Sonnet이 최고의 모델임

    • OpenAI가 따라잡으려는 상황임

  • "AI 정렬에 집중"은 "가족과 친구와 더 많은 시간을 보내기"와 같음

    • OpenAI가 군사 응용 프로그램을 비밀리에 작업 중인지 궁금함
    • 정치적 논의를 피하기 위해 모델을 중립화하는 것일 수도 있음

  • Anthropic 팀에 대한 신뢰가 큼

답변달기