일리야 서츠케버, 알트만 해고의 "중심"에?

• OpenAI 내부 사태에서 chief scientist Ilya Sutskever가 핵심 인물이었다는 소식통발 내용이 나옴
• 갈등의 축은 Sam Altman·Greg Brockman과 Sutskever 사이의 역할·영향력 문제였고, 이사회가 Sutskever 쪽에 섰다는 내용임
• Developer Day와 스토어 도입 방식은 Altman이 너무 빠르고 멀리 밀어붙였다는 인식의 변곡점으로 언급됨
• 이 내용은 Kara Swisher가 소식통을 인용한 짧은 게시물에 기반하며, 구체적인 내부 절차나 이사회 결정 과정은 포함되지 않음
• Swisher는 Altman이 월요일까지 새 회사를 세울 것 같다는 개인적 예상을 덧붙임

---

Sutskever를 둘러싼 내부 갈등

• OpenAI chief scientist Ilya Sutskever가 이번 사태의 중심에 있었다는 소식통발 내용이 공개됨
• 갈등은 Sutskever와 Sam Altman, Greg Brockman 사이의 역할과 영향력을 둘러싸고 커진 것으로 전해짐
• 이 과정에서 Sutskever가 이사회를 자신의 편으로 만들었다는 내용도 포함됨

Developer Day 이후의 압박

• Developer Day와 스토어 도입 방식은 Altman이 “너무 멀리, 너무 빠르게” 밀어붙였다고 받아들여진 계기로 언급됨
• Kara Swisher는 개인적 예상으로 Altman이 월요일까지 새 회사를 세울 것이라고 봄

[GN⁺]

Hacker News 의견들

• 내가 선호하는 가설은 오래된 이야기와 비슷함. Sam Altman이 이카루스처럼 Microsoft의 거대한 돈줄에 너무 가까이 날아갔고, 회사의 창립 사명에서 방향을 틀어 원래 다루려 했던 지니를 풀어버렸다는 것임
  알고 보니 OpenAI 안에는 원래 비전을 진심으로 믿는 사람들이 있었던 듯함

  • 혹은 Altman이 Nvidia와 경쟁할 AI 칩 스타트업 자금을 모으려 하거나, Jony Ive와 함께 AI 지향 하드웨어를 만드는 새 회사에 SoftBank의 수십억 달러 투자를 끌어오려 했기 때문일 수도 있음
    그의 현재 외부 활동 상당수는 이사회를 불안하게 만들 수 있고, 향후 계획을 솔직히 공유하지 않았다면 해임될 만하다고 봄
  • 이게 사실이면 지금보다 인류에 대한 믿음이 조금은 더 생길 것 같음
  • 원래 비전은 꽤 명확했고, 엄청난 상업화 이익이 있더라도 딴길로 새지 말아야 할 설득력 있는 이유가 됨
    다행히 M$가 이사회를 장악하지는 못했음
  • 이미 PR 움직임이 시작됐다고 봄. OpenAI가 새 인격/정체성을 입는 방식으로 규제 포획이 정당화될 것 같고, 나는 믿지 않음
    산을 움직이는 건 도덕적 위상이 아니라 돈과 이익임. 이런 낙관적 해석은 전혀 믿기 어렵다
    정말 도덕적 입장으로 이런 행동을 했다면, 다른 동기 없이 이렇게 오래 조용히 있지는 않았을 것임
  • 이 관점에서 보면 VC나 테크 브로들이 이 일을 쿠데타로 포장하는 것과 달리 모든 게 말이 됨

• Sam이 이 권력 싸움에서 질 걸 알고, 이사회 몰래 자신에게 충성하는 사람들과 탈출 계획을 세우기 시작한 건 아닐까 궁금함
  이사회가 그걸 알아채고, 회사 자원으로 경쟁사를 만들지 못하게 최대한 빨리 쫓아낸 것일 수도 있음

  • Sam에게 경쟁사를 위해 자금을 모으고 인재를 끌어올 평판 자본이 없을 리가 없음. 이사회가 사실상 그 결정을 대신 내려준 셈임
    나 같으면 투자할 평범한 사람이고, 다른 관련은 없음
    [1] https://news.ycombinator.com/item?id=35306929
  • 이 가설은 사실 여부와 별개로 현재 알려진 사실들과 꽤 잘 맞아떨어짐
  • 그러면 결국 Sam이 성공할 게 뻔한 자금 조달을 약화시키려고, CEO에게 최악에 가까운 혐의를 씌워 태우려는 건가?

• sama와 gdb를 단순한 전략 차이 같은 사소한 이유로 몰아내는 건 완전히 비전문적임. sama는 심각한 부정행위 혐의를 받은 셈임
  OpenAI 기술을 상업화하는 데 지나치게 적극적이었다 해도, 이런 서커스를 정당화할 수준은 아님

  • 501(c)(3) 자선단체의 정관에 적힌 근본 사명이 현실에서 무엇을 의미하는지에 대해 근본적으로 합의하지 못하는 건 단순한 전략 차이가 아님
    또한 목표를 둘러싼 파벌 갈등이 있었다고 해서, 그 맥락에서 심각한 구체적 행위가 없었다는 뜻도 아님
  • 전략 차이는 임원을 해고하는 데 핵심적인 이유가 될 수 있음
  • 아직 전체 이야기를 모를 가능성이 더 크지 않나?
  • 이건 사소한 일이 아니라 회사의 핵심 사명이고, 설립 이유이자 투자자들이 들어온 이유이며, 세계 최고 수준 과학자들이 그곳에서 일하는 이유임
    애초에 비영리로 시작했잖아

• Hinton이 예전 제자 Sutskever에게 얼마나 영향을 줬는지 궁금함. Sutskever는 Hinton을 거의 누구보다 존경할 테고, Hinton의 강한 반대를 진지하게 받아들였을 것임
  개인적으로는 아쉬움. 이 흐름은 이제 완전히 피할 수 없어 보이고, 이런 식으로 의도적으로 브레이크를 밟아 미국이 선도 위치를 잃는다면, 최고의 AI 기술을 중국이 통제하는 세상이 더 안전하다고는 전혀 생각하지 않음

  • 왜 한 회사가 미국이 AI에서 중국을 이기느냐를 결정한다고 보는지 모르겠음
    내가 읽는 AI 논문 저자의 75%쯤은 중국인인데, 정말 중국이 앞서가는 게 두렵다면 그쪽이 훨씬 더 경고 신호에 가까움
  • 인류의 장기적 이익에 나쁜지 좋은지는 모르겠지만, 지금은 Klaus Fuchs 순간처럼 느껴짐
  • Hinton의 말을 그대로 받아들이고 있음. 어쩌면 그는 반년이 아니라 5년 동안 대규모 언어 모델 기술로 아무것도 못 해서 Google에서 밀려났을 수도 있음

• 몇 주 전 Bloomberg에서 Altman과 OpenAI의 프로그래밍 쪽 사람이 함께 나온 인터뷰를 들었는데, 둘 사이의 의견 차이가 분명했고 진행자가 그걸 농담으로 삼기까지 했음
  어쩌면 Altman은 다음 SBF가 될 운명이었을지도 모름. 대중에게 사람들이 듣고 싶어 하는 말을 하며 너무 많이 왜곡해 왔다는 느낌임

  • 그 인터뷰를 떠올려서 링크해 줄 수 있나? 보고 싶음
  • 어떤 의견 차이였나?

• Sutskever: “그걸 쿠데타라고 부를 수 있고 왜 그런 단어를 골랐는지도 이해하지만, 나는 동의하지 않습니다. 이는 OpenAI가 모든 인류에게 이익이 되는 AGI를 만들도록 보장한다는 비영리 사명을 위해 이사회가 의무를 수행한 것입니다.”
  Scoop: theinformation.com
  https://twitter.com/GaryMarcus/status/1725707548106580255

  • 현실적으로는 이 일이 Sutskever에게 더 나쁘게 비칠 수 있음. 아무도 뒤에서 찌르는 사람과 일하고 싶어 하지 않음
    “의견 차이가 있어서 각자 갈 길을 가기로 했다”면 모를까, 이사회는 Altman이 거짓말했다고 주장했음. 해임 사유가 전략 방향 차이였던 것으로 드러나면 Sutskever와 다시 일하고 싶어 할 사람은 없을 것임. 나도 절대 그러지 않을 듯함
    전문적 의견 차이 외에 잘못한 게 없는 사람에 대한 엄청난 명예훼손성 발언임
  • 사실상 확인이지만, 이를 묘사하는 용어 선택에만 약간 이견이 있는 셈임
  • 이 내용과 맞아 보이는 내부자 세부 사항이 있음
    https://www.reddit.com/user/Anxious_Bandicoot126/
  • 이런 의견 차이를 다루는 방식이 매우 비전문적임
  • 웃긴 건 지금까지 OpenAI가 진짜 AGI 구축을 향해 입증 가능한 진전을 전혀 보여주지 못했다는 것임
    ChatGPT는 대단한 기술적 성취이고 여러 면에서 유용하지만, 그 접근을 키운다고 AGI에 도달한다는 증거는 없음. 아마도 몇 가지 큰 돌파구가 더 필요할 것임

• 이런 감상을 말하기에 적절한 장소는 아닐 수 있지만, 원칙 있는 뛰어난 과학자가 자신의 창조물이 공동 점유당하는 걸 적어도 지금은 막아냈다는 점이 놀라움
  No Priors의 Sutskever 인터뷰를 들어보면 그와 Altman의 대비가 더 분명할 수 없고, 전자가 후자를 이기는 경우는 꽤 드묾

• George Senior 목소리로 말하자면: 그래서 세계적으로 중요한 일을 비영리로 하면 안 되는 것임. 비영리에서는 정치가 항상 진짜 가치를 이김

  • 진짜 가치를 무엇으로 보느냐에 따라 다름
    진짜 가치가 금전적 가치라면 맞을 수도 있음. 하지만 진짜 가치가 과학적 가치나 사회적 가치라면, 금전적 이익 추구와 꼭 맞아떨어지지는 않음
    참고로 나는 현재 비영리 연구기관에서 일하고 있고, 주주들을 더 부유하게 만드는 데는 전혀 관심이 없음. 소문이 사실이라면 OpenAI가 비영리 가치로 돌아가고 이름 속 Open을 기억하는 건 좋은 변화임

• Ilya Sutskever가 어떤 사람이고 무슨 생각을 하는지 감이 별로 없어서 최근 인터뷰를 찾아봄. 2주 전 No Priors 팟캐스트 인터뷰가 있음
  https://www.youtube.com/watch?v=Ft0gTO2K85A
  적어도 내가 보기에는 오늘의 소동에 대한 뚜렷한 단서는 없었지만, 그래도 흥미롭게 들을 만했음

  • 이 인터뷰로 판단하면 더 많은 개방성을 기대하긴 어려워 보임. Ilya는 모델이 너무 강력할 수 있다는 이유로 모델 오픈소스화에 반대하는 듯함
    다행히 아무도 그에게 바퀴를 발명해 달라고 하지 않았음. 사람들이 자기 안전을 해칠 만큼 너무 빨리 이동할 수도 있으니까

• 이 가설은 너무 생각 없이 벌인 일처럼 보여서 믿기 어려움. Sam Altman이 무책임했고 위험을 감수했을 수는 있지만, 그들에게는 말도 안 되게 좋은 상황이 있었음
  좋은 시절이 Sam Altman 덕분이라고 말하는 건 아니지만, 그룹에서 가장 눈에 띄는 인물 중 하나를 갑자기 해고하고, 개인별 충성심이 어디 있는지 드러나게 만들고, 아무 예고 없이 Microsoft 주가를 흔들어 화나게 하면 그 좋은 상황은 끝날 가능성이 큼
  이 모든 일은 엄청난 자본과 세계 정상급 인재 없이는 불가능했고, 아마 둘 다 확보하기 훨씬 어렵게 만들어버렸을 것임
  하지만 내가 뭘 알겠나? 말도 안 되게 큰 대규모 언어 모델을 만들면서 실제로 AGI를 만들고 있다고 스스로 설득할 수 있다면, 다른 멍청한 생각들도 얼마든지 설득할 수 있을 것임

  • 똑똑한 사람들도 때로는 멍청한 결정을 함. 정말 그 정도로 단순함
    갑자기 엄청 부자가 되고, 어쩌면 권력까지 생겼고, 전국 TV에서 지구상 가장 강력한 정부와 이야기하는 젊은 남자가 있음. 그런 사람이 조금 우쭐해지고 자기 일이 무엇인지 잊고, OpenAI는 그곳에서 일하는 모든 사람이 아니라 자기 자신이라고 생각하게 됐을 수 있다는 데 놀라는 건가? 그리고 현실을 힘들게 배우게 되는 것임
    놀랄 게 뭐가 있나? 너무나 전형적으로 인간적이고 전혀 놀랍지 않은 일이며, 늘 일어나는 일임
    여기 많은 사람들은 똑똑한 사람이 본질적으로 특별하지 않고, 똑똑하다고 해서 실수하거나 못되게 굴 가능성이 마법처럼 사라지지 않는다는 생각을 힘들어함
  • 행간을 읽어보면, Sam은 이 “말도 안 되게 좋은 상황”을 큰돈을 버는 방향으로 몰고 있었고, 비영리 이사회는 다른 목표를 더 우선했을 가능성이 있음
  • CEO가 너무 빠르게 움직이며 많은 것을 망가뜨리려는 욕구보다 직원들 편을 든 것처럼 보인다면, 오히려 세계 정상급 인재를 끌어들이는 데 도움이 될 수도 있음
    CEO가 Cybernet을 내일 배포하려 들지 않고 다음 주로 미루는 덕분에 밤에 집에 갈 수 있다고 느끼는 쪽이 더 매력적일 것임
  • 솔직히 이건 Ilya가 자신을 Tony Stark처럼 여기고, 여전히 인상적인 언어 모델을 Iron Man 슈트와 같은 것으로 착각하는 듯 읽힘
    무지에 가까운 오만이고, 현실은 그렇게 낭만적이지 않음
    이 일이 OpenAI가 다중모달 모델의 문지기 노릇을 하려는 방향으로 가거나, 반대로 다른 모두가 OpenAI를 먼지처럼 따돌리는 방향으로 가지 않기만 바람
  • Microsoft 주가가 언제 폭락했나?
    https://finance.yahoo.com/quote/MSFT/