전 OpenAI 이사회 멤버, Sam Altman의 일시적 축출 원인 공개

• 전 OpenAI 이사회 멤버 Helen Toner는 Sam Altman이 이사회에 여러 차례 거짓말을 했고, 그 신뢰 붕괴가 2023년 11월 일시적 해임으로 이어졌다고 주장함
• 이사회는 ChatGPT 출시를 Twitter에서 알았고, Altman이 수년간 회사 내부 상황을 숨기거나 잘못 전달했다는 것이 Toner의 설명임
• Altman이 OpenAI startup fund 소유 사실을 알리지 않은 일은, 그가 독립 이사회 멤버라고 주장해 온 점과 충돌하는 핵심 사례로 제시됨
• Toner는 Altman이 OpenAI의 공식 안전 프로세스 수에 대해서도 부정확한 정보를 줘 이사회가 안전 조치의 충분성을 판단하기 어려웠다고 봄
• 이사회는 2023년 10월부터 해임을 진지하게 논의했지만, 직원 이탈 위협과 Microsoft의 Altman 팀 영입 가능성이 거론된 뒤 1주일도 안 돼 그를 CEO로 복귀시킴

---

Helen Toner가 밝힌 해임 배경

• 전 OpenAI 이사회 멤버 Helen Toner는 Bilawal Sidhu의 “The TED AI Show” 인터뷰에서 Sam Altman의 2023년 11월 일시적 해임 배경을 공개함
• Toner에 따르면 Altman은 이사회에 “여러 번” 거짓말을 했고, 이사회는 ChatGPT 출시 사실도 Twitter를 통해 알게 됨
• Altman은 수년간 정보를 숨기고 회사에서 일어나는 일을 잘못 전달한 것으로 전해짐
• 또 자신이 OpenAI startup fund를 소유했다는 사실을 이사회에 알리지 않으면서, 회사에 재정적 이해관계가 없는 독립 이사회 멤버라고 계속 주장함
• 이 일은 Altman에 대한 이사회의 신뢰를 크게 훼손했고, 2023년 10월에는 이미 해임 필요성이 꽤 진지하게 논의되고 있었음
• Business Insider의 논평 요청에 OpenAI는 즉시 응답하지 않음

안전 프로세스와 리더십 신뢰 문제

• Altman은 OpenAI에 있던 소수의 공식 안전 프로세스에 대해서도 이사회에 부정확한 정보를 준 것으로 전해짐
  • 이 때문에 이사회가 안전 조치가 충분한지, 변경이 필요한지 이해하기 거의 불가능해짐
• Toner는 개별 사례가 더 있었지만, 결국 이사회가 Altman의 말을 믿을 수 없는 상태가 됐다고 봄
• 이사회의 역할은 OpenAI에 대한 독립적 감독이지, CEO가 더 많은 자금을 조달하도록 돕는 것만은 아니었다는 점도 강조됨
• 2023년 10월, 두 명의 임원이 이사회와 여러 차례 대화하며 Altman과의 경험을 설명했고 “psychological abuse”라는 표현을 사용함
  • 이 임원들은 Altman이 회사를 AGI로 이끌 적임자가 아니라고 판단함
  • 또한 그가 바뀔 수 있거나 바뀔 것이라는 믿음이 없고, 피드백을 주거나 문제를 함께 해결하려 해도 소용없다고 전함
• 이사회가 Altman 교체 필요성을 인식했을 때, Altman이 이를 알게 되면 이사회의 움직임을 막기 위해 “모든 수단을 동원할” 것이 분명했다고 Toner는 봄
  • Toner에 따르면 Altman은 Toner를 이사회에서 밀어내려 다른 이사회 멤버들에게 거짓말을 하기 시작함
  • 이사회는 법무팀 외에는 사전에 거의 아무에게도 알리지 않는 방식으로 2023년 11월 17일까지 절차를 진행함
• Altman의 해임은 오래가지 않았고, 직원들의 퇴사 위협과 Microsoft가 Altman 팀을 OpenAI에서 데려가 직접 고용할 수 있다는 관측이 나온 뒤 이사회는 1주일도 안 돼 그를 CEO로 복귀시킴
• Toner는 Altman이 CEO로 복귀한 지 2주도 안 돼 OpenAI 이사회에서 사임함

[GN⁺]

Hacker News 의견들

• https://archive.is/LpDuJ

• 이번 사태 전체는 명목상 권한과 실제 권력의 흥미로운 사례 연구임
  문서상으로는 이사회가 권한을 갖고 경영진을 감시하고 채용·해임하는 역할을 맡지만, 실제로는 정보 면에서 경영진에게 의존함
  투자자 한 곳이 절반을 보유하고, 창업자들이 로드맵을 이끌며 핵심 인력의 이탈 여부에도 영향력을 갖는 지점에 실제 권력이 있음

  • 이 경우 OpenAI 이사회의 위치는 훨씬 더 나빴음
    회사가 사실상 연구자, 엔지니어, Microsoft Azure 크레딧의 결합체라서 CEO를 교체할 수는 있어도, 마음에 들지 않으면 회사 가치 전체가 걸어서 나가버릴 수 있음
  • 이사회가 그냥 접은 것임
    그 임무에 맞는 사람들이 아니었고, 조금만 더 버티고 홍보 전략을 잘 짰다면 이겼을 것임
  • 더 정확히는 지위 기반 권력과 관계 기반 권력의 차이임
  • A Song of Ice and Fire의 대사가 떠오름

    Varys smiled. “Here, then. Power resides where men believe it resides. No more and no less.”
    
    “So power is a mummer’s trick?”
    
    “A shadow on the wall,” Varys murmured, “yet shadows can kill. And ofttimes a very small man can cast a very large shadow.”  
    

• 이 내용이 사실일 가능성은 꽤 높아 보이지만, 동시에 이사회가 무능하고 대립을 감당 못 하는 집단처럼 보이게 만듦
  공식 문제 제기, 감시 강화, Sam의 책임을 다른 사람에게 이관, 법적 조치 경고 같은 선택지가 있었는데, 대신 비밀 쿠데타를 시도했고 그 결과 Sam이 약자처럼 보이게 됨

  • 이사회 역할을 근본적으로 오해하고 있는 듯함
    회사 이사회에는 사실상 한 가지 일, 즉 CEO를 임명하고 해임하는 일이 있다고 자주 말함
    약간 과장일 수는 있지만, 이 말의 핵심은 이사회가 경영진의 의사결정에 끼어들면 일이 나빠진다는 것임
    결정이 마음에 들지 않으면 CEO를 교체해야 하고, 권한도 거기에 있음
    “공식 문제 제기”를 누구에게 한다는 건지 모르겠음
    이사회가 최종 권한자인데 누구에게 민원을 넣는다는 것인지 애매함
    “Sam의 책임을 다른 사람에게 이관”하는 것도 기업 지배구조 전문가라면 재앙의 처방이라고 볼 것이고, 회사 위계상 가능하지도 않음
    Altman 해임 처리 방식은 매우 순진했고 당시 커뮤니케이션도 형편없었다고 여러 번 말했지만, 그게 어떤 종류의 “쿠데타”였다고 보지도 않고 제안한 대응들도 말이 안 됨
  • “쿠데타”라는 표현을 많이 봤지만 정당화하기 어려움
    이들은 이사회이고, CEO를 채용하고 해임하는 것은 핵심 업무임
    비영리 조직에서는 미션 정렬을 유지하는 것도 마찬가지임
  • “공식 문제 제기”를 누구에게 한다는 건가?
    이사회 자체가 조사하고 행동할 권한을 가진 최종 권한자임
    구성원들이 우려가 있으면 행동하거나 하지 않을 뿐이고, 책임을 넘길 다른 곳은 없음
  • 그렇게까지 불신해서 은유적 구속복을 입혀야만 제대로 행동할 사람이라면, CEO로 두는 의미가 무엇인지 모르겠음
    게다가 보복적 성향이라면 내부에서 권한을 가진 채로 훨씬 더 쉽게 피해를 줄 수 있음
  • 개인 관계에서 학대적인 사람을 상대할 때의 표준 조언은 도망치라는 것이라고 봄
    대체로 고칠 수 있다고 기대하는 게 비현실적이기 때문임
    신뢰가 전제되어야 하는 사업 관계에도 같은 논리가 적용되지 않을 이유가 있나?

• 거의 아무에게도 미리 알리지 않은 것은 Altman의 방해로부터 이사회를 보호하려는 의도였지만, 결과적으로 방어 불가능한 처지에 몰아넣었음
  아주 부유하고 인맥 좋은 사람들을 상대로, 내세울 서사조차 없이 혼자 싸우게 된 셈임

  • 보도자료 하나가 결과를 완전히 바꿨을지도 모른다는 느낌
    이사회라면 자기들끼리 보도자료 정도는 합의할 수 있어야 하지 않나?
  • 핵심은 이 일을 해놓고도 공개적으로 왜 했는지 설명하지 못했다는 것임
    이런 일을 하려면 준비를 다 끝내고 방어할 태세가 되어 있어야 함

• “누구에게 알릴지 매우 조심스럽고 신중하게 골랐고, 법무팀을 제외하면 사실상 거의 아무에게도 사전에 알리지 않았다”는 말인데, 누출이 그 정도로 걱정됐다면 적어도 당일에 주요 투자자, 즉 Microsoft에 줄 브리핑 자료 같은 건 준비했어야 하지 않나?
  주요 투자자, 사실상 자기 상사들을 사전에 설득하지 못했다면 더더욱 그랬어야 함

  • 이 경우 주요 투자자는 이사회의 상사가 아님
    OpenAI는 비영리 조직이기 때문임
    Microsoft는 비영리 헌장의 목표에 반하게 행동할 유인이 있고, 실제로 이번에도 그렇게 했음

• 모든 증거가 Altman이 거짓말하고 이중적으로 행동했다는 쪽을 가리킴
  나라도 해고했을 것임

  • 정부 명령을 거부하고 사람들 눈을 스캔해 잡코인과 교환하는 일을 멈추지 않아 두 나라에서 쫓겨난 그 사람 말인가?
    그 사람이 거짓말하고 이중적이라고?

• 여전히 기이한 건 이사회가 그를 어떻게 다시 데려왔느냐는 점임
  어느 각도에서도 이해가 안 됨
  그가 거짓말하고 계략을 꾸민 건 매우 분명한데 왜 문제가 되었는지 모르겠음
  해임된 뒤에는 권한이 없었음
  다른 회사가 그를 채용하겠다면 그러라 하면 되고, Twitter에서 그럴듯한 말만 늘어놓는다면 신경 쓸 필요가 없음
  직원들이 떠나겠다고 협박했다면 떠나게 두면 됨
  상당수는 실제로 안 떠났을 것 같고, 떠난다 해도 다시 채용하고 제대로 된 CEO를 찾으면 됐을 것임
  남아 있을 직원들이야말로 붙잡아야 할 사람들이었을 가능성이 큼
  그런데 왜 그를 재채용하고 나서 사임했나? 해고 상태로 둔 채 사임하면 되지 않았나?
  Microsoft는 왜 그렇게 Altman을 신경 썼는지도 모르겠음
  이사회 의석도 없었으니 어쩔 수 없는 일이고, 영향력을 가져서는 안 됐음
  OpenAI를 원하면 사면 됨
  Microsoft가 Altman을 자기 회사로 데려와서 얻을 가치가 무엇인지도 모르겠음
  모든 게 말이 안 됨
  오히려 가장 분명한 건 Altman의 부정적인 행동 방식임
  OpenAI 지분이 없다고 큰소리로 순진한 척 발표하던 것이 기억남
  그래, 경력 있는 벤처투자자가 자신에게 금전적 이익이 전혀 없도록 새 회사 구조를 만들었다고 믿으라는 건가
  다른 시간선에서는 OpenAI가 그를 해임하고 임시 CEO를 임명한 뒤, 다른 모든 소음을 무시하고 새 CEO를 뽑았어도 잘 굴러갔을 것임
  Microsoft와 다른 이들이 왜 그렇게 큰 소동을 벌였는지 모르겠고, 이사회도 세부 내용을 제공할 수 있었는데 왜 그렇게 수수께끼 같은 보도자료를 냈는지 모르겠음
  음모론적 가능성까지 열어봐도 이해가 안 됨
  관련자 누구도, Satya Nadella까지 포함해, 뭘 하는지 모르는 느낌임

  • 답을 이미 말해놓고도 dismissed한 셈임
    이사회가 Sam Altman 복귀에 동의한 것은 직원 90% 이상이 사직을 위협하고, OpenAI의 지식재산권을 가진 Microsoft가 그들을 즉시 전원 채용하겠다고 제안한 거대한 압박전 때문임
    여기에는 회사의 핵심 리더십도 포함됐음
    조직이 하룻밤 사이에 풀려나가고 있었고, “불만 있는 직원 몇 명이 떠날 수 있다”는 임계점을 훨씬 지난 상태였음
    남아서 관리할 OpenAI 자체가 없어졌을 것임
  • 현재 이사회는 그럼 어떤 상태에 놓이는 건가?
    CEO는 사과나 책임 인정도 하지 않았고, 설령 했다 해도 이사회 감독을 적극적으로 방해하는 것은 명백히 금지선임
    직무 수행에 필요한 정보조차 제공하지 않겠다는 태도를 보인 CEO와 함께 이사회가 어떻게 역할을 할 수 있겠나?
    이 CEO가 정보 접근을 막을 수 있는 자리에 남아 있는 한, 이사회에는 신뢰성이 없음
  • 전적으로 동의함
    OpenAI나 이사회 구성원들에게는 전혀 관심 없지만, 이사회가 최소한 괜찮게 해야 할 단 하나의 일인 채용과 해임에서 너무 많은 무능을 봤음
    그것만으로도 이사회 개편은 좋았다고 봄
    이 사태에서 누구를 지지하든 상관없음
  • Microsoft는 팔려나간 버전의 OpenAI가 필요함
    그래야 윤리와 안전에 관해 성가신 소리를 내는 사람 없이 가능한 한 많은 돈을 벌 수 있기 때문임
  • Helen Toner에 따르면, OpenAI 변호사들이 그를 계속 배제해서 회사가 큰돈을 잃으면 Toner와 다른 이사회 구성원들이 개인적으로 책임질 수 있다고 말했다고 함

• AGI에 가장 가까운 회사의 CEO가 매우 똑똑하지만 명확한 정렬 문제를 갖고 있다는 점이 재미있음

• Toner의 이번 설명은 Sam이 축출된 이유에 관해 사실처럼 들리는 면이 있음
  앞뒤가 맞음
  Sam 개인에 대해 어떻게 생각하든, 그 입장이었다면 나도 아마 같은 결정을 했을 것임
  CEO가 이사회에 여러 번 거짓말하고 속이는 것은 꽤 심각한 레드라인임

  • Sam이 Y Combinator에서 해임된 이유와도 비슷함
    새삼스러운 일이 아니고, 돈이 걸리면 사람들의 기억이 도덕성만큼 흐려질 뿐임

• 사람들이 Y Combinator 게시판에서 Sam Altman을 변호하러 달려드는 게 아이러니함
  YC도 비슷한 이유로 그를 임원 리더십 역할에서 해임했음

  • Altman에 대한 내 생각은 GPT-2를 안전상의 이유로 천천히 공개했던 때와 같음
    현실이 어떻든 간에, 최악을 가정하고 그것이 실제일 가능성도 감당할 수 있는 시스템과 절차를 갖추는 편이 최선임
  • Loopt의 시작과 끝을 모두 지켜볼 만큼 오래 있었던 사람들에게는 완전히 평범한 상식임
    Altman은 판매 가능한 기술이 하나뿐인 다크 트라이어드형 소시오패스이고, 그 기술은 pg의 말대로 “powerful해지는 것”임
    코딩도 못 하고, 설계도 못 하고, 논문도 못 내고, 사기 방지 장치가 조금이라도 있는 전통적 기업 사다리도 못 오르고, 쿠키 단지에서 손을 빼지도 못함
    대신 거짓말하고, 협박하고, 구슬리고, 조종하고, 뇌물을 주는 일은 망설임이나 후회 없이 할 수 있음
    이 말도 안 되는 것에 10년째 부정적으로 베팅해 왔고, 덕분에 파산하지 않고 버티는 데 도움이 되지는 않았지만, 시장이 이성적으로 변할 때는 보통 한꺼번에 변함
    Karpathy, Ilya, Yoon이 바로 떠오르고 그 밖에도 셀 수 없이 많음
    LeCun은 얼마 전 X에서 작정하고 공격적으로 나섰음
    내부자들이 Goldman이 Burry를 상대하던 때처럼 숏 포지션을 잡는 느낌임
    그는 목숨이 아홉 개라 이미 사기성 문제로 세 번쯤 해고됐는데도 여전히 그런 삶을 살고 있으니, 어쩌면 결국 내 잔에 Ice Nine을 넣을 만큼 오래 버틸지도 모름
    하지만 이런 일은 무한히 반복될 수 없음
  • 사실이 아님: https://twitter.com/paulg/status/1796107666265108940
  • 그의 여동생 관련 일은 해결됐나?
  • “해임됐다”고 썼는데, 구체적이고 신뢰도 높은 출처를 Google에서 찾아보려 했지만 찾지 못했음
    찾은 것 중 최선은 “Altman은 자신의 이익을 우선했다는 이유로 YCombinator 회장직에서 해임됐다고 알려졌다”는 정도임
    여기서 핵심은 “allegedly”라는 표현임
    YC 보도자료나 내부자의 해임 설명이 있나? 없다면 그냥 소문일 뿐임
    분명히 하자면, Altman이나 YC를 옹호하려고 쓰는 글은 아님