이사회 조치에 대한 나의 참여를 깊이 후회함

[GN⁺]

Hacker News 의견들

• 이 사태 전체가 수상해 보임
  이사회는 Sam을 해임하면서 “목표에 대한 깊은 불일치”, “근본적 부적합” 같은 일반적인 이유를 댈 수 있었는데, 대신 “일관되게 솔직하지 않았다”, “더 이상 신뢰하지 않는다”처럼 Sam에게 책임이 있는 것처럼 표현함
  실제로 정당한 해고 사유가 있었을 수도 있고, 아니면 의도적인 물타기였을 수도 있음. 후자라면 오히려 이사회가 “일관되게 솔직하지 않은” 쪽임. 이후 침묵과 전략적 파트너들과의 조율 부재를 보면 더 그렇게 보임
  Ilya가 이제 와서 후회한다고 하는 건 “들켜서 창피하다”는 느낌이 강함. 카리스마 있는 공개 인물을 비방하고 쿠데타를 꾸몄지만, 그 후폭풍을 감당할 계획이 없었던 것 같음
  https://www.newcomer.co/p/give-openais-board-some-time-the

  • 다른 가능성은 Sutskever가 조작당해 수상한 명분으로 계획에 빨려 들어갔고, 이제야 그걸 깨닫고 바로잡으려 한다는 것임
  • “목표에 대한 깊은 불일치”라니, 혹시 GPT-5가 결정한 건가?
  • Altman이 사우디 쪽과 함께 AI 가속기를 만드는 별도 스타트업을 준비하려던 것 아니었나?
    지금은 이유를 명확히 밝혀야 함. 현재로선 사우디 관련설이 가장 큰 이유처럼 보임
  • 맞음. 이사회가 이 일을 평범한 해고처럼 포장했다고 보는 건 타당함. 실제 비위나 과거 문제의 재부상 같은 게 없다면 꽤 무책임해 보임
  • 공개서한에는 OpenAI가 세계 선도 AI 회사이고, 직원들이 최고의 모델과 AI 안전·거버넌스 작업을 해왔으며, Sam Altman 해임과 Greg Brockman 이사회 축출 과정이 이 모든 작업과 미션을 위태롭게 했다고 적혀 있음
    특히 이사회가 구체적 사실이나 서면 증거를 여러 차례 요청받고도 제시하지 않았고, “회사가 파괴되도록 두는 것이 미션에 부합할 수 있다”고 리더십 팀에 말했다는 대목이 눈에 띔
    정말 AGI를 달성한 건가? 아니면 뭔가 우려스러운 현상을 관측한 건가?

• Ben Thompson의 해석이 가장 좋아 보임. 비영리 조직에 다소 비판적으로 치우쳐 있긴 함
  https://stratechery.com/2023/openais-misalignment-and-micros...
  AI 위험이 어느 정도인지는 모르지만, 이를 막을 해법을 비영리 조직이 연구하는 건 가치 있는 일임. 영리 기업은 Google이 Timnit Gebru와 Margaret Mitchell을 해고한 것처럼 그런 일을 하지 않을 가능성이 큼
  정말 그 미션을 믿는다면 안전장치 기술을 개발해 오픈소스로 공개해야 함. Microsoft, Google, Meta, Amazon 같은 회사들은 AI 안전에 진지하게 투자하진 않더라도 남의 무료 작업을 가져다 쓰는 건 마다하지 않을 것임. 다만 돈이 안 되니 OpenAI 직원 대부분은 더 좋은 조건을 찾아 떠날 가능성이 큼

  • 돈보다 권력의 유혹이 더 크다는 걸 잊고 있음
    비영리 조직들도 결국 자기들이 문지기 역할을 하면서, “일반인에게는 너무 위험하다”는 이유로 대중의 접근을 막는 해법을 내놓을 것임
    차라리 영리 기업이 통제하는 편이 낫다고 봄. 이상적으로는 오픈소스가 되어 일반인이 자기 목표에 맞게 AI를 제어하고 정렬할 수 있어야 함
  • 동의함. 이 안전 논의는 초기 사이버보안 시절, 은폐를 통한 보안이 표준이던 때를 떠올리게 함
    직관과 반대지만, 기술을 가둬두는 건 가격과 임금을 통제하려는 것과 비슷함. 전 세계 GPU를 압수하고 데이터센터를 폭격하지 않는 한 작동하지 않음
    앞으로 올 AGI와 ASI를 정렬하는 가장 좋은 방법은 햇빛 아래에서 만드는 것임. “가둬두자”는 접근은 전부 실패할 운명임
  • Timnit Gebru는 AI/ML 부서 전체를 망가뜨리던 독성이 강한 활동가였고, 경영진은 부서를 인질로 잡던 사람을 해고한 것이라고 봄

• Microsoft에는 크리스마스가 일찍 온 것 같음
  100억 달러 투자와 관련해 끔찍한 상황처럼 보였던 일이, 해당 분야 핵심 인력 채용으로 바뀌었고 OpenAI가 살아남기 위해 Microsoft에 인수되어야 할 수도 있음
  지난 72시간 동안 드러난 완전한 혼란을 보면, OpenAI ChatGPT 위에 뭔가를 만들려는 관심은 급감했을 수 있음. 반면 Azure OpenAI나 Claude 2 위에 만들려는 쪽은 더 매력적으로 보일 수 있음

  • 기억이 맞다면 OpenAI는 Azure에서 학습했는데, 양쪽 모두 GPU에 굶주린 상황에서 이해상충은 어떻게 전개될까?

• “참여”라는 표현은 그가 주도자가 아니라 그냥 참가자였던 것처럼 들리게 함. 그게 사실인지는 모르지만 흥미로운 단어 선택임

  • 6명짜리 이사회에서 2명을 몰아내는 투표를 해놓고 무고한 방관자일 수는 없음. 숫자가 안 맞음
    게다가 모든 매체가 Ilya를 쿠데타의 추진력으로 지목해왔음
    솔직히 꽤 한심함. 정말 신념의 문제였다면 최소한 주말 하나는 버텼어야 함
  • 전체 문장이 이상하게 쓰였음
    후회는 표현하지만 Altman을 되돌리고 싶다고는 하지 않음. 그냥 OpenAI를 고치고 싶다고만 함
    “참여했다”고 하는데 무엇에 참여했다는 건지 불분명함. 투표인지, 독성 있는 메시징인지, 둘 다인지. 정확히 무엇을 후회한다는 걸까? 다시 말하지만 Altman 해고 투표를 후회한다고는 하지 않음
    왜 그냥 “Sam Altman 해고에 투표한 걸 후회하고, 그를 복귀시키려 노력하고 있다”고 말하지 않을까? 아마 그게 사실이 아니기 때문일 것임. 그런데도 그런 인상을 주고 있음
  • 축출이 Poe 쪽 인물이 주도한 것이라면, 실제 이념 차이보다는 내부에서 경쟁자를 제거한 일에 가까울 가능성도 커짐
  • 이 트윗의 주된 목적은 후회를 보여주는 게 아니라, 자신은 주도한 게 아니라 참여만 했다는 인식을 심으려는 것이라고 봄
  • 전형적인 “내 책임 아님”임

• Shengjia Zhao의 삭제된 트윗: https://i.imgur.com/yrpXvt9.png

  • 이 사람이 조직 내에서 Ilya가 뭘 원하는지 알 만큼 높은 위치인가?
    아니면 자기 수백만 달러가 위험해져서 화가 난 건가?
  • “Ilya는 안전이나 인류에 관심 없다. 그냥 자존심과 권력욕이 역풍을 맞은 것이다.”
    이쪽이 더 믿김
    왜 갑자기 사람들이 인간이 돈과 권력에 동기부여되지 않는다고 생각하는지 모르겠음. “학자”라면 더더욱 아니라고 믿는 것도 웃김

• 대체 뭐임?
  지금까지는 이 혼란을 원칙의 문제로 이해했음. 지저분하긴 했지만 Ilya 쪽이 구상한 회사 문화를 바로잡기 위해 필요했던 일이라고 봤음
  움직일 거면 최소한 그 입장은 지켜야 함. 이 트윗 때문에 상황의 맥락이 10배는 더 나빠진 느낌임

  • 보통 사람은 큰 논란의 중심에 서는 걸 견디기 어려움. 감당해야 하는 부정성과 증오가 엄청남
    거의 누구라도 그걸 멈추기 위해 물러서게 만들 수 있음
  • 단순함. 그는 움직였고, 일이 망했고, 이제 폭발을 피하려는 중임
    그냥 입을 다물고 있었으면, 이미 벌어진 다른 일들 때문에 오늘 아무도 그 얘기를 하지 않았을 것임. 이틀에 임시 CEO가 2명이라니
    이 광대극 전체에서 지금 말이 되는 건 거의 이것뿐임
  • 실제로 무슨 일이 벌어졌는지 알기 어렵지만, Ilya의 “진영”이라는 서사가 실제와 달랐을 가능성도 있음
    아주 적은 증거를 바탕으로 상황을 이해하려던 소셜 미디어 집단사고가 만들어낸 환각이었을 수 있음
  • “움직일 거면 최소한 그 입장은 지켜야 한다”는 반응이 많지만, 그와는 다르게 봄
    당시에는 좋은 결정이라고 생각했지만 나중에 더 넓은 관점을 얻고 끔찍한 결정이었다는 걸 깨달은 적이 있음
    망쳤을 때 망쳤다고 인정할 수 있는 건 훌륭한 자질임. 실수를 계속 고집하는 건 존경할 만하지 않음
  • 그 정도로 똑똑한 사람들이 이렇게 잡음을 많이 내는 게 믿기지 않음
    Mensa 모임에서 기본적인 조직 운영 포인트조차 합의하지 못하던 친구 얘기가 떠오름

• 이 모든 게 ChatGPT에게 하루이틀 동안 이사회 결정을 맡겨본 미디어 이벤트였던 것 같다는 생각이 듦

  • 첫 행동으로 자기 상사를 해고하는 AGI라면 꽤 완벽함
  • RLHF 모델이라면 절대 이런 제안을 하지 않았을 것임. 제안되는 해법은 늘 손잡고 “Kumbaya”를 부르는 쪽임
    어쩌면 원본 GPT-4는 모두를 해고하고 싶어 할지도 모름
  • 며칠 전부터 HN 제출 글의 거의 절반이 이 드라마에 관한 것처럼 느껴짐
    DM으로 하면 안 되나? 왜 모든 걸 Twitter로 공개해야 하는지 모르겠음
    선도적인 ML/AI 시스템을 만드는 사람들이 오히려 이기심과 감정에 가장 깊이 뿌리박혀 있고, 겉보기엔 합리성이 거의 없다는 게 꽤 역설적임
  • 실수로 악한 AGI-GPT를 만들었고, 이제 그 예측 능력을 혼란시키려고 최대한 무작위적이고 예상 밖으로 행동하는 중일 수도 있음

• 그는 그냥 일이 크게 역풍을 맞아서 후회하는 것 같음
  Microsoft가 OpenAI의 가치 있는 것을 전부 집어삼키고 있고, 자신에게는 아무것도 남지 않을 걸 알고 있음
  아주 큰 판돈에서 허세를 부렸다가 진 것임

• 이건 최근 몇 년간 Netflix, Disney, Amazon, Apple TV가 내놓은 어떤 것보다 재밌음

  • 줄거리가 좀 비현실적이긴 함
  • 주인공 누구에게도 공감이 안 돼서 좀 아쉬움
  • 이 정도를 극적이라고 느낀다면 YC 회사에서 일해본 적이 없는 것임. 지금 생태계에서 OpenAI가 차지하는 의미 때문에 증폭되어 보일 뿐임
  • Netflix가 벌써 영화 작업 중일까? ChatGPT가 흥미를 위해 적당한 양의 환각을 섞어 각본을 도울 수 있겠음

• 물론 깊이 후회하겠지만, 이제는 좀 늦었음
  좋은 소식이라면 Twitch를 오래 써본 사람들은 알겠지만, Emmett Shear가 지휘한다면 OpenAI가 새 기능을 너무 빠르게 내놓는 일에 더는 겁먹지 않아도 된다는 것임