OpenAI의 구조 변화 필요성과 향후 계획

• OpenAI는 AGI 개발에 필요한 자본 규모가 커지면서, 영리 부문의 성장이 비영리 사명을 더 오래 뒷받침하는 구조로 조직을 재설계하려 함
• 2015년 연구소로 출발했을 때는 제품·사업·상업 매출 없이 기부와 클라우드 크레딧에 의존했지만, 고도 AI에는 기부만으로 감당하기 어려운 컴퓨트와 자본이 필요해짐
• 2019년에는 AGI 구축에 약 100억 달러가 필요하다고 보고, 비영리가 통제하는 capped-profit 영리 법인을 만들었으며 Microsoft의 10억 달러 투자를 포함해 자금을 유치함
• ChatGPT는 2022년 출시 후 매주 3억 명 이상이 생산성·학습 등에 사용하고, 2024년 o-series 모델은 “생각” 컴퓨트에 따라 확장되는 추론 능력을 보임
• 검토 중인 방향은 기존 영리 법인을 Delaware Public Benefit Corporation(PBC) 으로 전환하고, 비영리 부문은 PBC 지분을 기반으로 의료·교육·과학 이니셔티브를 추진하는 것임

---

구조 재검토의 핵심

• OpenAI 이사회는 AGI가 인류 전체에 이익이 되도록 한다는 사명을 지원하기 위해 기업 구조를 다시 평가 중임
• 검토의 초점은 세 가지임
  • 사명의 장기적 성공에 맞는 비영리/영리 구조 선택
  • 비영리 부문의 지속 가능성 확보
  • 각 부문이 맡은 역할을 수행할 수 있도록 구조 정비
• OpenAI는 앞으로도 비영리와 영리 부문을 모두 유지하려 함
• 영리 부문의 성공은 비영리 부문이 충분한 재원을 갖고 사명 수행에서 더 강한 위치를 확보하는 기반으로 설정됨
• OpenAI는 AGI를 “대부분의 경제적으로 가치 있는 일에서 인간을 능가하는 고도로 자율적인 시스템”으로 정의함

2015년 비영리 연구소로 출발

• OpenAI는 2015년 AGI가 실제로 가능할 수 있다는 판단 아래 연구소로 시작함
• 초기에는 진전이 슈퍼컴퓨팅 클러스터보다 최고 연구자들의 핵심 아이디어에 더 크게 달려 있다고 봄
• 게임 플레이 AI용 툴킷과 로보틱스 연구 같은 실험을 진행하고 논문을 공개했지만, 제품·사업·상업 매출은 없었음
• 당시 목표는 “재무적 수익 창출 필요에 제약받지 않고 인류 전체에 가장 이익이 될 방식으로 디지털 지능을 발전시키는 것”이었음
• 비영리 구조가 적합하다고 보고 여러 형태의 기부를 받음
  • 현금 1억 3,700만 달러
  • 이 중 Elon이 낸 금액은 3분의 1 미만
  • Amazon의 180만 달러 컴퓨트 크레딧·할인
  • Azure와 Google Cloud 각각 5,000만 달러 이상 규모의 컴퓨트 크레딧·할인
• 이후 고도 AI가 계속 더 많은 컴퓨트를 쓰고, 대규모 언어 모델 확장이 AGI로 가는 유망한 경로라는 판단이 생김
• 사명을 추진하려면 기부로 확보 가능한 수준을 훨씬 넘는 컴퓨트와 자본이 필요해짐

2019년 영리 부문 도입과 제품화

• 2019년 OpenAI는 연구소를 넘어 스타트업 성격을 갖게 됨
• AGI 구축에 약 100억 달러 규모의 자본이 필요하다고 추정했고, 컴퓨트와 인재 확보를 위해 투자자와 협력해야 했음
• 이때 비영리가 통제하는 맞춤형 영리 구조를 만듦
  • 투자자와 직원에게 capped profit share를 부여
  • 주주에게 수익을 돌려주고 나머지가 비영리로 흘러가도록 설계
• 사명 문구는 “인공 일반 지능이 인류 전체에 이익이 되도록 보장한다”로 바뀜
• 이를 주로 “안전한 AGI를 만들고 그 이익을 세계와 공유하려는 시도”를 통해 달성하려 했음
• 같은 해 영리 부문은 초기 라운드로 1억 달러 이상을 조달했고, 이어 Microsoft로부터 10억 달러 투자를 받음
• 2020년에는 AGI 도달 전에도 기술이 매출을 만들 수 있음을 보여주기 위해 첫 제품인 OpenAI API를 구축함
• 제품 구축 과정에서 연구소에서 예상했던 것과 실제 세계의 안전 문제가 다르다는 점을 확인함
• 이 시기부터 AGI 달성 이후까지 기다리지 않고 사명의 “이익” 부분을 전달하기 시작함

ChatGPT, o-series, 커지는 경쟁

• 2022년 출시된 ChatGPT는 일반 사용자와 일상생활에서 AI 접근성을 높임
• 현재 ChatGPT는 매주 3억 명 이상이 생산성·학습 등 용도로 사용하며, 대부분은 무료 사용자임
• 2024년 o-series 모델은 새로운 연구 패러다임을 보여줌
  • “생각” 컴퓨트에 따라 확장되는 새로운 추론 능력을 보임
  • 이 컴퓨트는 학습용 컴퓨트와 함께 쌓이는 형태임
• OpenAI는 자체 생성물뿐 아니라 다른 조직에 미치는 영향도 성과의 일부로 봄
• ChatGPT와 유사한 상업 제품, 오픈소스 LLM, 안전 분야 혁신 등에서 경쟁이 활발해짐
• 주요 기업들이 AI 개발에 수천억 달러를 투자하면서, OpenAI도 사명을 계속 추구하려면 이전에 상상했던 것보다 더 많은 자본이 필요해짐
• 투자자들은 OpenAI를 지원하려 하지만, 이 정도 자본 규모에서는 일반적인 지분 구조와 덜 맞춤화된 구조가 필요하다는 판단임

2025년 이후 검토 중인 구조

• OpenAI는 2025년에 연구소와 스타트업을 넘어 지속 가능한 회사가 되어야 한다고 봄
• 이사회는 외부 법률·재무 자문과 협의하며 OpenAI 구조를 검토 중임

• 영리 부문을 Delaware PBC로 전환

  • 기존 영리 법인을 Delaware Public Benefit Corporation(PBC) 으로 바꾸는 계획임
  • PBC는 보통주를 갖고, OpenAI의 사명을 공익 목적으로 삼는 구조임
  • 의사결정에서는 주주 이익, 이해관계자 이익, 공익 목적을 균형 있게 고려해야 함
  • OpenAI는 이 구조를 통해 같은 분야의 다른 조직처럼 일반적인 조건으로 필요한 자본을 조달할 수 있다고 봄

• 비영리 부문의 재원 강화

  • 제안된 계획은 OpenAI 비영리 부문을 역사상 가장 많은 자원을 가진 비영리 조직 중 하나로 만들 수 있음
  • 비영리 부문이 기존 영리 법인에 가진 상당한 이해관계는 PBC 주식 형태가 됨
  • 이 주식 가치는 독립 재무 자문가가 정한 공정 가치를 기준으로 산정됨
  • 이 방식은 기부자가 제공한 자원을 여러 배로 키우는 결과를 목표로 함

• 각 부문의 역할 분리

  • 현재 구조에서는 이사회가 사명을 재정적으로 지원할 사람들의 이해를 직접 고려하기 어렵고, 비영리 부문도 영리 부문 통제 이상의 일을 쉽게 하기 어려움
  • PBC는 OpenAI의 운영과 사업을 실행하고 통제함
  • 비영리 부문은 별도 리더십 팀과 직원을 채용해 의료, 교육, 과학 영역의 자선 이니셔티브를 추진함
  • OpenAI는 사명을 단일 시스템 구축이 아니라 지속적인 목표로 봄
  • 에너지, 토지 이용, 칩, 데이터센터, 데이터, AI 모델, AI 시스템을 포함한 21세기 경제 인프라가 구축되는 흐름 속에서, OpenAI는 AGI 경제 구축과 인류에 대한 이익 보장을 위해 구조를 진화시키려 함

[GN⁺]

Hacker News 의견들

• 왜 이 영리 전환을 좋게 포장하려고 이렇게 시간과 노력을 쓰는지 모르겠음. 아무도 안 믿고, 다들 무슨 일인지 알고 있으니 그냥 “돈을 많이 벌고 싶다”고 말하고 넘어가면 됨

  • 이런 회사식 포장은 외부보다 내부 직원을 겨냥하는 경우가 많다고 봄. 내부에는 자신들이 세상을 더 낫게 만들고 있다고 믿지 않으면 인지부조화를 겪는 “진짜 신봉자”가 꽤 있기 때문에, 회사는 그런 직원들을 만족시킬 서사를 제공해야 함
  • “돈을 벌고 싶어서 비영리를 영리로 바꿉니다”라고 말하는 건 법적으로 곤란함. 전환 과정에서 벌 수 있는 돈은 극대화하고 소송으로 잃을 것은 최소화하려면, 자기들이 하는 일을 긍정적으로 설명해야 함
  • 순전한 추측이지만, 비영리였던 만큼 “공익을 위한 약속”을 지키지 않았다는 이유로 대중에게 소송당할 위험이 아직 있음
  • 구조 자체는 별로 관심 없지만, 좋게 보이게 만들려는 노력이 너무 커서 오히려 전체가 덜 수상해 보이는 게 아니라 더 수상해 보임
  • 자기들도 탐욕, 권력욕, 남이 먼저 차지해 자신들을 지배할지 모른다는 두려움 같은 사소한 이유 때문이 아니라고 스스로를 설득하려는 것 같음. 그래서 그 감정을 더 고상한 이름으로 부르고 싶어 함
    물론 직원이나 소송 때문에 다른 사람들도 그렇게 믿게 만들고 싶겠지만, 이제 새로 할 말도 거의 없고 사람들 판단도 대체로 굳어진 상황에서 같은 얘기를 반복할 이유로는 부족해 보임

• “현재 구조는 이사회가 미션에 자금을 댈 사람들의 이해를 직접 고려할 수 없고, 비영리가 영리 회사를 통제하는 것 이상을 쉽게 할 수 없다”는 문구를 보니, 그게 바로 현재 구조의 목적 아니었나 싶음

  • 지금 말하는 이사회는 Altman의 모든 결정을 “인류에 좋다”고 도장 찍기 위해 재구성된 이사회 아닌가. 그런 이사회가 뭘 고려하든 무슨 상관인지 모르겠고, 말 그대로 뭐든 따라갈 것임
  • 맞음. 거기서 분석을 멈추면 Sam Altman이 자기 블로그 글 안에서 스스로 외통수에 걸렸다고 즐길 수 있음. “비영리가 영리 회사를 통제하도록 만든 게 원래 네가 만든 구조잖아!”라는 얘기임
    다만 한 걸음 더 가려면 Sam이 말하는 논리도 최소한 검토는 해봐야 함. 원래 비영리/영리 구조는 당시에는 연구 조직으로 가능하다고 봤기 때문에 만든 실수였고, 영리 회사가 시장에서 무의미해지면 비영리가 통제한다는 원칙도 무의미해진다는 주장임
    핵심 문단은 대기업들이 AI 개발에 수천억 달러를 투자하고 있어 OpenAI도 더 큰 자본이 필요하고, 투자자들은 이 규모에서는 전통적 지분과 덜 특수한 구조를 원한다는 부분임
    예를 들어 Friendster가 OpenAI처럼 “비영리 이사회가 영리 Friendster를 통제”하는 구조였다 해도, Facebook 같은 경쟁자가 시장을 장악하면 비영리 통제라는 이상은 별 의미가 없어짐
    자율주행이나 에너지 발견처럼 수십억 달러가 필요한 어려운 문제에 새 회사를 만든다고 할 때, 비영리가 영리 회사를 통제하는 구조가 시장 우위가 될지 아니면 핸디캡이 될지 보면 후자처럼 보임
    OpenAI는 Tesla의 5만 GPU 슈퍼클러스터, Google의 Gemini, Anthropic의 Claude, Alibaba 같은 경쟁자의 막대한 투자 앞에서 투자금을 끌어오기 어려워하고 있고, ChatGPT가 난공불락의 우위를 가진 것도 아님
    문제는 Sam Altman과 투자자들이 기존 OpenAI 브랜드를 더 단순한 영리 회사 구조에서 계속 쓰고 싶어 한다는 점임. 밖에서 보면 사기나 미끼상품처럼 보임. 아예 ClosedAI 같은 새 영리 회사를 만들어 직원들을 옮기고 OpenAI에 영구 지식재산권 라이선스 비용을 내는 식도 가능했겠지만, Elon Musk는 그 라이선스 이전도 “악의적 거래”라며 또 소송했을 가능성이 큼

• 핵심은 영리 조직과 비영리 조직의 정확한 관계인데, 이 글만으로는 불명확해 보임. 예전에는 수익에 상한이 있었고, 나머지는 AGI나 AGI로 인한 대규모 경제 발전이 생겼을 때 전 세계에 혜택을 고르게 나누기 위해 비영리로 가는 구조였음
  적어도 문서상으로는 “인류를 향한 출구” 계획이 있었던 셈이라 괜찮았음
  그런데 새 구조는 투자자에게 무제한 수익을 허용하고, 더 넓은 공익을 위해 비영리에 작은 몫만 남기는 방식처럼 읽힘. OpenAI의 원래 비전에서 큰 부분이던 “인류를 향한 출구”를 버리는 것처럼 보임
  초기에 이들은 투자자 모델, 자금 조달과 책임성의 장점, 초지능 이후 어떤 구조가 맞는지에 대해 꽤 진지하게 연구했기 때문에, OpenAI가 그 작업에서 멀어지는 것 같아 아쉬움

  • 이게 100배 수익 상한을 슬쩍 없애는 방식일 수 있다는 생각은 못 했음. 별로임

• 이 글이나 사이트 어딘가에서 놓친 건지 모르겠지만, OpenAI가 AGI를 만들겠다는 비전이 정확히 어떻게 인류 전체에 이익이 된다는 건지 모르겠음
  비꼬려는 게 아니라 A에서 B로 가는 계획이 안 보임
  최근 보도자료만 보면 답은 “ChatGPT를 아주 좋게 만들고 무료로 제공한다” 정도인 것 같음. 그 자체로는 합리적일 수 있지만, AGI 주변에서 쓰는 거창한 표현과는 잘 맞지 않음

  • OpenAI의 AGI 정의가 “돈을 많이 번다”라면 인류 전체에 이익이 될 리 없고, 애초에 다른 누구를 이롭게 하려고 설계된 것도 아니었음
    https://techcrunch.com/2024/12/26/microsoft-and-openai-have-...
    https://www.youtube.com/watch?v=gjQUCpeJG1Y
    또 다른 암호화폐 사기를 만든 사람에게서 뭘 더 기대할 수 있었겠나
    https://www.technologyreview.com/2022/04/06/1048981/worldcoi...
    https://www.buzzfeednews.com/article/richardnieva/worldcoin-...
    Sam Altman은 인류 개선에는 관심 없고 개인 이익에 관심 있다고 봄
    https://www.newyorker.com/cartoon/a16995
  • OpenAI가 엄청나게 부자가 되면 세상은 분명 변할 것이고, 이렇게 집중된 권력의 혜택도 자연스럽게 아래로 흘러내릴 것임
  • OpenAI 헌장은 AGI를 “대부분의 경제적으로 가치 있는 작업에서 인간을 능가하는 고도로 자율적인 시스템”으로 정의하고, “안전하고 유익한 AGI를 직접 만들거나” 다른 이들이 이를 달성하도록 돕겠다고 함
    경제적으로 가치 있는 작업의 대규모 자동화 말고는 혜택을 다루지 않는데, 그런 혜택은 사회 구조의 큰 개편을 필요로 하므로 그 주제에 입을 다무는 편이 적절할 수도 있음
  • AGI는 전통적 지분 투자로 자금을 조달해야만 인류에게 이익이 될 수 있다는 뜻인가 봄. 투자자들은 돈을 주고 싶어 하지만, 소유권이 없다는 끔찍한 결함이 그들의 선의를 꺾고 있음
  • A에서 B로 가는 길은 너무 꼬여 있어서, 어릴 때 하던 미로 퍼즐처럼 어느 입구가 올바른 목표로 이어지고 어느 입구가 나쁜 결말로 가는지부터 찾아야 하는 느낌임
    가장 긍정적으로 보면, 범용 AI를 만들어 모두에게 완전 자동화된 풍요를 제공하고, 악용되기 어렵게 조심스럽게 만들며, 우리 모두가 어느 날 낯선 세상에서 깨어나지 않도록 공개적으로 진행하려는 것임
    하지만 미로가 떠오른다는 점에서 순조롭게 갈 거라고 기대하긴 어려움. Silicon Valley와 스타트업 문화에서 출발한 OpenAI는 자연스럽게 낙관주의와 경제 성장·기술은 기본적으로 좋다는 편향을 갖고 있음
    이 편향을 누그러뜨리는 것은 Eliezer Yudkowsky의 밈적 인기와 그의 공포가 얼마나 진지하게 받아들여지는가 정도인데, 그의 공포도 현재 경제에서 “인간은 필요 없음” 경제로 넘어가는 전환 동학보다는 우리보다 빠르게 최적화하는 행위자의 실존적 위협에 더 집중돼 있음

• “투자자들은 우리를 지원하고 싶어 하지만, 이 정도 자본 규모에서는 전통적 지분과 덜 특수한 구조가 필요하다”는 말은 완전히 거꾸로처럼 보임. 이 정도 규모라면 원하는 만큼 특수한 구조를 만들 수 있고, 투자자들은 들어오고 싶어서 거의 뭐든 서명할 것임
  Paul Getty의 오래된 농담이 떠오름. “은행에 100달러를 빚지면 당신 문제지만, 1억 달러를 빚지면 은행 문제다”

• OpenAI와 Sam Altman이 AGI를 가져와 인류를 구하겠다고 주장하지만 막대한 자본이 필요하다면, 자유·민주주의 같은 미국적 가치를 내세우는 세계 최대·최강 정부가 방대한 자원을 투입하기에 완벽한 사례임. 우리는 세계 경제와 통화정책에 큰 영향력을 갖고 있음
  정부는 원래 “투자 불가능한 것”에 투자하는 주체여야 함. 서구 사회에서 경찰서를 운영하는 일은 수익성 있는 사업이 아니고, 공공 부문에는 좋은 이유로 수익성 개념이 없음. 그래도 모두가 큰 혜택을 봄
  AGI는 공공재처럼 들리며, 진심이라면 말이 아니라 돈으로 보여줘야 함
  안타깝게도 많은 민간 주체들이 이 기술을 자기 이기적 야망을 위해 통제하고 싶어 하거나, 정부가 제 역할을 하기엔 너무 기능부전이거나, 사람들이 더는 정부가 이런 일을 해야 한다고 믿지 않는 듯함. 그게 아쉽고 우리를 훨씬 더 나쁘게 만듦

  • https://www.energy.gov/fasst
    FASST는 과학·안보·기술을 위한 첨단 인공지능 프로그램임. DOE는 17개 국립연구소의 기존 자산을 활용하고 외부 조직과 협력해 국가적 AI 역량을 구축하는 방안을 마련하기 위해 공개 의견을 받고 있음

• “현재 구조는 이사회가 미션에 자금을 댈 사람들의 이해를 직접 고려할 수 없다”고 하는데, 왜 그래야 함? 두 주인을 섬길 수는 없음. 이들은 인간과 정렬된 AI라는 주인을 섬긴다고 주장하는데, 왜 그 1차 목표와 정렬될 수 없는 또 다른 목표를 추가하려는지 모르겠음

  • 반자본주의, 반이윤, 반Microsoft 쪽에 가깝지만, 여기서 말하는 현실을 한 발 물러서서 보면 인정할 부분이 있음. 지금 AI에 수천억 달러가 쓰이고 있고, OpenAI가 경쟁력을 유지하려면 처음 예상보다 훨씬 더 많은 돈이 필요하다는 맥락임
    그 돈을 줄 사람들에게 수익 약속이 없으면 자금을 얻을 수 없다는 점을 인정하는 것임. 500억 달러를 아무 수익 없이 내놓을 수 있는 사람은 많지 않고, 그 몇 안 되는 사람도 관심을 보이지 않았을 가능성이 큼
    경쟁력을 유지하려면 돈이 필요했고, 돈이 없으면 뒤처질 거라고 판단했으며, 이게 그 돈을 얻을 유일한 길이었다는 논리임
    원래 미션에 더 충실하려면 다른 이들이 앞서가도록 그냥 두는 게 맞았겠지만, Sam은 “그렇게 두는 것보다 OpenAI 성공의 일부라도 비영리로 남기는 편이, 자선 비율이 0%인 경쟁자보다 낫다”고 자기합리화하고 있을 것 같음
  • 거짓말쟁이들이라서 그렇다고 봄

• 설립자들이 프로젝트의 경제적 가치가 커지면 이런 인센티브가 작동할 거라고 멀리서 예측했던 바로 그 상황일 리는 없겠지?

• 미국 법은 잘 모르지만, “비영리로 시작했다가 제품이 돈이 되면 영리로 바꾼다”는 전체 흐름이 어떻게 합법인지 잘 이해가 안 됨. 완전한 사기처럼 보이고, Elon을 좋아하진 않지만 그와 초기 기부자들은 꽤 강한 사건을 갖고 있다고 봄

  • 여기 있는 사람의 99.999%는 비영리가 어떻게 작동하는지 거의 모른다고 봐도 됨
    영리 부문은 IRS 관점에서 법적으로 필요한 구조임. 비영리가 그냥 사업을 시작하고 모든 수익을 면세라고 선언할 수는 없음. “관련 없는 사업 소득”은 세금을 내는 법인을 통해 처리해야 함. ChatGPT와 API는 관련 없는 사업이고, OpenAI는 2019년부터 비영리/영리 분리를 갖고 있었음
    Mozilla Foundation이 예시가 될 수 있음. Mozilla Foundation은 Mozilla Corporation을 소유하고, 이 회사는 Google에게 기본 검색엔진 배치 대가를 받고 브라우저를 전담하는 엔지니어들에게 급여를 줌
    차이는 OpenAI의 영리 회사가 투자 대가로 외부 주주에게 주식을 발행하는 반면, Mozilla는 회사를 전부 보유한다는 점임

• Sam Altman은 악하다고 봄. 순수한 마키아벨리식 악역이며, 목표는 지구상에서 가장 강력한 사람이 되는 것임. 미래가 그나 비슷한 사람들이 통제하는 방향으로 가서는 안 됨

  • 그는 자신을 이타적인 영웅으로 보이게 하고 싶어 하고, 그게 안 되면 마키아벨리식 악역으로 보이는 것도 받아들일 것임. 실제로는 내용 없는 양복에 가깝다고 봄
  • 목표에 대해서는 동의하지만, 그가 자폐라는 건 말이 안 되고 “human successionist”가 뭔지도 모르겠음
  • 지금 지구상에서 가장 강력한 사람은 누구임?
  • 그는 자폐가 아니지만, Silicon Valley 문화에서는 그렇게 보이는 것이 경쟁 우위가 될 수 있음