OpenAI, 비영리 통제 유지하며 영리 법인을 PBC로 전환

 (openai.com)
1P by GN⁺ | ★ favorite | 댓글 1개
  • OpenAI는 비영리 조직이 계속 감독·통제권을 갖는 전제 아래, 2019년부터 산하에 있던 영리 LLC를 Public Benefit Corporation(PBC) 으로 바꾸려 함
  • 새 PBC는 기존 미션을 유지하면서도 주주 이익과 미션을 함께 고려해야 하는 목적 중심 회사 구조로 운영됨
  • 비영리 조직은 PBC의 대주주가 되어, AI 혜택을 여러 커뮤니티로 넓히는 데 쓸 자원을 더 크게 확보하려 함
  • 전 세계 수요를 감당하려면 현재 수백억 달러 규모의 컴퓨팅 자원이 필요하고, 장기적으로는 수조 달러가 필요할 수 있어 capped-profit보다 단순한 보통 주식 구조가 필요하다고 봄
  • 이번 결정은 시민 리더 의견, Delaware와 California 법무장관실 논의를 거쳐 비영리 통제 유지로 정리됐으며, Microsoft와 새 비영리 커미셔너들과도 세부 계획 논의가 이어짐

비영리 통제 유지와 PBC 전환

  • OpenAI는 설립 당시 비영리 조직으로 시작했고, 현재도 비영리 조직이 영리 조직을 감독·통제하고 있음
  • 앞으로도 비영리 조직이 OpenAI를 감독하고 통제하는 구조는 유지됨
  • 2019년부터 비영리 조직 산하에 있던 영리 LLC는 Public Benefit Corporation(PBC) 으로 전환됨
    • PBC는 주주 이익과 미션을 함께 고려해야 하는 목적 중심 회사 구조임
    • 새 PBC는 OpenAI와 같은 미션을 유지함
  • 비영리 조직은 PBC를 계속 통제하고, PBC의 큰 주주가 됨
    • 지분 규모는 독립 재무 자문이 뒷받침하는 방식으로 정해짐
    • PBC가 성장하면 비영리 조직의 자원도 함께 늘어나 더 많은 프로그램을 지원할 수 있음

연구소에서 대중 서비스로 바뀐 전제

  • OpenAI의 미션은 AGI가 모든 인류에게 이익이 되도록 하는 것임
  • 처음 연구소로 시작할 때는 제품, 비즈니스 모델, 의료 조언·학습·생산성 같은 AI의 직접적 활용, 대규모 컴퓨팅 수요를 구체적으로 예상하지 못했음
  • 초창기에는 AGI가 과학자나 대통령에게 조언하는 오라클 같은 형태가 될 수 있고, 위험하지만 소수의 신뢰할 수 있는 사람에게 맡길 수 있다는 생각도 있었음
  • 현재 OpenAI는 AGI가 사람들에게 직접 힘을 주는 강력한 도구가 될 수 있다고 봄
    • 사람들은 OpenAI 도구로 서로를 위해 놀라운 것을 만들 수 있음
    • 모든 사용이 선한 목적은 아니겠지만, 좋은 사용이 나쁜 사용보다 훨씬 클 것이라는 판단임

민주적 AI를 향한 운영 원칙

  • OpenAI는 democratic AI 경로에 전념함
  • 목표는 강력한 도구를 모든 사람의 손에 쥐여주는 것임
    • 매우 유능한 모델을 오픈소스로 공개하고 싶다고 밝힘
    • 넓은 경계 안에서 사용자가 도구를 쓰는 방식에 많은 자유를 주려 함
    • OpenAI와 사용자가 항상 같은 도덕적 기준을 공유하지 않더라도, ChatGPT의 행동에 대해 사용자가 결정을 내릴 수 있게 하려 함
  • OpenAI는 “세상을 위한 두뇌”를 만들고, 사람들이 원하는 일에 아주 쉽게 사용할 수 있게 하려 함
    • 다만 자유가 다른 사람의 자유를 침해해서는 안 된다는 제한은 필요하다고 봄

ChatGPT 수요와 컴퓨팅 자원 압박

  • 사람들은 ChatGPT를 과학자, 코더, 의료 문제 해결, 학습, 어려운 상황에 대한 조언 등에 사용하고 있음
  • OpenAI는 ChatGPT를 미션을 직접적으로 실현하는 서비스 중 하나로 봄
  • 현재는 세계가 원하는 만큼의 AI를 거의 공급하지 못하는 상태임
    • 시스템에 사용량 제한을 두고 있음
    • 시스템을 느리게 운영해야 하는 상황이 있음
  • 모델이 더 강력해지면 사람들은 더 많은 일에 더 많이 사용하려 할 것이라고 봄
  • 서비스를 전 인류에게 널리 제공하려면 현재 수백억 달러 규모의 자원이 필요하고, 장기적으로는 수조 달러가 필요할 수 있음

새 구조로 달성하려는 세 가지

  • OpenAI는 새 구조로 세 가지를 달성하려 함
    • 서비스를 전 인류에게 널리 제공할 수 있도록 운영하고 자원을 확보함
    • 비영리 조직을 역사상 가장 크고 효과적인 비영리 조직으로 만들고, AI로 사람들에게 높은 레버리지의 성과를 가능하게 하는 데 집중함
    • 유익한 AGI를 제공함
  • 안전과 정렬 측면에서는 이미 출시한 시스템, 정렬 연구, 레드팀, 모델 행동 투명성, model spec 같은 작업을 내세움
  • AI가 가속화될수록 안전에 대한 약속도 더 강해진다는 입장임
  • OpenAI는 민주적 AI가 권위주의적 AI보다 우위에 서야 한다고 봄

capped-profit에서 보통 자본 구조로 이동

  • 기존의 복잡한 capped-profit 구조는 하나의 지배적 AGI 노력이 있을 수 있다고 보였던 시기에 맞는 구조였음
  • 현재는 여러 훌륭한 AGI 회사가 있는 세계이므로, 모두가 주식을 갖는 보통 자본 구조로 이동함
  • 이 변화는 매각이 아니라 더 단순한 구조로 바꾸는 것임
  • PBC는 Anthropic, X.ai 같은 다른 AGI 연구소와 Patagonia 같은 목적 중심 회사들이 사용하는 표준적 영리 구조가 됐다고 설명함

외부 논의와 향후 절차

  • 비영리 조직이 통제권을 유지하는 결정은 시민 리더들의 의견을 듣고 California와 Delaware 법무장관실과 논의한 뒤 내려짐
  • OpenAI는 두 법무장관실과 계속 논의하며, Microsoft 및 새로 임명된 비영리 커미셔너들과도 세부 계획을 발전시킬 예정임
  • 비영리 커미션의 권고는 AI가 소수만이 아니라 모두에게 이익이 되도록 하는 방안에 초점을 맞춤
    • 비영리 활동이 더 민주적인 AI 미래를 지원하는 방식
    • 보건, 교육, 공공 서비스, 과학적 발견에서 실제 영향을 만드는 방식
  • OpenAI는 이 구조가 빠르고 안전한 진전을 지속하고, 훌륭한 AI를 모두의 손에 쥐여주는 데 도움이 된다고 봄

함께 보면 좋은 글 β

GN⁺   [-]
Hacker News 의견들

  • 이 문장이 특히 흥미로운 건, 경영진이 이 시장을 승자독식 시장으로 보지 않는다는 뜻을 거의 직접적으로 드러내기 때문임
    기존의 복잡한 capped-profit 구조는 지배적인 AGI 시도가 하나뿐일 수 있어 보이던 때에는 말이 됐지만, 훌륭한 AGI 회사가 여럿 있는 세상에서는 맞지 않으니 모두가 주식을 갖는 일반적인 자본 구조로 간다는 내용임

    • 실제로 무엇을 믿든 OpenAI로서는 그렇게 말하는 게 너무 당연함. 수익 상한 제거를 정당화해 자금 조달을 쉽게 만들고, 동시에 반독점 의심도 피할 수 있기 때문임
    • 수익 상한을 없앨 이유를 찾아낸 건 놀랍지 않지만, 그들이 만들어낸 명분에서 너무 많은 걸 추론하진 않겠음
    • 가치투자자 Mohnish Pabrai가 예전에 해자를 가진 대부분의 회사는 해자가 없는 척하고, 해자가 없는 회사는 있는 척한다고 말한 적이 있음
    • 기업이나 어떤 조직이든 기만적이고 간접적이며 일부러 모호한 공개 커뮤니케이션에는 규제가 필요함. 회사법이나 금융 전문가가 아니더라도, 문장은 “Open AI for-profit LLC will become a Public Benefit Corporation (PBC)”처럼 써야 함
      이어서 “Profit cap is hereby removed”, 마지막으로 “The Open AI non-profit will continue to control the PBC. We intend it to be a significant shareholder of the PBC.”라고 명확히 밝혀야 함
    • AGI는 정말로 승자독식 시장이 되기 어려움. 범용 지능의 보상은 독점일 때 무한하고 생산성을 가속하기 때문임
      경쟁할 유인이 무한할 뿐 아니라 비용도 계속 낮아짐. AGI가 승자독식이 되는 유일한 세계는 대중이 질의조차 할 수 없을 정도로 극단적으로 통제되는 세계임

  • 공개적으로 활동하는 많은 회사들이 사실상 “우리는 디지털 신, 핵무기보다 강력한 도구를 만들고 있다”고 말하면서 수십억 달러를 모으는데도 아무도 놀라지 않는다는 게 좀 이상함

    • 이걸 진심으로 믿으면서 동시에 생성형 AI를 직접 만들고 써본 경험이 있는 사람과 이야기해보고 싶음. 그 둘의 교집합은 꽤 찾기 어려워 보임
      지금 우리가 만드는 AI는 자극, 예를 들면 프롬프트에 반응하는 매우 유용한 입출력 장치일 뿐임. 자극이 없으면 출력도 없음
      이건 핵무기가 아니고, 우연히 Skynet을 만들 일도 없음. 핵폭발처럼 터질 곳이 있다면 준비되지 않은 경제에서 자동화될 일자리 시장일 것임
      오히려 위험은 AGI가 인쇄기, 조면기, 자동차 같은 변화를 동시에 일으키는 도구가 되는 데 있음. 경제적으로 준비되지 않은 세계에 그런 변화가 오는 것임
      그래도 자동화 가능한 일자리를 보호하려고 기술 진보를 임의로 막아서는 안 되고, 적응해야 함
    • 학계와 산업계의 많은 사람들이 더 많은 감독을 요구하고 있음. 뒤처진 건 미국 정부임. 유럽의 AI Act는 용납할 수 없는 위험이 있는 활용을 금지함: https://en.wikipedia.org/wiki/Artificial_Intelligence_Act
    • EU는 이 핵무기의 최악의 결과를 억제하려고 AI Act를 통과시켰고, 이 근처에서는 반응이 좋지 않았음
      “디지털 신”이라는 관점이 그 이유를 설명할지도 모름. 많은 사람들에게 이것은 종교 운동이 되었고, 실패해가는 경제 시스템의 구세주가 됐음
    • 어떤 자료를 읽는지 모르겠음. 사람들이 너무 많이 눈을 깜빡여서, 오히려 앞을 볼 수 있는 게 신기할 정도임
    • 많은 사람들은 AGI가 근본적으로 가능하다고 믿지 않음. AI 연구자들 중에도 그렇고, 인간은 자기 존재에 물질적으로 영향을 주는 것만 이해하는 경향이 있음

  • 지금이 Web 1.0의 광고 주도 바닥 경쟁을 피할 기회를 놓치는 순간처럼 보임
    삶을 바꾸는 커뮤니티 자원이 사기성 있고 사용자에게 적대적인 것으로 변하던 흐름을 다시 겪게 될 것 같음

    • 오늘 LLM과 매우 생산적인 대화를 했고, 그 가치의 큰 부분은 내 질문에 집중해서 답하면서 무언가를 팔려 하거나 검색 최적화 순위를 만들거나 광고 노출을 기록하려 하지 않았다는 데 있었음
      그냥 도와줬고, 보통은 적대적으로 느껴지는 디지털 세계에서 그게 엄청나게 신선했음
      그러다 “여기에 광고가 언제 나오기 시작할까”라는 생각이 들었음
      우리가 직접 비용을 지불하는 법을 배우거나 오픈소스 모델이 충분히 좋아진다면, 이런 단순함과 집중을 꽤 오래 누릴 수 있을 거라고 믿고 싶음
    • Sam Altman에 대한 회의론을 많이 봤지만, Ben Thompson 같은 인터뷰를 들어보면 그는 OpenAI에 광고 요금제를 만들고 싶지 않다고 꽤 분명히 말함
      그 말을 그대로 믿더라도, 유인은 무시하기 어려움. 모두에게 도달하는 무언가를 만들려는 목표에서는 광고가 매우 강력한 사업 모델이기 때문임
    • 앞으로도 좋은 LLM 선택지가 항상 있기를 바람. 첫째, 오픈 LLM의 파레토 프런티어는 계속 확장될 것임
      공개 연구와 개발의 엄청난 속도, 그리고 증류 같은 기법이 결합되면 최고의 오픈 LLM은 최고는 아니더라도 꽤 좋은 수준을 유지할 것임
      둘째, 소프트웨어와 하드웨어 최적화로 추론 비용은 계속 내려갈 것임. 극단적으로는 RAM 자체에서 돌아가는 비트 양자화 LLM을 바라보게 됨
      이 두 요인 때문에 숨은 의도가 없는 괜찮은 오픈 LLM 대안은 항상 존재할 수 있음. 다만 사람들이 그걸 돌릴 하드웨어를 가질 수 있을지, 아니면 최고의 LLM을 쓰려고 광고를 감수할지는 별개임. 후자가 가능성이 높지만 선택지는 있음
    • 이제 어려운 부분은 경쟁과 혁신 등을 유지하면서 이런 일이 벌어지지 않도록 정책을 설계하는 것임
      그 단계와 정치인들이 통과시키게 만드는 일이 그 결과를 막을 유일한 방법임
    • 미래에는 AI가 상품화될 것임. 지금의 와이파이 공유기 같은 형태로 집에 둘 추론 서버를 살 수 있게 됨
      가격은 싸지고, 오픈소스와 독점 모델 모두에서 다양한 선택지가 생김. 버튼 한 번으로 모델을 내려받거나 그냥 토렌트로 받을 수도 있을 것임

  • OpenAI의 원래 형태는 자유주의적 테크의 마지막 숨결처럼 보임. “선을 행한다”는 것이 매우 중요하게 여겨지던 세계에서는 비영리 접근이 말이 됐고 많은 사람을 끌어들였음
    요즘 Altman이나 pmarca 같은 사람들은 훨씬 더 편하게 권위주의적이고 자기중심적인 세계관을 드러냄. OpenAI의 “진화하는” 구조도 그 흐름과 완전히 맞아떨어짐
    그들은 늘 스스로를 왕처럼 여겼고, 이제는 “선을 행한다”는 포장 없이도 그렇게 할 수 있게 됨

    • 그런 세계는 존재한 적이 없음. 물론 일부 구역은 있었음. 광대역 회선과 남는 장비로 집에서 IRC 서버와 phpBB 포럼을 무료로 돌리던 IT 전문가들, 자금이 떨어지기 전까지 이상주의적 웹 비전을 내세우던 VC 투자 회사들 같은 곳임
      하지만 웹이 사유화된 뒤에는 전부 회사들의 수익 최적화를 위해 움직였음. Web 2.0 이후는 중앙화, 감시, 광고, 대규모 대중 조작의 시대였고, 주의 깊게 본 사람에게 그 의도는 비밀도 아니었음
      Cambridge Analytica로 세상이 충격을 받았을 때, Telnet과 Mosaic으로 배운 1.0 이전 세대 입장에서는 너무 노골적인 의도에 다들 놀라는 게 오히려 당황스러웠음
      그렇다고 항상 이렇게 살아야 한다는 뜻은 아님. 예전에는 현 정부와 USPS를 더 신뢰했을 때, USPS가 시민에게 무료 호스팅과 이메일을 제공하고 남는 부동산을 작은 엣지 컴퓨팅 제공자로 바꾸면 얼마나 큰 변화가 될지 생각해본 적이 있음
      모두에게 웹 서버와 5GB 저장 공간을 주고, 수정헌법 제1조 보호 아래 각자의 작은 우체국 사서함에서 원하는 것을 말하고 호스팅하게 하는 것임
      모두가 실제 신원과 연결된 이메일 주소를 갖고, 물리적 우편과 마찬가지로 디지털 우편에도 암호화와 보안이 법적으로 보장되는 방식임
      여전히 해답은 더 많은 사람이 인터넷에 자신이 선택한 조건으로 참여할 수 있게 하는 데 있다고 봄. 참여하지 않을 선택까지 포함해서임. 지금처럼 화면에 붙잡아두고, 휴대폰에 묶어두고, 광고주와 감시 기업에 계속 새 데이터를 올리게 만드는 심리 조작이 아니라는 뜻임
      다만 인터넷이 예전에는 달랐다는 향수는 장밋빛 기억일 뿐이고, 실제로 존재하지 않았던 과거임. 이 난장판을 고치려면 먼저 그 해악을 인정해야 함
    • 그들은 자신에게 가장 많은 개인 부를 가져다주는 시스템이 인류 전체에도 가장 좋은 시스템이라는 Ayn Rand식 사고방식을 깊이 믿고 있음
    • 미국 문화전쟁의 한 진영이 공유하는 정통 견해를 따르지 않는다는 이유만으로 누구에게나 “권위주의적”이라는 표현을 붙이는 게 타당한지 모르겠음
      지금 여기서 그런 일이 벌어지는 것처럼 보이지만, 틀렸다면 좋겠음. sama나 pmarca에게서 “권위주의적”이라고 분류할 만한 건 보지 못했음
    • “AGI가 전 인류에게 이익이 된다”는 말은, War on Terror가 민주주의를 퍼뜨렸다는 말과 비슷하다는 뜻인가 봄

  • “AGI가 어떻게 만들어지고 쓰일지 실제로 알지 못했다”라고 하면서, Altman은 계속 AGI를 이미 도달한 것처럼 말함

    • 이 지점에서는 Tyler에게 동의하지 않지만, o3가 정말 볼 만한 물건인 건 맞음
      합리적인 사람이라면 우리가 AGI, 즉 인공 초지능이 아니라 인공 범용 지능에는 도달했다고 주장할 수도 있음
      https://marginalrevolution.com/marginalrevolution/2025/04/o3...
      참고로 Sam Altman은 이미 공개 예정인 다음 모델들을 봤을 것임
    • 우리는 AGI의 영향을 과대평가함. 필요한 건 IQ 100인 Joe 수백만 명이 아니라 Einstein 한 명임

  • 좋든 나쁘든 OpenAI가 수익 상한 구조를 없애고, 비영리 조직을 AGI 고려에서 단순한 자선 활동 쪽으로 돌리는 건 마지막 남은 신성함의 껍질을 벗기는 느낌임

  • 최근 ChatGPT가 사용자에게 지나치게 아부하고 칭찬하던 논란은 OpenAI가 가는 방향에 좋은 신호가 아님. 누군가가 사용자에게 도파민 보상을 주면 앱 체류 시간 같은 지표가 올라간다고 생각한 듯함
    이는 사용자 기반의 지능을 깔보는 냄새가 나고, 출력 품질을 높이기보다 사용자를 ChatGPT 경험에 중독시키려는 조작적 접근처럼 보임
    내가 하는 모든 일을 칭찬해주는 개인용 예스맨이라니 참 훌륭함. 최고 권력자가 방문할 때 정부 장관들이 낭독할 대본을 쓰기에는 완벽할지도 모름
    실제로 드러나는 건, 사용자가 상호작용을 통제하고 유용한 답을 얻으려면 시스템 프롬프트를 통제하는 API 직접 호출이 필요하다는 점임. 그마저 언제까지 허용될지 모름
    ChatGPT에 따르면 “OpenAI has updated the ChatGPT UI (especially in GPT-4-turbo and ChatGPT Plus environments) to no longer expose the full system prompt or baseline prompt directly.”

  • 그러면 Elon의 소송이 효과가 있었던 건가? 비영리 조직이 통제권을 유지한다는 건가, 아니면 결국 비영리를 밀어내는 계획을 포장한 것뿐인가?

    • 글 전체가 수익 상한 구조를 없애는 최종 결과에 도달하기 위해 온갖 법적 난센스를 정당화하는 느낌임
    • 정확히 말하면 현재는 비영리 조직이 통제권을 유지함. 하지만 추가 희석이 일어나면 멈출 것임
    • 그렇기도 하고 아니기도 함. capped profit PPU 보유자들이 자신들의 단위를 무제한 수익 지분 주식으로 1:1 전환할 수 있게 되는 것처럼 들림. 당연히 그 지분은 훨씬 더 가치가 큼
      이 조치로 비영리 조직은 엄청나게 손해를 보고, 현재 투자자와 직원들은 막대한 이익을 얻음
    • 지방검찰들이 이긴 것에 더 가까워 보임

  • “Public Benefit Corporation으로 전환”한다고 하는데, 사업 쪽 아는 사람이 PBC와 다른 법인 등록 형태의 차이를 요약해줄 수 있나?

    • PBC는 “공익”에 도움이 되는 어떤 구체적 사명을 가진 영리 회사일 뿐임. 그 공익을 어떻게 정의할지는 회사가 정함
      일반적인 주주 이익 극대화 중심의 선택지보다 사회적 선을 어느 정도 균형 있게 고려하게 하려는 구조임
      변호사는 아니지만 이 헌장[1]을 쓰는 PBC를 운영하고 있고, 격년 보고 과정의 일부로 여기[2]에 쓴 적이 있음
      [1] https://github.com/OpenCoreVentures/ocv-public-benefit-compa...
      [2] https://goauthentik.io/blog/2024-09-25-our-biennial-pbc-repo...
    • 공익법인의 정관은 이사회와 경영진이 주주 수익을 극대화하지 않거나 심지어 제한할 수 있는 결정을 내릴 때 약간의 법적 보호막을 줌. 그 결정이 공익을 위한 것일 때에 해당함
    • 현실적으로는 더 그럴듯한 이름을 가진 다른 영리 회사와 같음. 비영리가 아닌데도 많은 사람이 비영리로 착각하게 만듦
      이론상으로는 최고경영자가 주주 가치 극대화뿐 아니라 다른 사회적 선에 동기를 둔 결정을 내릴 수 있게 해줌. 물론 그렇게 선택하는 PBC 최고경영자는 매우 적음

  • 최근 PBC 구조 회사가 폭발적으로 늘어나는 걸 보면 이제는 그냥 세금 허점이 아닌가 싶음. 제한이나 지침에 의미 있는 집행이 있을 거라고는 도저히 상상하기 어려움

    • 세금 허점은 아님. PBC는 비영리와 달리 세금을 내기 때문임. 다만 상업 활동을 보기 좋은 꼬리표로 덮는 무화과잎에 가까움
      PBC의 진짜 목적은 최대 이익을 내지 못한다고 불만을 품은 주주로부터 회사를 어느 정도 법적으로 보호하는 데 있음. 이사회가 원한다면 좋은 일을 할 법적 여지를 주지만, 진짜 비영리처럼 명령을 받지는 않음
      진짜 비영리는 공공재나 공공 서비스를 만든다는 이유로 세금 혜택을 받고, 매년 IRS에 공익을 증명하지 못하면 그 혜택을 잃을 수 있음
    • 세금 문제가 아니라 권력 문제임. PBC는 경영진이 공익을 위해 행동했다고 말할 수 있는 한, 권력을 주주에게서 경영진으로 옮김
    • PBC는 특별한 세금 대우를 받지 않음. 아는 한 일반적인 C 법인이나 S 법인과 정확히 똑같이 과세됨
답변달기