GN⁺: OpenAI, 주요 문서를 대중에게 공개하겠다는 약속을 조용히 폐기

• OpenAI는 창립 당시부터 거버넌스 문서를 공개하겠다고 약속했으나, 최근 WIRED가 이를 요청하자 제공을 거절함
• OpenAI는 사회와 대중이 강력한 AI 개발에 참여하도록 설립되었으나, 현재는 내부 문서를 공개하지 않는 새로운 정책을 채택함
• OpenAI의 투명성 약속 철회는 회사의 취약점과 AI의 미래에 대한 중요한 영향력을 가진 회사의 최근 위기에 대한 이해를 어렵게 함

OpenAI의 위기와 거버넌스

• OpenAI 이사회는 CEO Sam Altman을 해임했으나, 직원과 투자자의 반발로 Altman이 복귀하고 대부분의 이사회 멤버가 교체됨
• Altman의 개인 투자와 그의 직무 간의 혼합이 이사회의 불신의 일부 원인이었을 수 있음
• OpenAI의 거버넌스 문서 공개는 이사회가 Altman과 그의 외부 활동에 대해 어떤 권한을 가지고 있는지 밝힐 수 있음

OpenAI의 기업 구조와 Microsoft

• OpenAI의 창립 정관은 이사회의 일부가 통제를 잡고 Altman을 축출할 수 있는 방법을 제시함
• Microsoft의 CEO Satya Nadella는 Altman 해임에 대해 공개적으로 놀랐다고 말함
• OpenAI는 이사회 구조를 안정화하고 Microsoft와 같은 후원자를 달래기 위해 거버넌스 문서를 수정했을 가능성이 있음

OpenAI의 투명성 감소

• OpenAI는 과거 AI 발명에 대한 상세한 정보를 공개했으나, 최근에는 ChatGPT와 같은 도구의 기술적 세부사항과 데이터를 보호함
• 2019년 비영리 부문에서 대부분의 AI 개발을 수행하는 영리 자회사를 설립한 이후 투명성이 감소함
• OpenAI의 비영리 조직은 최종적으로 OpenAI의 활동과 기술을 통제함

OpenAI의 비영리 조직과 IRS 보고

• 미국 비영리 조직은 연간 IRS 보고서를 공개하고, 추가 문서가 공개 가능한지 여부를 보고해야 함
• OpenAI는 2022년까지 연간 IRS 보고서에서 추가 파일을 "요청 시" 제공한다고 밝혔으나, 실제로 제공하지 않음
• 비영리 조직이 내부 문서를 공개하는 것은 드문 일이며, 접근하기 어려움

OpenAI의 재무 상황

• OpenAI가 공개한 재무 제표는 영리 부문의 결과를 제외하고, 2022년에는 수익 44,000달러와 비용 1.3백만 달러를 보고함
• OpenAI 전체는 수백만 달러의 매출을 올렸으나, 이는 공개되지 않음
• OpenAI의 비영리 부문은 대중의 지원을 거의 받지 않아, 투명성을 높이기 위한 동기가 부족함

GN⁺의 의견

• OpenAI의 투명성 약속 철회는 AI 기술의 미래에 대한 중요한 영향력을 가진 기업의 운영에 대한 이해를 어렵게 만듦
• 이러한 변화는 AI 연구와 개발에 대한 대중의 참여와 신뢰를 저하시킬 수 있음
• OpenAI의 정책 변화는 AI 산업 내에서 투명성과 윤리적 운영에 대한 논의를 촉발할 수 있는 중요한 사례임

[neo]

Hacker News 의견

• 실망스럽지만 놀랍지 않은 소식. 이 사건에서 배울 점을 찾아보자.

  • AI 분야에서는 알트루이즘(이타주의)과 개방성을 주장하는 것이 인기가 있으며, OpenAI, Anthropic, 그리고 머스크의 새로운 xAI 등은 공공의 이익을 위해 특이한 거버넌스 구조를 가지고 있다. 문제는 이들 중 어느 회사가 충분한 주목을 받아 수십억 달러의 이익을 얻을 가능성이 보이기 시작하면 상황이 변한다는 것이다.
  • 이 문제는 AI 회사에만 국한되지 않으며 새로운 것도 아니다. 이것은 인간 본성의 일부이며 항상 존재할 것이다.
  • 우리는 AI의 혜택이 소수의 회사가 아닌 대중에게 돌아가도록 진정으로 개방된 AI 모델(개방된 훈련 데이터, 훈련 소스 코드 및 하이퍼파라미터, 모델 소스 코드, 가중치)에 더 많은 강조와 주의를 기울여야 한다.

• OpenAI가 ChatGPT 출시 이후로 아무것도 공유하지 않고 수십억 달러의 투자를 받았다는 것을 알고 있으므로 OpenAI가 폐쇄적이라는 데에 놀랄 필요가 없다.

• OpenAI는 그들이 한 모든 약속을 어겼다.

• 이사회는 어떻게 이런 일이 발생하게 놔뒀을까!

  • 더 심각하게 생각해보면, 이것은 명백한 결과이면서도 약간 음습한 느낌이 든다.
  • OpenAI가 많은 자금과 자본이 필요하다는 것은 사실이며, 이로 인해 자금 조달과 파트너십이 필요하다는 것도 사실이다.
  • 하지만 그들이 처음에 존재할 수 있었던 유일한 이유는 '개방적인', 거의 공공재와 같은 회사로 자신들을 포지셔닝하고 이를 기반으로 기부금을 받았기 때문이다.

• 이 기술이 사회에 미칠 수 있는 해로운 사용에 대해 듣고 있는 모든 것을 바탕으로, 이 상황이 무슨 일이 벌어지고 있는지 파악하기 위한 일종의 조사가 필요할 정도로 심각한지 궁금하다.

  • 이 상황은 충분히 심각해서 이런 종류의 작업을 사유화하는 것을 방치할 수 없다.
  • '이것이 정상'이라는 주장에 관심을 가질 필요가 없다. 그것은 사람들이 이런 행동을 정상화하도록 만드는 시도일 뿐이다.
  • 공공의 이익을 위해 행동하는 인공지능 안전 센터가 있는지, 그리고 이 문제가 그들의 레이더에 있는지 아는 사람이 있나?

• 머스크를 옹호하고 싶지는 않지만, 만약 내가 그였다면 기사가 '부유한 기술 기업가들이 투명성을 약속했지만 이제는 그렇지 않다'고 시작하고, 유일하게 언급된 창립자가 몇 년 전에 퇴출되었고, 이제는 경쟁자가 되어 '최대 이익을 위한 초폐쇄 소스 AI'라고 부르는 상황에서 8단락이나 걸려서 이를 지적하는 것에 대해 조금 화가 날 것 같다.

  • 언론은 비난에 중독되어 있으며, 비난과 헤드라인 사이에 들어가는 모든 뉘앙스는 기사의 바닥에 배치되어, 유료 벽 뒤에 숨겨진다. 아마도 몇 년 후에는 알트만에게도 이런 전술이 적용될 것이다.
  • 상황이 너무 나빠져서, 내가 위선을 암시하는 헤드라인을 읽을 때 실제로는 반대를 더 믿게 되는 경향이 있는데, 이것은 정확하다고 가정하는 것만큼이나 끔찍한 정신적 장애다!

• 이 조직의 시작부터 이런 일이 일어나지 않도록 방지하는 규칙이 있어야 했다. 사건의 전개는 그들의 거버넌스 형태가 효과적이지 않음을 보여준다.

• 그들이 회사 이름을 'Microsoft AI'로 바꾸기까지 얼마 남지 않았다.

• OpenAI를 공익 비영리 회사로 보이려 하지만, 실제로는 다른 사적인 기술 회사와 마찬가지로 보는 것이 최선이다.