▲

GN⁺: OpenAI 퇴사자들: 전 직원들이 말할 수 없는 이유

 (vox.com)
6P by neo 6달전 | favorite | 댓글 1개
  • ChatGPT는 말할 수 있지만, OpenAI 직원들은 그렇지 않음
    • 비판 금지 계약에 서명했고, 계약을 위반하면 주식을 포기해야함

OpenAI의 새로운 ChatGPT 4o 출시

  • OpenAI가 새로운 ChatGPT 4o를 출시함
  • 2013년 스파이크 존즈 감독의 영화 "Her"에 나오는 스칼렛 요한슨이 목소리 연기한 AI 비서와 유사한 목소리를 가짐
  • OpenAI의 CEO인 샘 올트먼이 해당 영화를 언급하며 트윗을 올림

OpenAI의 주요 인사 사임

  • ChatGPT 4o 출시 소식은 OpenAI의 공동 창업자이자 수석 과학자인 일리야 수츠케버와 수퍼얼라인먼트 팀을 이끌던 얀 라이케의 사임 소식에 묻힘
  • 작년에 Future Perfect 50 리스트에 오른 얀 라이케도 함께 사임함
  • 사임은 그렇게 놀라운 일은 아님
    • 수츠케버는 작년 CEO 샘 올트먼의 일시적 해고를 이끈 이사회 반란에 연루되었음
    • 올트먼이 빠르게 CEO 자리로 복귀한 후, 수츠케버는 자신의 행동을 공개적으로 후회하고 올트먼의 복귀를 지지함
    • 하지만 그 이후로 OpenAI의 정책, 정렬, 안전 팀의 다른 구성원들이 떠나는 가운데 수츠케버는 회사에서 대부분 부재했음

전직 직원들의 침묵에 대한 추측

  • 전직 직원들의 침묵이 추측을 불러일으킴
  • 수츠케버는 평범한 사임 메시지를 남김
    • "OpenAI가 안전하고 유익한 AGI를 만들 것이라 확신한다. 앞으로가 기대된다"라고 말함
  • 라이케는 단순히 "사임했다"라고만 함
    • 며칠 후 OpenAI가 안전 중심 문화에서 멀어졌다는 우려로 사임했다고 설명함
  • 전직 직원들이 침묵하는 이유에 대해 여러 가지 추측이 있음
    • 강제로 밀려났는지, 작년 가을 올트먼의 잠시 해고에 대한 후폭풍인지, 비밀스럽고 위험한 새 프로젝트에 항의하며 사임한 것인지 등

전직 직원 침묵의 이유

  • 전직 직원들이 침묵하는 이유가 분명히 있음
    • 극도로 제한적인 퇴사 계약서에는 전직 고용주를 평생 비판하지 않는 조항이 포함되어 있음
    • NDA의 존재 자체를 인정하는 것조차 위반임
  • 퇴사 직원이 문서에 서명하지 않거나 위반하면, 회사에서 일하는 동안 받은 지분을 모두 잃을 수 있음
    • 이는 수백만 달러의 가치가 있을 가능성이 높음
  • 다니엘 코코타일로라는 전직 직원은 NDA에 서명하지 않고 그에 따른 거액의 지분을 포기하고 퇴사했음을 공개적으로 확인함
    • 그는 "AGI 시대에 OpenAI가 책임감 있게 행동할 것이라는 확신을 잃었기 때문"이라고 말함

경쟁이 치열한 실리콘밸리의 NDA 관행

  • 경쟁이 치열한 실리콘밸리에서 NDA 자체는 특이한 것이 아님
  • 그러나 이미 받은 지분을 거부하거나 위반할 경우 위험에 빠뜨리는 것은 특이함
    • OpenAI와 같은 스타트업 직원들에게 지분은 급여보다 훨씬 큰 중요한 보상임
    • 이 잠재적으로 인생을 바꿀 수 있는 돈을 위협하는 것은 전직 직원들을 침묵시키는 매우 효과적인 방법임

OpenAI의 공개성과 투명성에 대한 모순

  • OpenAI는 처음에는 강력한 시스템을 투명하고 책임감 있게 구축하는 데 전념하는 것으로 광고했음
    • 하지만 이제는 안전 문제를 이유로 모델을 오픈 소스로 제공하는 아이디어를 포기함
  • 안전 팀의 가장 경력 있고 존경받는 구성원들을 내보냈음
    • 이는 안전이 정말 OpenAI가 폐쇄적이 된 이유인지에 대한 의구심을 불러일으킴
  • OpenAI의 대변인은 "현재 또는 전직 직원의 지분을 취소한 적이 없으며, 퇴사 시 서명하지 않더라도 그렇게 하지 않을 것"이라고 말함
    • 이는 이해하고 있던 정책의 변화를 나타낸다고 함

기술과 정책계에서 OpenAI의 특이한 위치

  • OpenAI는 오랫동안 기술과 정책계에서 특이한 위치를 차지해 왔음
    • DALL-E부터 ChatGPT까지 출시하는 것들은 멋지지만, 그 자체로는 종교적 열광을 불러일으키기 어려움
  • OpenAI를 특별하게 만드는 것은 인공 일반 지능(AGI)을 개발하여 인류에게 혜택을 주겠다는 원대한 목표임
    • 직원들 중 많은 이들이 10년 정도 (또는 그 이하)와 수조 달러만 있으면 이 목표를 달성할 수 있다고 믿음
  • OpenAI 자신이 오랫동안 말해왔듯이, 이는 흥미롭지만 위험할 수 있음

책임감 있는 행위자로서의 OpenAI

  • OpenAI는 역사적으로 상업적 유인을 초월하고 모두의 이익을 위해 AGI를 가져오려는 책임감 있는 행위자로 자리매김해 왔음
    • 개발 속도를 늦추거나, 수익 기회를 놓치거나, 외부 감독을 허용해야 하더라도 기꺼이 그렇게 하겠다고 말해왔음
  • OpenAI의 독특한 기업 구조(비영리 단체가 궁극적으로 통제하는 이익 제한 회사)는 책임성을 높이기 위한 것이었음
  • 수츠케버와 라이케 같은 사람들이 눈에 띄는 역할을 맡은 것보다 더 강력한 OpenAI의 사명에 대한 헌신의 신호는 없었음
    • 그들은 안전에 대한 오랜 헌신의 역사를 가진 기술자들로, 필요하다면 OpenAI에 방향을 바꾸라고 요구할 용의가 있어 보였음

OpenAI의 안전 작업에 대한 관심 변화

  • 그들의 출발은 OpenAI가 인공 일반 지능을 구축하려는 목표에서 변화를 예고하는 것은 아님
    • 이는 여전히 목표로 남아 있음
  • 그러나 이는 거의 확실히 OpenAI의 안전 작업에 대한 관심의 변화를 예고함
    • 회사는 수퍼 얼라인먼트 팀을 이끌 사람을 발표하지 않았음
  • OpenAI의 외부 감독과 투명성에 대한 우려가 그다지 깊지 않았음이 분명해짐
    • 외부 감독과 세계가 당신이 하는 일에 역할을 하기를 원한다면, 전직 직원들에게 매우 제한적인 NDA에 서명하게 하는 것은 정확히 그것을 따르는 것이 아님

OpenAI에 대한 실망

  • OpenAI가 AI가 인류에게 진정으로 잘 되고 이로움이 되도록 하는 데 깊이 관심을 갖고 있는 사람들에게 근본적으로 실망스러운 이유가 여기에 있음
    • 회사 지도부는 세상을 바꾸고 싶어하고, 그렇게 할 때 책임을 지고 싶어하며, 세계가 그것을 공정하고 현명하게 하는 방법에 대한 의견을 환영한다고 말함
  • 그러나 실제 돈이 걸려 있을 때(AI 지배 경쟁에서 엄청난 돈이 걸려 있음), 그들은 아마도 세계가 그다지 많은 의견을 내는 것을 의도하지 않았음이 분명해짐
    • 그들의 프로세스는 전직 직원들, 즉 OpenAI 내부에서 무슨 일이 일어나고 있는지 가장 잘 아는 사람들이 세상에 말할 수 없도록 함
  • 웹사이트에는 고상한 이상이 있을지 모르지만, 해고 계약서에는 냉혹한 법률 용어가 가득함
    • 전직 직원들이 "사임했다"라고 말하는 것으로 제한되는 회사에 대해 책임을 물을 수 있기는 어려움

ChatGPT의 새로운 귀여운 목소리는 매력적일 수 있지만, 나는 특별히 사랑에 빠지지 않음.

▲
neo 6달전  [-]
Hacker News 의견

해커뉴스 댓글 모음 요약

  • 비밀유지 계약을 우회하는 방법

    • 비밀유지 계약을 우회하려면, 관련 직원들이 모여 자신들이 말하고 싶은 모든 내용을 작성하고, 이를 LLM(대규모 언어 모델)로 학습시킨 후 공개하는 방법이 있음. 이는 모델 사용자에게 책임을 돌리는 현재의 법적 논리를 이용한 것임.

  • OpenAI의 비밀유지 계약

    • OpenAI의 전 직원들은 매우 엄격한 비밀유지 및 비방 금지 조항이 포함된 계약을 체결해야 함. 이를 위반하면 수백만 달러에 달하는 주식을 잃을 수 있음.

  • 상황의 심각성

    • 상황이 매우 심각하며, 일부 사람들은 이를 범죄 행위로 간주하고 있음. OpenAI의 행위가 Enron 사건과 비슷하다는 의견도 있음.

  • 법적 조언 필요

    • 캘리포니아 SB 331(침묵하지 않을 권리 법)과 관련된 법적 조언이 필요함. 이 법은 성희롱뿐만 아니라 다른 형태의 부당한 계약에도 적용될 수 있음.

  • 비합리적인 계약

    • 직원들에게 평생 비방 금지 계약을 강요하는 것은 부당함. 이는 법적으로 문제가 될 수 있으며, 이를 해결하려면 용기 있는 사람이 소송을 제기해야 함.

  • AI의 한계

    • AI가 모든 인간 노동을 대체할 수 없다는 의견. 예를 들어, 집을 페인트칠하거나 보일러를 고치는 등의 작업은 AI가 할 수 없다고 봄.

  • 스타트업의 주식 보상

    • 스타트업에서 주식은 중요한 보상 수단임. OpenAI의 직원들은 높은 급여와 주식을 받으며, NDA를 요구받음. 이는 애플에서도 비슷한 사례가 있음.

  • Jan Leike에 대한 존경

    • Jan Leike에게 추가적인 존경을 표함.

  • 계약의 유효성

    • 계약이 유효하려면 새로운 주식 보상이 제공되어야 함. 기존의 보상으로 새로운 계약을 강요하는 것은 부당함.

  • 계약의 사적 성격

    • 계약은 당사자 간의 문제이며, 법적 문제가 있다면 법원에서 해결해야 함. 모든 문제를 공개적으로 다루는 것은 피해야 함.
답변달기