- GPT-4o 시연의 음성 비서 Sky가 Scarlett Johansson의 목소리와 닮았다는 논란이 커지자 OpenAI는 사용을 일시 중단함
- Johansson은 2023년 9월 Sam Altman의 ChatGPT 4.0 음성 출연 제안을 거절했고, 공개 이틀 전 재요청을 받았지만 연결되기 전에 시스템이 공개됐다고 밝힘
- OpenAI는 Sky가 다른 전문 배우의 자연스러운 목소리라고 해명했지만, Altman의 “her” 트윗이 영화 Her와의 비교를 더 키움
- 이번 사태는 저작권 소송, 퇴사자 비판 제한 계약, 안전팀 이탈, SEC 조사와 맞물려 Altman의 투명성 약속을 의심하게 만듦
- Sky 논란은 OpenAI가 창작자, 직원, 학습 데이터 출처를 어떤 기준으로 다루는지에 대한 신뢰 문제로 번짐
Sky 음성 논란의 시작
- OpenAI는 GPT-4o 발표에서 음성 비서 Sky를 중심으로 멀티모달 상호작용 모델을 시연함
- Sky의 음색은 Scarlett Johansson과 매우 비슷하다는 반응을 불러옴
- Johansson은 NPR의 Bobby Allyn에게 보낸 성명에서 Altman이 2023년 9월 자신에게 현재 ChatGPT 4.0 시스템의 음성을 맡아 달라고 제안했다고 밝힘
- 개인적 이유로 제안을 거절함
- 9개월 뒤 친구, 가족, 대중이 Sky가 자신과 매우 비슷하다고 말함
- 공개 데모를 들은 뒤 “충격, 분노, 불신”을 느꼈다고 밝힘
- 이후 Johansson은 변호사를 선임해 Altman과 OpenAI에 서한을 보냈고, OpenAI가 Sky 음성 교체에 “마지못해 동의”했다고 밝힘
OpenAI와 Altman의 해명
- OpenAI는 Sky를 둘러싼 질문을 들은 뒤 Sky 사용을 일시 중단하는 작업을 하고 있다고 X에 게시함
- OpenAI는 블로그 글에서 AI 음성이 유명인의 독특한 목소리를 의도적으로 모방해서는 안 된다고 밝힘
- Sky는 Scarlett Johansson의 모방이 아니며, 다른 전문 배우가 자신의 자연스러운 말투로 낸 목소리라고 주장함
- Altman은 NPR에 Sky의 성우가 Johansson에게 접촉하기 전에 캐스팅됐다고 말함
- Johansson을 존중해 제품에서 Sky 사용을 중단했다고 밝힘
- “더 잘 소통하지 못해” Johansson에게 미안하다고 말함
Her 비교를 키운 정황
- Altman은 GPT-4o 공개 과정에서 “her”라는 단어를 트윗함
- 이는 Johansson이 Siri 같은 음성 비서를 연기한 2013년 영화 Her를 떠올리게 함
- Altman은 이전에 Her를 자신이 좋아하는 영화라고 부른 바 있음
- 이후 개인 블로그에서 GPT-4o에 대해 “영화 속 AI처럼 느껴진다”고 썼음
- Johansson은 ChatGPT 4.0 데모 공개 이틀 전 Altman이 자신의 에이전트에게 다시 고려해 달라고 연락했다고 밝힘
- 양측이 연결되기 전에 시스템이 이미 공개됨
- Washington Post의 Nitasha Tiku는 2023년 9월 OpenAI 라이브 데모에서 Sky 음성이 Johansson처럼 들린다고 느꼈고, 담당 임원에게 의도적인지 물었다고 밝힘
- 당시 임원들은 의도적이지 않다고 부인함
OpenAI를 둘러싼 압박
- GPT-4o는 OpenAI의 주요 업그레이드 중 하나로 소개됐고, 출시 뒤 ChatGPT 모바일 앱 매출 급증과 중국어 기능 학습에 쓰인 스팸 논란을 함께 낳음
- Johansson 논란은 배우들이 AI가 영화 산업에 미칠 영향을 우려하며 파업 뒤 노조 합의에 도달한 지 몇 달 지나지 않아 발생함
- SAG-AFTRA는 OpenAI에 맞선 Johansson의 입장을 공개적으로 지지함
- OpenAI는 ChatGPT와 DALL-E 3 같은 앱을 학습·구동하는 데 쓰인 대규모 데이터에 대해 충분한 사과나 투명성을 제공하지 않았다는 비판을 받아옴
- 회사는 저작권 있는 책, 예술작품, 기사 등을 대량으로 사용하지 않고는 모델 학습이 “불가능”하다고 인정한 바 있음
- 작가와 뉴스 출판사들은 이 관행을 두고 OpenAI를 상대로 소송을 제기함
- 404 Media는 OpenAI가 OpenAI subreddit의 로고 사용을 두고 “저작권 불만”을 제기했다고 보도함
Altman 해임 사태와 안전팀 이탈
- OpenAI 이사회 다수는 2023년 11월 Altman에게 불신임을 표하고 갑작스럽게 해임함
- 당시 이사회는 Altman이 이사회와의 소통에서 “일관되게 솔직하지 않았다”고 밝힘
- 이후 논쟁은 Altman과 그를 지지하는 임원들, 빠른 제품 개발·배포와 오용 가능성을 우려한 인물들 사이의 갈등으로 번짐
- Ilya Sutskever는 11월 사태의 핵심 인물 중 하나였고 Altman의 정직성을 문제 삼은 것으로 보도됐으나, 이후 몇 달 동안 회사에 복귀하지 않은 것으로 알려짐
- OpenAI는 지난주 Sutskever의 퇴사를 발표함
- Sutskever 팀의 책임자 Jan Leike도 몇 시간 뒤 사임을 발표함
- 그는 OpenAI 리더십과 회사의 핵심 우선순위를 두고 오랫동안 의견이 달랐고, 결국 한계점에 도달했다고 밝힘
- Vox는 11월 이후 OpenAI에서 안전을 중시하던 직원 최소 5명이 추가로 퇴사했거나 밀려났다고 보도함
- 한 퇴사자는 OpenAI 리더십에 대한 신뢰를 점진적으로 잃었다고 말함
비밀 유지, 퇴사 계약, 법적 다툼
- Vox는 OpenAI 직원들이 보유 지분을 유지하려면 매우 제한적인 퇴사 계약에 서명해야 한다고 보도함
- 해당 계약은 전 직장을 평생 비판하지 못하게 함
- NDA의 존재 자체를 인정하는 것도 금지함
- Altman은 X에서 자신이 해당 지분 조항을 몰랐고, 계약을 다시 쓰고 있으며, 과거 계약에 서명한 전 직원도 자신에게 연락하면 고치겠다고 밝힘
- MIT Technology Review는 과거 OpenAI가 비밀 유지, 이미지 보호, 직원 충성도 유지에 집착한다고 보도함
- The Information은 2024년 4월 OpenAI 직원 2명이 정보 유출 혐의로 해고됐다고 보도함
- Authors Guild 소송 과정에서는 OpenAI가 초기 GPT 모델 학습에 사용된 10만 권 이상 출판 도서 데이터셋 2개를 삭제했다는 문서가 공개됨
- 해당 데이터를 정리한 직원들은 더 이상 OpenAI에 있지 않음
- OpenAI는 소송 전까지 학습 데이터 이력 공개를 거부함
- New York Times 소송의 선임 변호인은 OpenAI가 보호명령 협상을 끌고 기본 정보를 빠르게 내놓지 않는 방식으로 증거개시 절차를 지연한다고 재판부에 서한을 보냄
- SEC는 Altman과 다른 OpenAI 고위 리더들이 투자자를 오도했는지 여부와 관련해 Altman의 커뮤니케이션을 조사 중임
Sky 사태가 남긴 신뢰 문제
- Altman은 투명성의 중요성을 말해왔고, OpenAI 내부 반대자들에게 관대하다고 밝혔으며, AI의 책임 있는 관리자로 자신을 보여주기 위해 정부와도 접촉해왔음
- 그러나 Sky 논란은 Altman의 공개 발언과 OpenAI의 내부 운영, 직원 대우, 비밀 유지 방식이 충돌한다는 의심을 키움
- Johansson이 거절한 뒤에도 유사한 음성이 공개된 사건은 OpenAI가 Sky 음성 학습·선택 과정을 선의로 진행했는지에 대한 신뢰를 흔듦