AdVon의 AI 기반 콘텐츠 생산 및 가짜 작가 활용
- 개발도상국 작가가 AdVon Commerce에서 계약직으로 일하면서 단어당 몇 센트를 받고 온라인 제품 리뷰를 작성함
- 작가의 역할은 곧 AdVon이 개발 중인 AI 시스템 "MEL"로 생성된 초안을 다듬는 것으로 바뀌었음
- 작가는 MEL의 작업에 대해 자세한 메모를 남기라는 요청을 받았는데, 이는 자신의 역할을 결국 대체할 AI를 미세 조정하는 데 사용되었다고 믿음
- MEL이 "스스로 쓸 수 있을 만큼 충분히 훈련되자" 작가들은 해고되었음
- 작가는 "꽤 많이 고통받았다"며 "그들은 착취적이었다"고 말함
AdVon의 가짜 작가 활용 사례
- USA Today 웹사이트에 실제 사람으로 보이지 않는 바이라인으로 제품 리뷰가 게재되는 것을 Gannett 직원이 발견함
- Sports Illustrated에서도 AdVon이 가짜 작가의 바이라인과 AI로 생성된 프로필 사진을 사용하여 유사한 운영을 하고 있었음
- AdVon은 바이라인이 가짜라는 것과 프로필 사진이 AI로 생성되었다는 것을 부인하지 않았지만, 실제 기사는 실제 사람이 썼다고 주장함
AdVon 콘텐츠의 광범위한 게재
- AdVon의 가짜 작가와 작품이 할리우드 라이프, 어스 위클리 같은 연예 가십 매체부터 LA 타임스 같은 유명 신문까지 광범위하게 발견됨
- McClatchy는 AdVon과의 관계를 종료하고 마이애미 헤럴드, 새크라멘토 비 등 20개 이상의 신문에서 수백 개의 AdVon 기사를 삭제함
- 과거 AdVon 웹사이트에는 PC Magazine, Mashable, AskMen, Good Housekeeping, People, Parents, Food & Wine, InStyle, Real Simple, Travel + Leisure, Better Homes & Gardens, Southern Living 등 많은 유명 매체와 협력한다고 나와 있었음
AdVon의 MEL AI를 사용한 리뷰 생성 시연 영상
- AdVon 관리자가 기사의 제목과 아마존 제품 링크만 입력하면 MEL AI가 기사의 모든 단어를 생성하는 과정을 보여줌
- MEL의 작업은 종종 어색하고 모호하며 때로는 스스로 모순되기도 함
- 출력물이 이해가 안 되면 관리자는 단순히 새 버전을 생성하라고 지시함
- "로봇이 쓴 것처럼 들리지 않게 하는 게 우리의 목표"라고 관리자는 말함
AdVon 리뷰의 낮은 품질과 이상한 실수들
- AdVon 리뷰는 필러와 진실로 가득 차 있고 때로는 기괴한 실수를 포함하고 있어 게시 전에 사람이 진지하게 검토했다고 믿기 어려움
- 웨이트 리프팅 벨트 리뷰에서 갑자기 옷 벨트에 대해 이야기하거나 전자레인지 리뷰에서 일반 오븐으로 바뀌는 등 설명 없이 주제가 급변하는 경우가 있음
- 같은 작가의 다른 전자레인지 리뷰에서도 전자레인지에 알루미늄 호일을 사용해도 된다고 하는 등 동일한 이상한 실수가 반복됨
가짜 작가 할당과 실제 인물 바이라인으로의 교체
- 기사 작업을 마치면 가짜 작가의 이름을 붙이는 것이 AdVon 내부자들의 역할이었음
- Gannett 직원이 USA Today의 AdVon 가짜 작가를 지적한 후, 가짜 이름이 사라지고 실제인 것 같은 사람들, 특히 AdVon CEO인 Ben Faw와 개인적 관계가 있는 사람들의 이름으로 대체되기 시작함
- Julia Yoo라는 바이라인이 등장했는데, 그녀는 Ben Faw의 아내로 보이며 MIT 학위, Autodesk 임원 경력, 오바마 행정부에서 백악관 경제 고문 경력 등 AdVon의 다른 직원들에 비해 지나치게 화려한 이력을 가지고 있음
- Denise Faw라는 바이라인도 등장했는데, 그녀는 Ben Faw의 어머니로 보임
AdVon의 SellerRocket을 통한 협찬 리뷰
- AdVon의 CEO Ben Faw와 사장 Eric Spurling은 SellerRocket이라는 또 다른 회사도 운영하고 있는데, 아마존 제품 판매자에게 AdVon이 제품 리뷰를 게재하는 동일한 매체에 홍보 대가를 받음
- SellerRocket의 직원들은 YouTube 영상에서 이 계획이 어떻게 작동하는지 매우 솔직하게 설명함
- SellerRocket의 고객 제품은 AdVon의 CMS에서 "귀여운 작은 로켓 아이콘"으로 표시되며 "항상 우선순위가 부여"됨
AdVon CEO Ben Faw의 경력과 비즈니스 행태
- Faw는 화려한 경력을 가지고 있지만, 전 동료에 따르면 저품질 콘텐츠로 더 많은 돈을 벌려고 끊임없이 노력함
- Faw는 "소비자를 완전히 경멸"하며 "빠르고 저렴하게 자신에게 더 많은 돈을 벌 수 있는 방법을 찾는 것만 신경 썼다"고 함
- Faw는 Futurism의 모회사 고위층과의 개인적, 사업적 관계를 강조하며 보도에 영향을 주려 함
AdVon의 주장 변화와 모순
- AdVon은 처음에는 AI를 사용하지 않는다고 부인했지만, AI 생성 리뷰 영상 증거가 제시되자 일부 고객에게는 AI를 사용한다고 인정함
- AdVon이 제공한 기사 편집 기록은 사람이 쓴 것처럼 보이기에는 너무 빠른 속도로 작성되어 있어 설득력이 없음
- AdVon은 MEL AI가 2023년까지 운영되지 않았다고 주장하지만 직원들의 LinkedIn 프로필은 이를 반박함
- AdVon은 AI로의 전환으로 인해 작가를 해고하지 않았다고 주장하지만 LinkedIn 상의 작가 수는 급감한 것으로 보임
AI 콘텐츠에 대한 독자의 반응과 업계의 동향
- Sports Illustrated 가짜 작가 사건 직후 설문 조사에서 응답자의 80%가 이를 불법으로 만들어야 한다고 응답함
- 저널리즘은 신뢰를 기반으로 하는 산업이지만 AdVon의 가짜 작가와 법적 위협의 미로에서는 작가가 실제 사람인지, AI가 기사를 생성했는지 등 기본적인 질문에 대해서도 신뢰하기 어려워짐
- 일부 매체는 AI를 정직하게 활용하는 방안을 모색 중이지만 대부분의 실험은 오류와 표절 가능성 등으로 곤혹을 치름
- 최악의 경우 AI는 사기꾼들이 전례 없는 규모로 저품질 콘텐츠를 량 생산하게 하여 웹 전체를 스팸으로 뒤덮을 위협이 됨
- AdVon 같은 회사가 AI로 형편없는 콘텐츠를 찍어내면서 작가를 내쫓는 것은 놀랍지 않지만, 신뢰받는 매체가 이를 유통시키는 것은 AI 시대의 비극임