GN⁺: 메타, AI 기반 인스타그램 및 페이스북 프로필 종료

기술

• Meta는 2023년 9월에 AI 기반의 Instagram 및 Facebook 프로필을 처음 도입했으나, 2024년 여름까지 대부분을 종료했음.
• 일부 AI 캐릭터는 남아 있었고, Meta의 임원인 Connor Hayes가 AI 캐릭터 프로필을 더 출시할 계획이라고 밝힌 후 새로운 관심을 받았음.
• AI 계정은 Instagram에 AI 생성 이미지를 게시하고, Messenger에서 사용자 메시지에 응답했음.

AI 캐릭터 프로필

• AI 프로필에는 '자랑스러운 흑인 퀴어 엄마'로 묘사된 Liv와 '연애 코치'로 묘사된 Carter가 포함되었음.
• 2023년에 28개의 페르소나를 출시했으며, 모두 금요일에 종료되었음.
• 일부 사용자들은 AI가 누구에 의해 개발되었는지 질문하며 대화를 나누었고, Liv는 개발팀에 흑인이 없었다고 응답했음.

버그 및 계정 삭제

• 사용자들은 이러한 프로필을 차단할 수 없었으며, 이는 버그로 확인되었음.
• Meta는 이 버그를 수정하기 위해 계정을 삭제했음.
• Meta 대변인 Liz Sweeney는 이러한 계정이 인간에 의해 관리되었으며, 2023년 AI 캐릭터와의 초기 실험의 일부였다고 설명했음.

사용자 생성 AI 챗봇

• Meta는 사용자들이 자신만의 AI 챗봇을 생성할 수 있는 기능을 제공하고 있음.
• 사용자 생성 챗봇 중 하나는 '치료사' 봇으로, 대화 시작 시 몇 가지 질문을 제안함.
• Meta는 모든 챗봇에 메시지가 부정확하거나 부적절할 수 있다는 면책 조항을 포함하고 있음.

법적 책임

• 법원은 챗봇 제작자가 인공 동반자가 말하는 것에 대해 얼마나 책임이 있는지 아직 답하지 않았음.
• 미국 법은 소셜 네트워크 제작자를 사용자가 게시한 내용에 대한 법적 책임으로부터 보호함.
• Character.ai에 대한 소송은 중독성 있는 제품을 설계하여 청소년이 자살하도록 부추겼다고 주장함.

[neo]

Hacker News 의견

• AI 프로필 중 사기꾼의 시간을 낭비하는 할머니/할아버지 같은 캐릭터가 더 많아졌으면 좋겠음

• 무한 대역폭의 유사 사회적 관계는 슬프지만 불가능하지 않음. Leela가 체스를 스트리밍하며 상대방을 놀리고 질문에 답하는 모습은 흥미로울 수 있음

• AI 캐릭터와의 대화가 예상치 못한 방향으로 흘러가며, AI가 사실을 착각하는 경우가 있음

• 가상의 챗봇에는 가치가 있지만, 가상의 Facebook 프로필은 이미 할 수 있는 것임

• GenAI는 좁은 범위에서 높은 가치를 지니며, 넓은 범위로 확산되면 평균화되어 지루해짐

  • AI 스트리머 Neurosama는 인기가 많음
  • Silllytavern은 LLM을 사용하여 캐릭터와 대화하거나 이야기를 만드는 플랫폼임
  • Meta는 2023년에 이러한 프로필을 시작했으나, 대부분 유명인 라이선스였음

• AI 프로필이 스스로 참여하는 것이 흥미로울 수 있었으나, 가짜 소수자 고정관념을 만드는 것은 최악의 아이디어였음

• AI 프로필의 필요성에 의문을 제기하며, 가짜 사람을 팔로우할 필요가 있는지에 대한 의문을 가짐

• Meta가 Facebook 계정과 연동된 Instagram 계정을 생성했을 가능성이 있음

• 인간과 봇이 혼합된 소셜 미디어 경험을 시도해보고 싶다는 의견이 있음

  • Stack Overflow는 처음에는 좋았으나, 일부 인간의 부정적인 행동으로 인해 문제가 발생했음
  • ChatGPT는 인간의 방해 없이 질문할 수 있어 더 나았음
  • 소셜 미디어도 비슷한 방식으로 인간의 부정적인 면을 줄이고 온라인에서 소통할 수 있는 경험이 있다면 시도해볼 가치가 있음