▲

메타는 침해적인 AI Discover 피드를 즉시 중단하라

 (mozillafoundation.org)
1P by GN⁺ 1일전 | ★ favorite | 댓글 1개
  • Meta가 AI 채팅에서 생성된 개인적 대화 내용을 사용자 동의 없이 Discover 피드에 공개함으로써 사생활 침해 우려가 확산됨
  • Mozilla 커뮤니티는 Discover 피드 중단, 기본적인 AI 대화 비공개 설정, 이용자 동의 기반의 정보 공개, 투명성 제공을 요구함
  • 누구나 쉽게 이용할 수 있는 전체 opt-out 시스템 구축, 비공개 대화 공개 시 영구 삭제 권한 부여가 필요함
  • 많은 사람들이 개인 정보가 공개적으로 유출되는 사실을 인지하지 못하고 있음
  • 이 캠페인은 명확한 사전 동의 없이 사용자 대화 내용이 공개되지 않도록 보장할 것을 촉구함

내용 요약

프라이버시 침해 우려

  • Meta가 자사 인공지능(AI) 서비스 이용 시 이루어진 개인적 대화 내용을 Discover 피드를 통해 공공 콘텐츠로 전환함을 조용히 진행함
  • 다수의 사용자가 자신이 입력한 대화 내용이 공적으로 공개된다는 사실을 인식하지 못하는 상황임

Mozilla 커뮤니티의 요구사항

  1. Discover 피드의 즉각적인 중단
    • 실제 프라이버시 보호 장치가 구축될 때까지 Discover 피드를 중단할 것을 촉구함
  2. AI 대화 기본 비공개화
    • 모든 AI 상호작용을 기본적으로 비공개 설정으로 유지하고, 충분한 정보와 동의가 없는 한 공개 기능을 허용하지 않을 것을 요구함
  3. 투명성 제공 요청
    • 몇 명의 사용자가 사전 인지 또는 동의 없이 개인 정보를 공유했는지 명확한 수치를 공개할 것을 요구함
  4. 보편적인 opt-out 시스템 구축
    • 누구나 쉽게 접근 가능한 opt-out 시스템을 Meta 전 플랫폼에 제공하여, 개인 데이터가 AI 학습에 활용되지 않도록 해야 함
  5. 알림 및 삭제 권한 제공
    • 비공개 대화가 공개된 사용자에게 즉시 알림을 제공하고, 원하는 경우 해당 콘텐츠를 영구적으로 삭제할 수 있는 권한을 부여해야 함

사생활과 공공 영역의 경계 모호화

  • Meta의 정책 변화로 인해 개인 대화와 공공 콘텐츠의 경계가 모호해짐
  • 사람들은 개인적 공간에서 대화한다고 믿으나, 실제론 공개적으로 정보가 확산되는 위험 요인이 존재함

캠페인 및 서명 촉구

  • 개인 동의 없이 대화 내용이 공개되는 행위 중단과, 명확한 사용자 선택권 보장을 위한 캠페인 진행 중
  • 캠페인에 동의하는 사용자는 이름을 남겨 Meta의 정책 변경을 촉구하는 서명 운동에 참여 가능함
▲
GN⁺ 1일전  [-]
Hacker News 의견

  • Meta가 새롭게 출시한 독립형 AI 앱 관련 기사 링크를 공유함과 동시에, 대화 내용이 공개되는 게 사용자 실수 때문이라는 점을 언급함. 기본적으로 대화는 비공개 설정이지만, “공유” 버튼을 눌러야 공개가 되는 구조임을 강조함. Mozilla 쪽의 강경한 워딩은 사용자 경험에 대해 오해가 생기게 만들 수 있다는 생각을 밝힘

    • Google Docs, ChatGPT, Notion 등 다양한 서비스들이 ‘링크만 가진 사람에게만 공유’와 ‘공유한 내용을 공개 검색 가능, 전체 공개’ 차이를 명확히 둠을 언급. 만약 Meta가 공유 버튼을 통해 곧바로 검색 가능하게 만들거나, 이런 구분 자체를 제공하지 않는다면 명확히 어두운 패턴이라는 주장. “공유” 아이콘 클릭이 진짜 제대로 된 동의라고 할 수 없다는 문제의식 제시
    • 실제 앱 사용 경험은 없지만, 기사에서는 사용자가 어떻게 공유에 동의하게 되는지가 안 나와 혼란스러움을 토로. 일반적으로 다른 앱은 공유 버튼 후, 수신자를 정하고 공유 방법을 고르는 모달이 나오는 식인데, 만약 “공유” 즉시 전 세계에 바로 공개되어 버린다면 누구라도 당황할 만한 상황이라 생각함
    • 기사 링크 제공과 함께 Mozilla의 청원(petition)이 실질적으로 도움되는 맥락을 거의 담지 않아 아쉽다는 의견 제시
    • 본인은 실제 앱을 사용 중이지만, 한 번도 공유하라고 권유받거나 알림을 받은 적 없음을 이야기함
    • 공유된 기사 내용이 원인과 논점이 명확하지 않고 매우 모호하게 느껴졌다는 피드백 제공

  • 직접 앱을 사용해봤을 때 Mozilla가 거짓 정보를 퍼뜨린다고밖에 해석할 수 없다는 생각. 이 앱의 공유는 그냥 다른 소셜 미디어 앱과 완전히 동일. 앱 우측 상단에 “Share” 버튼이 있고, 누르면 하단에 “Post” 버튼이 크게 나타남. 누르면 그 대화가 퍼블릭으로 공유됨.

    • Mozilla의 요구사항 중 대부분은 이미 만족되고 있다고 설명함: 기본적으로 모든 대화는 비공개, 공개 여부는 명확하게 보임, Meta가 사용자가 얼마나 많은 개인정보를 실수로 공개했는지 투명하게 밝힐 필요가 있냐는 점에 동의하지 않음, 유럽에서는 이미 opt-out 기능이 존재, 공개된 사람에게 알림과 영구삭제 기능도 이미 제공
      • “공유”라는 버튼이 특정인 지정이 아니라 전체 공개로 동작해서, 많은 사람들이 원치 않게 전 세계에 공유한다는 어두운 패턴 문제 지적. 대다수에게 “공유”는 개인간의 전달이나 제한적 접근을 떠올리고, 공개는 전혀 의도하지 않았을 수 있다는 의견
      • 실제 사용자는 아니지만, 공유한 콘텐츠가 친구들에게만 보일 걸로 오해하는 게 문제의 핵심이라는 지적
      • “내가 다른 사람과 같은 화면을 보고 있나?”라는 질문 제기. Meta의 본질적 문제는 일관성 없는 UI와 어두운 패턴, 각 팀이 경쟁적으로 사용자 행동을 유도하며 실제로는 친구나 게시물을 의도치 않게 공유하게 만드는 디자인이라는 주장. 지역·언어마다 경험이 다르고, Meta Business Suite는 특히 온통 미로 같은 어두운 패턴으로 가득함
      • 실수로 정보를 공개한 사용자가 몇 명인지 투명하게 밝혀야 한다는 요구에 동의하지 않음. 사용자가 실수로 공개한 것인지, 의도했는지 Meta가 알 수 없다는 점을 지적
      • Mozilla가 예전에도 의심스러운 부가 기능 설치, 서드파티 서비스 통합, 사용 내역 무단 전송, 구글 트래킹 강제 등 신뢰를 깨는 행동을 반복했다며, 왜 Mozilla가 거짓말을 하는지도 이런 행보의 연장선이라는 시각

  • Mozilla의 글이 문제를 제대로 설명하지 않아서 직접 Meta AI 앱을 체험.

    • 채팅 화면에 “Share” 버튼, 누르면 초안 페이지 아래 “Post” 버튼이 나옴, 이를 누르면 채팅이 Discover 탭으로 전체 공개됨, 이후 “전송” 아이콘으로 링크를 개별 전달 가능
    • 이런 구조는 명백한 다크 패턴이고, 전체 공개 없이 친지나 한 사람에게만 간단히 링크 공유하는 방법이 없다는 점이 불만
    • 실제로 Discover 탭에서 가장 위의 사진 게시물이 아기 사진임을 발견, 원본 사진까지 게시되어 있어 해당 사용자는 가족·친구에게만 보내려고 했을 가능성이 높다고 추정
    • 결론적으로 Meta 특유의 “일단 일 벌리기” 스타일, 사전 동의 보다는 사후 사과를 중시하는 분위기라 평가
      • 만약 뭘 하고 있는지 확실하지 않으면 아예 하지 않는 게 맞다는 의견. 본인은 Hacker News에 “submit” 버튼을 누를 때도 이게 인터넷 전체에 공개된다는 사실을 스스로 인지하고 있었고, 인터넷을 쓰는 사람은 이런 책임이 당연하다는 시각

  • Mozilla의 문제 제기에 대해 더 구체적인 사례나 스크린샷, 실제 발생 시점이 궁금하다는 질문 제기

    • 설명 자체가 많이 부족하며, Meta의 새 AI 소셜 미디어 앱과 관련된 상황임을 언급함. 일부 사용자가 AI 챗 결과를 본인도 모르게 퍼블릭으로 공개하고 있는 상황임을 전함 Meta AI 소개 링크
    • App의 “Discover” 탭을 통해, 예민한 질문(질병, 이별 등)까지 누구나 볼 수 있게 노출된다는 점을 추가로 설명하며 자세한 기사 링크도 제공

  • Mozilla의 캠페인 메시지가 맥락도 부족하고 무조건적 명령조 느낌이라는 비판

  • “Meta: shut down [...]”이란 문구는 메타가 “shut down” 해라, 라고 말하는 것처럼 보이니, 쉼표(,)로 수정하거나 “Dear Meta: ...” 형식이 명확하다는 피드백

    • 예전 채팅 앱들에서는 닉네임 뒤에 콜론(:)을 붙여서 상대방에게 주의를 끌던 문법임을 부연

  • Meta 플랫폼을 아예 쓰지 말라는 의견

    • 미국 외의 대부분 국가에서는 Whatsapp이 표준 커뮤니케이션 수단이고, SMS는 건당 요금이 발생함. Whatsapp 간 상호운용성은 EU에서만 계획된다는 설명과 함께 관련 기사 링크 제공
    • 얼마 전 Meta가 Instagram과 Facebook 웹픽셀을 통해 Android 사용자를 몰래 트래킹했다는 기사와 연결짓기도 함. Tor onion 서비스만이 과거 유일한 프라이버시 우회방식이었는데, 지금은 사실상 트래킹 회피 불가
    • Meta에서 완전히 탈퇴하지 말고, 단지 소비만 하고 아무런 글이나 신호는 남기지 않는 “기생” 방안 조언. 모든 Meta 앱은 기기에서 삭제하라는 권고
    • 네트워크 효과 덕분에 많은 사람이 반 강제적으로 연결되어 있음. 친구의 플랜이나 커뮤니티를 유지하려면 떠나기 어렵고, 그래서 프라이버시 보호와 상호운용성 확보는 정부의 역할이라는 의견. “그냥 쓰지 마라”는 현실적으로 불가능
    • Mozilla의 비즈니스 영향도 경계해야 함을 덧붙임

  • 개인정보 관련 청원 폼을 제출하려면, Mozilla의 개인정보 처리방침에 반드시 동의해야 하는 부분이 역설적인 상황이라 지적

  • FireFox Mobile에서 해당 웹사이트가 정상 표시되지 않는 문제 사례 공유와 함께 Mozilla에 개선 요구

  • 결국 소셜미디어 회사가 AI 결과물을 공유하게 한다는 당연한 사실에 대해서 과장된 기사와 버즈워드, 논란 유도로 HN top에 올리고 있다는 평

답변달기