메타는 침해적인 AI Discover 피드를 즉시 중단하라

 (mozillafoundation.org)
1P by GN⁺ | ★ favorite | 댓글 1개
  • Meta가 AI 채팅에서 생성된 개인적 대화 내용을 사용자 동의 없이 Discover 피드에 공개함으로써 사생활 침해 우려가 확산됨
  • Mozilla 커뮤니티는 Discover 피드 중단, 기본적인 AI 대화 비공개 설정, 이용자 동의 기반의 정보 공개, 투명성 제공을 요구함
  • 누구나 쉽게 이용할 수 있는 전체 opt-out 시스템 구축, 비공개 대화 공개 시 영구 삭제 권한 부여가 필요함
  • 많은 사람들이 개인 정보가 공개적으로 유출되는 사실을 인지하지 못하고 있음
  • 이 캠페인은 명확한 사전 동의 없이 사용자 대화 내용이 공개되지 않도록 보장할 것을 촉구함

내용 요약

프라이버시 침해 우려

  • Meta가 자사 인공지능(AI) 서비스 이용 시 이루어진 개인적 대화 내용을 Discover 피드를 통해 공공 콘텐츠로 전환함을 조용히 진행함
  • 다수의 사용자가 자신이 입력한 대화 내용이 공적으로 공개된다는 사실을 인식하지 못하는 상황임

Mozilla 커뮤니티의 요구사항

  1. Discover 피드의 즉각적인 중단
    • 실제 프라이버시 보호 장치가 구축될 때까지 Discover 피드를 중단할 것을 촉구함
  2. AI 대화 기본 비공개화
    • 모든 AI 상호작용을 기본적으로 비공개 설정으로 유지하고, 충분한 정보와 동의가 없는 한 공개 기능을 허용하지 않을 것을 요구함
  3. 투명성 제공 요청
    • 몇 명의 사용자가 사전 인지 또는 동의 없이 개인 정보를 공유했는지 명확한 수치를 공개할 것을 요구함
  4. 보편적인 opt-out 시스템 구축
    • 누구나 쉽게 접근 가능한 opt-out 시스템을 Meta 전 플랫폼에 제공하여, 개인 데이터가 AI 학습에 활용되지 않도록 해야 함
  5. 알림 및 삭제 권한 제공
    • 비공개 대화가 공개된 사용자에게 즉시 알림을 제공하고, 원하는 경우 해당 콘텐츠를 영구적으로 삭제할 수 있는 권한을 부여해야 함

사생활과 공공 영역의 경계 모호화

  • Meta의 정책 변화로 인해 개인 대화와 공공 콘텐츠의 경계가 모호해짐
  • 사람들은 개인적 공간에서 대화한다고 믿으나, 실제론 공개적으로 정보가 확산되는 위험 요인이 존재함

캠페인 및 서명 촉구

  • 개인 동의 없이 대화 내용이 공개되는 행위 중단과, 명확한 사용자 선택권 보장을 위한 캠페인 진행 중
  • 캠페인에 동의하는 사용자는 이름을 남겨 Meta의 정책 변경을 촉구하는 서명 운동에 참여 가능함

함께 보면 좋은 글 β

GN⁺   [-]
Hacker News 의견들

  • 배경 자료:

    • “Meta has a new stand-alone AI app. It lets you see what other people are asking.” https://www.businessinsider.com/meta-ai-app-public-feed-warn... (2025년 5월)
    • “People are seemingly accidentally publishing their AI chat histories with Meta’s new AI app” https://www.crikey.com.au/2025/05/05/meta-ai-chatbot-discove... (2025년 5월)
      첫 번째 링크는 대화가 기본적으로 비공개이며, 사용자 실수가 개입됐을 가능성이 크다고 말함[1]. Mozilla의 강조 표현은 얼핏 보면 그 반대처럼 읽히기도 함[2]
      [1]: “To be clear, your AI chats are not public by default — you have to choose to share them individually by tapping a share button. Even so, I get the sense that some people don't really understand what they're sharing, or what's going on.”
      [2]: 처음 봤을 때 “Make all AI interactions private by default with no public sharing option unless explicitly enabled through informed consent.”를 그렇게 이해했음
    • 이 상황 자체는 확실히 모르겠지만, Google Docs부터 ChatGPT, Notion까지 “링크가 있는 사람만 볼 수 있는 공유 링크 만들기”와 “그 공유 링크를 대중이 검색/발견 가능하게 만들기”는 명확히 구분됨
      Meta가 AI 채팅에서 공유 버튼을 눌렀을 때 기본으로 검색/발견 가능성을 켠다면, 더 나쁘게는 업계 표준에 가까운 선택지를 아예 안 준다면, 혼란이 설명되고 매우 예상 밖의 다크 패턴이 됨. 부모 댓글처럼 공유 아이콘을 누른 것만으로는 충분히 고지된 동의가 아님
    • 앱을 써보진 않았고 아마 앞으로도 안 쓰겠지만, 두 기사 모두 사용자가 상호작용을 “공유”하도록 선택하는 메커니즘을 보여주지 않음. 다크 패턴이 있는 건가?
      다른 앱에서는 “공유”를 누르면 WhatsApp, 문자, 이메일 등 방식을 고르는 모달이 뜨고, 방식과 수신자를 선택한 뒤에야 실제 공유가 됨. 그런데 “공유” 버튼의 동작이 즉시 게시라면, 다음 단계에서 특정 신뢰할 사람을 고를 거라고 기대한 사람들은 충분히 놀랄 수 있음
    • 앱을 쓰는데 공유하라고 한 번도 유도받은 적이 없어서 이상하게 느껴짐

  • 앱을 직접 써보니 이 글은 Mozilla가 거짓말하는 것 말고는 다르게 해석하기 어려움. 이 앱의 공유는 다른 소셜 미디어 앱과 동일함
    앱 오른쪽 위에 “Share” 버튼이 있고, 누르면 아래쪽에 큰 “Post” 버튼이 있는 중간 화면이 나옴. 그 버튼을 누르면 채팅이 공유됨
    다른 사람들은 다른 화면을 보는 건가? Mozilla는 왜 이렇게 말하는 걸까? 요구 사항 대부분은 이미 충족돼 있음

    Shut down the Discover feed until real privacy protections are in place.
    모든 것은 이미 기본 비공개이고, 무엇이 공개인지 볼 수 있음
    Make all AI interactions private by default with no public sharing option unless explicitly enabled through informed consent.
    이미 사실임
    Provide full transparency about how many users have unknowingly shared private information.
    Meta가 이걸 해야 할 이유는 없음
    Create a universal, easy-to-use opt-out system for all Meta platforms that prevents user data from being used for AI training.
    이미 존재함. 수정: EU 사용자에게만 해당하는 듯함. 개인적으로는 이것이 공개 공유 주장과 관련 있다고 보지 않음
    Notify all users whose conversations may have been made public, and allow them to delete their content permanently.
    이것도 이미 존재함

    • 이건 다크 패턴 문제임. 많은 사람이 특정 사람에게 공유하려 했는데 실수로 일반 대중에게 공유하고 있음. 여기서 지적하는 문제 중 하나가 그 부분임. 많은 사람에게 “share”는 “특정 사람에게 공유할 방법을 달라”는 뜻이지, “일반 대중이 색인하고 검색할 수 있게 표시하라”는 뜻이 아님
    • 사용자는 아니지만, 차이는 사용자가 공유 항목이 친구에게만 보일 거라고 기대했는데 실제로는 공개된다는 데 있는 것 아닌가?
    • 어쩌면 다른 화면을 보고 있을 수 있음. 오늘일 수도 있고 내일일 수도 있음
      지금 Meta의 핵심 문제는 다른 사람들이 말한 것처럼 다크 패턴임. Meta는 사용자가 하길 원하는 행동에 맞춰 UI 요소를 옮기고, 수정하고, 제거함. 의도하지 않았거나 그런 행동을 한 기억조차 없는데 무언가가 게시·공유·변경돼 있는 경우가 늘 놀라움. Meta 제품에서는, 비활성 계정에서도 그냥 무슨 일이 일어나는 듯함
      Meta 제품을 충분히 오래 쓰면 두 사용자가 같은 경험을 보장받지 않는다는 걸 깨닫게 됨. 표준 경험이 없음. 지역과 언어, 솔직히 그 외 알 수 없는 요소에 따라 경험이 바뀜. 운영 환경에서 계속 다크 패턴을 시험하고 최적화함. Meta Business Suite를 한 시간만 써보면, 전체 플랫폼이 깨진 링크, 깨진 기능, 아무 데도 안 가거나 폐기된 기능으로 가는 UI 요소로 된 다크 패턴 미로에 가깝다는 걸 알 수 있음. 한 팀은 X를 하게 하고 Y 기능을 쓰게 하려 하고, 다른 팀은 Z를 하게 하고 W 기능을 쓰게 하려 함. Business Suite는 그걸 전부 섞어놓음. 오늘 코드베이스를 동결하고 몇 달 동안 Business Suite를 연구해도, 바닥까지 전부 다크 패턴이라는 걸 발견하게 될 것임
    • Mozilla가 왜 TV 쇼를 광고하려고 시스템 권한을 가진 숨겨진 애드웨어 부가 기능을 배포했을까?
      Mozilla가 왜 묻지도 않고 임의의 제3자 서비스를 통합했을까?
      Mozilla가 왜 브라우징 기록을 Cliqz에 보냈을까?
      Mozilla가 왜 차단할 수 없는 Google 추적을 통합했을까?
      Mozilla가 왜 데이터를 팔았을까?
      Mozilla가 왜 비활성화해도 업데이트 후 다시 켜지는 원격 측정 서비스를 설치했을까?
      Mozilla가 왜 이렇게 거짓말할까?
      Mozilla니까
    • “사용자가 모르게 개인 정보를 공유한 인원이 몇 명인지 완전한 투명성을 제공하라”는 요구는 Meta도 할 수 없을 것임. 사용자가 모르고 공유했는지를 어떻게 알겠나?

  • Mozilla 글은 무엇이 잘못됐는지 설명을 꽤 못해서 Meta AI 앱에 직접 들어가 봄:
    채팅에는 “Share” 버튼이 있음
    버튼을 누르면 채팅 초안과 “Post” 버튼이 보임
    “Post”를 누르면 채팅이 공개로 게시되고 “Discover” 탭으로 이동함
    게시된 채팅에서는 “send” 아이콘을 눌러 채팅 링크를 다른 사람에게 보낼 수 있음
    개인적으로는 실제로 다크 패턴이고 사람들이 “Share” 동작을 인식하는 방식과 어긋난다고 봄. 채팅을 공개하지 않고는 공유할 수 없다는 점도 별로임
    예를 들어 지금 보이는 상위 Discover 게시물은 아기 사진을 스타일화한 이미지인데, 게시물을 열면 원본 사진도 볼 수 있음. 올린 사람은 친척이나 친구에게 사진을 공유하려던 것일 가능성이 매우 커 보임
    종합하면 Meta가 “최고의” Meta다운 행동을 한 것임. 허락을 구하기보다 나중에 사과하는 편이 낫다는 식임

    • 맞음, 정확히 이 부분임. 휴대폰에서 여러 앱 사이에 사진이나 웹페이지 등을 메시징 앱으로 다른 사람에게 비공개 공유할 때 share를 항상 씀. 지금 내게 “share”가 의미하는 바가 그거임
    • 뭘 하는지 확실하지 않으면 하지 말아야 함. 예를 들어 방금 Hacker News에 글을 올렸는데, 내 앱의 버튼은 “submit”이라고 되어 있고 인터넷에 게시한다고 경고하지 않음. 그게 문제인가? 아님. 내가 뭘 하는지 알고 있고 인터넷을 쓰는 사람이라면 누구나 그래야 하기 때문임

  • 큰일처럼 들리는데 Mozilla가 더 자세한 정보를 줄 수는 없나?
    예시나 스크린샷이 필요함. 읽고 나서도 언제, 어떻게 이런 일이 발생하는지 이해가 안 됨

    • 설명을 끔찍하게 못함. 사실 설명하려는 시도조차 안 함. 아마 Meta의 새 AI 소셜 미디어 앱과 관련된 듯함:
      https://about.fb.com/news/2025/04/introducing-meta-ai-app-ne...
      일부 사람들이 프롬프트를 공개 공유하고 있다는 사실을 모른 채 그 안의 AI를 쓰고 있다고 들었음
    • 관련 맥락은 이렇음:
      “지난주 출시된 독립형 AI 앱에 Meta가 소셜 기능을 도입했다. ‘이 민망한 발진은 뭐지?’나 ‘아내에게 더 이상 사랑하지 않는다고 어떻게 말하지?’ 같은 조용한 질의가 곧 앱의 Discover 탭을 스크롤하는 누구에게나 보일 수 있다.”
      https://www.fastcompany.com/91327812/metas-ai-social-feed-is...

  • 무엇을 우려하는지 알 수 있는 맥락과 예시가 부족함
    구체적인 사안이나 익명 작성자가 뒷받침하지 못하는데도 정의롭고 지시적인 어조가 강함
    “Mozilla: Improve your messaging. Now.”

    • “Mozilla: Improve your messaging. Now.”가 제일 먼저 보였음. 너무 별로라 바로 나가고 싶었고, 명백한 신호였음. 헛소리 감지기가 울렸지만 HN에서 점수가 너무 높아서 나머지도 읽어봤고, 틀리지 않았음

  • “Meta: shut down [...]”의 문장부호는 Meta가 “shut down”이라고 말하는 것처럼 보이게 함. “Meta, shut down your [...]”처럼 쉼표여야 함

    • 예전 채팅 앱에서는 콜론이 누군가의 주의를 끌 때 쓰였음. 예를 들어 IRC 클라이언트에서 닉네임을 탭 자동완성하면 입력이 닉네임으로 시작할 때 자동으로 콜론을 붙였음
    • Meta: Shut down. You're invasive. (AI Discover feed)
    • 아마 “Dear Meta: ...”가 더 나을 듯함

  • I’m okay with Mozilla handling my info as explained in this Privacy Notice.
    개인정보 보호 항의 양식을 제출하려면 이 체크박스를 필수로 만드는 아이러니가 있음

  • 그냥 Meta 플랫폼에서 나오는 게 맞음

    • 미국 밖 세계 대부분은 WhatsApp으로 돌아감
      SMS는 선택지가 아님. 다시 말하지만 미국 밖에서는 보낸 SMS마다 돈을 내기 때문임
      WhatsApp 상호운용성 계획은 있지만 아마 EU에만 적용될 것임
      https://www.wired.com/story/whatsapp-interoperability-messag...
    • 며칠 전 “Meta found 'covertly tracking' Android users through Instagram and Facebook” 이야기가 떠오름. 웹 픽셀에서 로컬호스트의 Meta 앱(FB/IG)으로 STUN 요청을 보내던 건임
      Facebook/Instagram, 특히 계속 실행되는 모바일 앱을 쓰면서 추적을 진심으로 걱정한다고 보기는 어렵다고 봄
      Facebook은 아직 Tor onion 서비스를 운영하나? 과거에는 극단적인 추적을 피하면서 이 제품들을 쓸 수 있는 유일한 방법처럼 보였음
    • 네트워크 효과 때문에 대부분은 Meta 제품 중 적어도 하나에 묶여 있음. 친구들이 연락하고 약속 잡는 데 Instagram/Facebook/WhatsApp을 쓴다면, 플랫폼을 떠나는 것은 공동체와의 연결을 끊는 것과 비슷함
      그래서 정부가 개인정보 보호를 규제하고 플랫폼 간 상호운용성을 의무화할 역할이 있음. “그냥 쓰지 마”는 현실적인 요구가 아님
    • Meta에서 완전히 떠나지 말고, 빨아먹기만 하면 됨. 게시물, 댓글, 행동 신호를 기여하지 말 것. 웹앱을 쓰고, 가능하다면 분리된 비공개 브라우징 컨테이너에서 사용할 것. 기기에서 모든 Meta 앱을 제거하고 뿌리 뽑아야 함
    • Mozilla 사업에서도 나와야 함

  • 왜 이 웹사이트는 Firefox Mobile에서 제대로 동작하지 않나? Mozilla, 제발 정리 좀 했으면 함
    뷰포트가 휴대폰 화면의 1/4만 차지하고, 검은 공허 속에서 그걸 스크롤해 돌아다닐 수 있음

  • 소셜 미디어 회사가 결과를 소셜 미디어에 공유할 수 있는 AI 앱을 만들었음. 놀랍네!
    하지만 세부 정보는 하나도 없고 적당한 유행어와 참여 유도 문구만 넣은 글을 쓰면 HN 상단에 올라가고 오늘의 분노 주기도 유지될 것임. 내일은 다시 “Google은 나쁘다”로 돌아가겠지

답변달기