Facebook, 공유 전 사진에 Meta AI 사용 권한 요청 시작

• Facebook은 Story 게시 과정에서 카메라 롤 클라우드 처리를 허용할지 묻고, Meta AI가 아직 공유하지 않은 사진으로 콜라주·요약·AI 스타일 변경·테마 제안을 만들 수 있게 테스트 중임
• 동의하면 Meta AI가 미공개 사진의 미디어와 얼굴 특징, 촬영 날짜, 사람·객체 존재 여부를 분석할 수 있으며 Meta는 해당 개인 정보를 보관·사용할 권리를 받음
• Meta는 현재 이 테스트가 AI 모델 개선이나 학습에 쓰이지 않는다고 밝혔지만, 향후 학습 사용 가능성이나 카메라 롤 이미지에 대한 권리는 명확히 답하지 않음
• 기능은 옵트인이고 공유 전 제안은 본인에게만 보이며 끌 수 있지만, Meta는 한 번에 최근 30일치 미공개 카메라 롤을 가져올 수 있음
• 설정에서 끄면 미공개 사진이 30일 후 클라우드에서 제거되기 시작하지만, 공개 게시 전의 사적 사진까지 AI 제안 흐름에 들어간다는 점이 핵심 변화임

---

Story 게시 과정에 들어온 카메라 롤 처리

• Facebook 사용자가 Story에 게시하려 할 때 클라우드 처리에 동의할지 묻는 팝업을 볼 수 있음
• 동의하면 Facebook이 사용자의 카메라 롤에서 미디어를 선택해 정기적으로 클라우드에 업로드할 수 있음
• 업로드된 미디어는 공유하기 쉬운 콘텐츠 제안을 만드는 데 쓰임
  • 콜라주
  • 요약
  • AI 스타일 변경
  • 생일·졸업 같은 테마

동의하면 Meta AI가 볼 수 있는 정보

• 기능을 허용하면 사용자는 Meta AI 약관에도 동의한 것으로 처리됨
• Meta AI는 미공개 사진에서 미디어와 얼굴 특징을 분석할 수 있음
• 분석 대상에는 사진 촬영 날짜, 다른 사람의 존재, 객체의 존재도 포함됨
• 사용자는 Meta에 해당 개인 정보를 보관·사용(retain and use) 할 권리도 부여함

Meta의 현재 입장과 답하지 않은 부분

• Meta는 현재 이 새 기능으로 미공개 사진을 AI 모델 학습에 쓰지 않는다고 밝힘
• Meta public affairs manager Ryan Daniels는 이 테스트가 사람들의 사진을 AI 모델 개선이나 학습에 사용하지 않는다고 말함
• Meta comms manager Maria Cubeta는 기능이 매우 초기 단계이며 옵트인 전용이라고 밝힘
  • 제안은 사용자가 공유하기 전까지 본인에게만 표시됨
  • 언제든 끌 수 있음
  • 카메라 롤 미디어는 제안 개선에 쓰일 수 있음
  • 이 테스트에서는 AI 모델 개선에 쓰이지 않음
• 다만 Meta는 향후 미공개 사진을 학습에 사용할 수 있는지, 카메라 롤 이미지에 대해 어떤 권리를 보유하는지에는 명확히 답하지 않음

공개 데이터 학습 전례와 약관의 빈틈

• Meta는 2007년 이후 Facebook과 Instagram에 게시된 콘텐츠 데이터를 생성 AI 모델 학습에 사용했다고 인정한 바 있음
• 회사는 18세 이상 성인 사용자가 올린 공개 게시물만 사용했다고 밝혔지만, “public”과 2007년 당시 “adult user”의 범위는 명확하지 않았음
• 현재 Meta AI usage terms는 2024년 6월 23일부터 적용 중임
• 이 약관은 클라우드 처리로 접근한 미공개 사진이 학습 데이터 사용에서 제외되는지 명확히 밝히지 않음
• Google Photos는 Google Gemini 옵트인 이후 이미지에 AI 수정 제안을 할 수 있지만, Google은 Google Photos에서 얻은 개인 데이터로 생성 AI 모델을 학습하지 않는다고 명시함

30일 접근 범위와 오래된 미디어

• Daniels와 Cubeta에 따르면 옵트인은 Meta가 한 번에 최근 30일치 미공개 카메라 롤을 가져오도록 허용함
• 다만 Meta 설명에는 일부 데이터가 더 오래 유지되는 것처럼 보이는 부분도 있음
• Meta는 반려동물, 결혼, 졸업 같은 테마 기반 카메라 롤 제안에 30일보다 오래된 미디어가 포함될 수 있다고 밝힘

끄는 방법과 사용자 영향

• Facebook 사용자는 설정에서 camera roll cloud processing을 끌 수 있음
• 기능을 끄면 미공개 사진이 30일 후 클라우드에서 제거되기 시작함
• 이 기능은 사용자가 사진을 공개 소비 대상으로 게시할지 의식적으로 결정하기 전 단계의 개인 데이터까지 AI 제안 흐름에 포함함

관련 사례와 정정

• TechCrunch는 Facebook 사용자가 Story 기능에서 클라우드 처리 팝업을 봤다고 전함
• TechCrunch가 찾은 Reddit 게시물에 따르면 Meta는 사용자가 기능을 인지하지 못한 상태에서도 이전에 업로드된 사진에 AI 스타일 변경 제안을 제공한 사례가 있음
• 한 Reddit 사용자는 Facebook이 자신의 결혼 사진을 알지 못하는 사이 Studio Ghiblified했다고 보고함
• 기사 정정 내용에 따르면 이전 버전은 Meta가 이미 이 사진들로 AI를 학습하고 있음을 암시했지만, Meta는 현재 테스트가 아직 그렇게 하지 않는다고 밝힘

[GN⁺]

Hacker News 의견들

• Facebook이 사진을 태그하고 분류하는 시스템은 명백히 결함이 있어 큰 위험이기도 함
  운영하던 팔로워 15만 명 넘는 비즈니스 페이지가 사진 한 장 때문에 Meta의 “엄격한 반포르노” 정책 위반으로 내려갔는데, 그 사진은 NASA 출처의 토성 이미지였음
  봇 위주의 끔찍한 왕복 대응을 몇 주나 거친 뒤에야 차단이 철회됐고, Meta 쪽 논리는 행성이 “살색”이라서 인공지능이 실제 피부가 아니라고 판단하지 못했다는 것이었음

  • 예전에 거의 쓰지 않던 보조 Google 계정이 차단됐는데, 이유로 차마 쓰기도 싫은 종류의 포르노가 제시됐음
    그런 행위를 한 적도 없는데 너무 무섭고 수치스러워서 이의제기도 못 했고, 그 일을 계기로 도메인과 메일 호스팅을 사서 몇 달 뒤 거의 모든 이메일을 내 도메인으로 옮겼음
    몇 년 뒤에는 Google이 사용 부족을 이유로 기본 Gmail의 Google Play 계정도 없앴고, 마감 3일 전에 계정 유지 작업을 다 끝냈는데도 25달러를 환불해주지 않았음
    환불을 받으려면 은행 계좌를 추가하라고만 반복하고 “어떻게” 추가하는지는 40일 동안 최소 5번 물어도 알려주지 않았으며, 결국 이의제기도 받아주지 않고 “최종 결정, 추가 응답 없음”으로 끝났음
    Apple, Google, Amazon, Meta, Microsoft 같은 조 단위 기업에게 왜 이렇게 큰 힘을 줬는지 가끔 멈춰 생각하게 되고, 이제는 법적으로도 다른 방식으로도 싸울 수 없어 보임
  • 이런 완전히 터무니없는 사례를 보면, 사회복지·고객지원·기관 대응의 기본 인터페이스로 인공지능 “기반” 봇을 더 촘촘히 깔아야 한다는 사람들을 이해하기 어려움
    현재 기술 수준에서 인공지능 필터가 인간의 불만 처리 경로를 피할 수 없이 가로막는 수단이 되어서는 절대 안 됨
    이런 흐름을 대중에게 억지로 밀어 넣으려는 태도는 끔찍하고, 기업 성장 관성 때문에 실제로는 어렵겠지만 그런 걸 추진하는 회사들은 시장에서 사라질 만큼 벌을 받아야 함

• Facebook이 멀리 사는 친구와 가족을 다시 연결해주던 재미있는 도구였던 옛날이 그리움
  이제는 엄청난 데이터를 모으면서 사람들의 정신 건강까지 위험에 빠뜨리는, 과하게 설계된 주의력 착취 시스템처럼 느껴짐

  • Facebook은 처음부터 친구들을 가죽옷처럼 뒤집어쓴 인공지능이었고, 이제야 사람들이 알아차리기 시작한 것뿐임
  • 시간순 피드와 공개 프로필이 없는 서비스를 만들고 있음
    여기서는 이미 아는 사람이어야 찾을 수 있음
    대기자 명단: https://waitlist-tx.pages.dev/
    대략적인 레이아웃 디자인도 있음: https://drive.google.com/drive/folders/1uLwnXDdUsC9hMZBa1ysR...
    의도적으로 단순하게 만들고 있음
  • 정신 건강을 “위험에 빠뜨린다” 정도가 아니라, Facebook과 Instagram이 사람들에게 해롭다는 건 꽤 명백해 보임
    어떤 사람은 타고난 정신적 회복력으로 버틸 수 있겠지만, 나머지에게는 핵심적인 정신 건강을 해치지 않고 이런 플랫폼을 쓰는 방법에 대한 지침이 필요함
  • 옛날을 좋게만 보는 것 같음. Mark Zuckerberg는 2004년에 자기 플랫폼에 대해 이렇게 말했음

    Zuck: 그래, 하버드에 있는 누군가에 대한 정보가 필요하면
    Zuck: 그냥 나한테 물어봐
    Zuck: 이메일, 사진, 주소, SNS가 4,000개 넘게 있어
    [가려진 친구 이름]: 뭐? 그걸 어떻게 모았어?
    Zuck: 사람들이 그냥 제출했어
    Zuck: 왜 그랬는지는 모르겠어
    Zuck: 나를 “믿는대”
    Zuck: 멍청한 새끼들

  • 초창기 Facebook은 인터넷의 아늑한 구석 같아서, 고등학교 동창 소식이나 먼 친척의 저녁 사진을 보는 편안한 공간이었음
    지금 앱을 열면 알고리즘에 조종당하는 느낌이고, 계속 클릭하고 보게 밀어붙여 멈추기 어려움
    더 똑똑해졌지만 동시에 더 차가워졌음

• 그래서 가족들에게 내 아이들 사진을 Facebook에 올리지 말아 달라고 했음
  아이들이 커서 자기 얼굴을 어떻게 쓸지 직접 결정해야 하고, 아기 때부터 본격적으로 소셜 미디어를 쓰기 전까지 Facebook이 그 사진으로 모델을 학습하게 두는 건 잔인해 보였음

  • 어떤 문화권은 카메라가 영혼을 훔친다고 믿어서 오래전부터 사진 찍히는 걸 피했음
    나머지 사람들이 그들이 옳았다는 걸 깨닫는 데 훨씬 오래 걸렸음
  • 일부 국가, 특히 폴란드에서는 Facebook이 사람들 머릿속에 너무 깊게 박혀 있어서 피하기 어렵고, 피하려고 하면 사람들과 기관이 음모론자 취급하며 압박함
    유치원, 초등학교, 고등학교가 거의 다 사진을 올리고 싶어 함
  • 자라서 스파이나 잠입 경찰이 되고 싶은지도 모르는 아이들이 이미 얼굴 인식으로 식별되어 있음
    그 분야의 삶을 생각해볼 기회조차 갖기 전에 이미 식별된 스파이와 잠입 요원이 한 세대 이상 생길 것임
  • Facebook이 카메라 롤에서 가져간다면, 사진을 게시하지 않는 것만으로는 충분한 방어가 안 됨
  • 나도 똑같이 했지만 장모님이 내 요청을 무시했고, 그다음에는 어머니가 화를 냈고, 결국 내가 접었음

• 2021년에 Facebook을 지웠을 때의 기쁨은 말로 표현할 수 없을 정도였음
  도박과 담배와 나란히 놓일 만한 회사이고, 비용이 무엇이든 사람을 계속 붙잡아두도록 설계됐음

  • Facebook을 지우기에 가장 좋은 시점은 오래전이었고, 두 번째로 좋은 시점은 지금임
  • 친구들과 많은 대화를 Messenger로 해서 Facebook 계정은 주로 유지하고 있음
    Facebook 자체에는 거의 들어가지 않으며, 계정을 지울 때마다 벌어지는 자기축하 분위기는 잘 이해가 안 됨
    그냥 안 쓰는 것만으로도 같은 느낌과 결과를 얻음
  • 몇 년째 Facebook을 안 썼고 다시 쓸 생각도 없지만, 평균적인 사람에게 “그냥 Facebook 끊어”는 효과적인 설득이 아니라고 봄
    Facebook과 다른 Meta 서비스들은 안타깝게도 많은 오프라인 활동의 유일한 대중적 채널이 됐음
    주변의 지역 스포츠 모임, DIY 모임, 부모 모임, 야외활동 모임은 대체로 Facebook에 있고, 음악가와 지역 사업자는 Instagram에 있으며, 유럽과 라틴아메리카의 수백만 명은 온라인 소통에 WhatsApp만 씀
    많은 사람에게 선택지는 Facebook과 비Facebook이 아니라, Facebook과 공동체 참여 불가 사이에 있음
    사회 전체의 문제를 해결하자고 개인에게 비싼 개인적 결정을 요구해서는 안 되고, 규제를 찾고 평균적인 사람이 받아들일 만한 합리적 대안을 만들어야 함
    담배와 도박도 사회적 차원에서 변화해야 하는 좋은 예임. 담배 사용은 수십 년의 금연 교육, 실내 흡연 금지, 광고 금지 뒤에 급감했고, 사람들에게 그냥 끊으라고만 하지 않고 니코틴 패치도 처방함
    도박도 그냥 하지 말라고만 하지 않고 산업을 규제하거나 금지하며, 합법적인 곳에서도 스스로 도박을 차단할 수 있는 제도 같은 규제가 있음
  • Facebook은 최악임. 앱 자체는 10년째 안 깔았지만, 친구들 게시물을 보려고 모바일 브라우저에서 모바일 버전을 씀
    Zuckerberg가 모든 연결을 없애겠다는 생각을 실제로 밀어붙이면, 다시 연결하는 부담이 너무 커져서 그때는 계정을 진짜 삭제할 것 같음
    Harvard 직후 내 학교로 확장됐을 때부터 쓴 초기 사용자였는데도 그렇음
  • Meta, Twitter, Reddit 앱은 몇 년째 안 쓰지만, Marketplace 때문에 Facebook 계정 삭제는 못 하고 있음
    최근 두 번의 아파트 임대를 거기서 찾았고, 전용 임대 사이트의 대안보다 둘 다 더 좋고 저렴했음
    데스크톱 Marketplace만 쓰기 위해 계정을 열어두는 건 괜찮은 타협으로 봄

• 여전히 정치에 어두운 정치인들에게 “중국에 대한 인공지능 우위” 논리를 밀어붙이고 있음
  “Big Beautiful Bill”에 슬쩍 들어간 반규제 조항은 소비자 착취를 쉽게 만들 뿐, 군사 응용에는 전혀 영향이 없음
  중국이 소비자 착취를 지배한다면 그냥 그렇게 두고 중국 인터넷 기업을 차단하면 됨
  미국의 우위를 그렇게 걱정한다면 왜 작동하는 핵융합로에 5,000억 달러를 투자하지 않는지 이상함

• 이건 책임 소재가 악몽이 될 것 같음
  사람들 기기의 모든 이미지 파일을 훑고 학습에 쓴다면, 허락 없는 나체 사진은 물론이고 가끔은 아동 성착취물이나 고어 사진까지 필연적으로 빨아들일 텐데, 이미 공개 사진에 접근할 수 있으면서 왜 그런 게 학습 데이터셋에 섞일 위험을 감수하려는지 모르겠음

  • 시스템의 목적은 그 시스템이 실제로 하는 일임
    그런 관점에서는 CIA가 기기에 이런 자료를 가진 대상을 찾아내고, 이후 자산으로 전환하는 데 쓰려는 계획일 수도 있음
  • 미국에서는 이미 연방 규제 포획이 끝났음
    연방 요원이 기소하려고 하면 “넌 해고야!” 버튼 한 번이면 되는 분위기임
  • 간단함. 신경 안 쓰는 것임
  • 처리 전에 Hive 같은 제공업체로 모든 사진을 스캔할 것 같음
  • 거기서 일하는 사람들 중 아무도 신경 쓰지 않을 것 같음

• 이건 정말 심각함
  많은 Android 폰에 Facebook과 Instagram이 기본 설치되어 있고 완전히 제거할 수도 없음
  동의를 구한다 해도 많은 사람이 실수나 인식 부족으로 해로운 선택을 할 수 있음
  이런 회사들이 최소한의 윤리 기준조차 적용받지 않는다는 게 경악스러움
  며칠 전 인기 있고 악용적인 소셜·메시징 플랫폼에 묶이는 게 아는 모든 사람과 온라인 연락을 유지하기 위한 받아들일 만한 타협이라고 한 사람이 있었는데, 바로 그런 무관심이 이 플랫폼들이 시장 지배력을 노골적으로 남용할 힘을 줌
  그 피해는 사생활에 무책임한 선택을 한 사람에게만 머물지 않고, 무지하거나 원치 않는 사람들까지 이런 스파이웨어의 영향권으로 끌고 들어감

  • 그래서 몇 주 동안 공급사 잠금 해제가 가능하고 LineageOS를 설치할 수 있는 최신 기기를 찾아다녔음
    최근 OnePlus 기기에서는 더 이상 불가능하고, Swappa나 Amazon에서 다른 브랜드를 파는 사람들도 실제로는 통신사 잠금 해제만 가능한데 공급사 잠금 해제가 된다고 주장하는 경우가 많음
    내 기기에서 어떤 제조사의 쓰레기 앱도 돌아가게 하고 싶지 않음
    현대 사회에서 제대로 쓰려면 Google Play를 “써야만 하는” 게 싫지만, Lineage와 MindTheGapps는 그나마 덜 나쁜 방법임
    사실 정말 원하는 건 휴대용 Linux 머신이라서, 시간을 내서 postmarketOS나 Mobian 같은 것도 시도해봐야겠음
  • ADB(Android Debug Bridge)를 쓰면 루트 없이도 pm disable-user 명령으로 사전 설치된 Facebook/Instagram 앱을 비활성화할 수 있고, 실행되거나 데이터를 수집하는 걸 사실상 막을 수 있음
  • 이런 사업 관행이 있는 폰을 산다면 그것도 결국 본인의 선택임
    좋은 브랜드 중에는 어떤 앱이든 삭제할 수 있게 해주는 곳이 많음

• Facebook 코드 안에 이런 가드가 몇 개나 있을지 궁금함
  if (userId == 1) { // mark의 데이터를 학습 세트에 넣지 않기 }

  • Mark의 사용자 ID는 4임
  • Zuckerberg가 Facebook을 쓴다는 생각 자체가 웃김
    Silicon Valley의 거물들이나 그 자녀들은 아주 통제되고 연출된 방식이 아니면 소셜 미디어 기술과 거의 엮이지 않음
    일반 사용자는 그냥 “멍청한 새끼들”일 뿐임

• Zuck은 무의미한 존재가 되어 사라져야 함
  몇 년째 흥미로운 일을 한 적이 없고, 몇 년마다 한 번씩 개인 데이터를 털어서 뭔가 할 수 있다고 생각함

  • Zuck의 제국은 대규모 언어 모델 분야에서 많은 일을 했고, 그 기여가 없었다면 로컬 대규모 언어 모델이 가능했을지 모르겠음

• https://archive.is/3lllh