아픈 아기의 환부 사진을 찍은 아빠를 구글이 범죄자로 지목

(nytimes.com)

11P by xguru 2022-08-22 | favorite | 댓글 8개

21년 2월 당시 주말이고 팬데믹중이어서, 응급진료를 위해 간호사가 영상/사진을 찍어서 보내주면 의사가 미리 리뷰해 주겠다고 함
아기의 아픈 곳이 "중요 부위"여서 잘 보이게 사진을 찍어서 보냈더니, 의사가 확인 후 항생제를 빠르게 처방하여 금방 해결이 되었음
그러나 해당 사진때문에 구글의 알고리듬에 의해 CSAM(아동학대자료)를 교환하는 사람으로 지목되어 구글 계정이 정지됨
- 10년 넘게 사용한 Gmail, 구글캘린더, 사진과 동영상은 구글 클라우드에 백업, 전화는 Google Fi
심지어 당사자인 Mark는 기술기업에서 사용자들이 플래그한 비디오 콘텐츠를 삭제하는 자동화도구의 소프트웨어 엔지니어 였음
그래서 이런 일들 뒤에는 컴퓨터가 실수하지 않도록 사람이 있기에, 그 사람이 보면 문제가 해결될 것이라고 생각
- 해명하는 메일을 보냈지만, 구글은 추가 설명없이 계정을 복원하지 않을 것이라고 응답
- 모든 이메일 기록과 사진, 연락처가 날아갔고, 전화번호도 바꿔야함
- Mark는 몰랐지만, 이미 구글의 검토팀은 그가 만든 영상을 신고해서 샌프란시스코 경찰이 그를 조사하기 시작
비슷한 일이 텍사스의 Cassio 라는 사람에게도 발생
2021년에 구글에 CSAM 신고는 60만건이 넘었고, 27만개의 계정이 비활성화 됨
2009년 Microsoft 가 PhotoDNA 기술을 개발했고, 2018년엔 구글이 CSAM 이미지를 인식할 수 있는 AI도구를 개발
- 페이스북을 비롯한 여러 회사에서 이 기술을 사용
2021년 12월에 Mark는 샌프란시스코 경찰로부터 우편물을 받음
- 그가 조사를 받았다는 내용과 함께 구글에게 전달된 수색영장 사본 포함
- Mark의 구글 계정에 있는 모든 것(인터넷 검색, 위치기록, 메시지, 문서, 사진, 영상등)이 조사되었음
- 이 수색은 2월에 사진을 찍은지 일주일 만에 이뤄졌음
- Mark가 조사관에게 연락했더니, 이미 사건은 무혐의로 종결되었다고 함
- 조사관이 Mark에게 연락하고 싶었지만 전화도 이메일도 닿지가 않았다고(중지되었으니까)
- 조사관을 통해서 구글 계정을 복원할 수 있냐고 물었지만 "구글과 이야기해야 한다" 라고 말함
- 이 경찰 보고서를 구글에 제출했지만 소용이 없었음
Cassio 역시 똑같이 문제가 해결되었지만, 구글 계정은 복원이 불가능했음
의료용 이미지와 학대 이미지를 AI가 구분할 수 있을까 ?