11P by xguru 1달전 | favorite | 댓글 8개
  • 21년 2월 당시 주말이고 팬데믹중이어서, 응급진료를 위해 간호사가 영상/사진을 찍어서 보내주면 의사가 미리 리뷰해 주겠다고 함
  • 아기의 아픈 곳이 "중요 부위"여서 잘 보이게 사진을 찍어서 보냈더니, 의사가 확인 후 항생제를 빠르게 처방하여 금방 해결이 되었음
  • 그러나 해당 사진때문에 구글의 알고리듬에 의해 CSAM(아동학대자료)를 교환하는 사람으로 지목되어 구글 계정이 정지됨
    • 10년 넘게 사용한 Gmail, 구글캘린더, 사진과 동영상은 구글 클라우드에 백업, 전화는 Google Fi
  • 심지어 당사자인 Mark는 기술기업에서 사용자들이 플래그한 비디오 콘텐츠를 삭제하는 자동화도구의 소프트웨어 엔지니어 였음
  • 그래서 이런 일들 뒤에는 컴퓨터가 실수하지 않도록 사람이 있기에, 그 사람이 보면 문제가 해결될 것이라고 생각
    • 해명하는 메일을 보냈지만, 구글은 추가 설명없이 계정을 복원하지 않을 것이라고 응답
    • 모든 이메일 기록과 사진, 연락처가 날아갔고, 전화번호도 바꿔야함
    • Mark는 몰랐지만, 이미 구글의 검토팀은 그가 만든 영상을 신고해서 샌프란시스코 경찰이 그를 조사하기 시작
  • 비슷한 일이 텍사스의 Cassio 라는 사람에게도 발생
  • 2021년에 구글에 CSAM 신고는 60만건이 넘었고, 27만개의 계정이 비활성화 됨
  • 2009년 Microsoft 가 PhotoDNA 기술을 개발했고, 2018년엔 구글이 CSAM 이미지를 인식할 수 있는 AI도구를 개발
    • 페이스북을 비롯한 여러 회사에서 이 기술을 사용
  • 2021년 12월에 Mark는 샌프란시스코 경찰로부터 우편물을 받음
    • 그가 조사를 받았다는 내용과 함께 구글에게 전달된 수색영장 사본 포함
    • Mark의 구글 계정에 있는 모든 것(인터넷 검색, 위치기록, 메시지, 문서, 사진, 영상등)이 조사되었음
    • 이 수색은 2월에 사진을 찍은지 일주일 만에 이뤄졌음
    • Mark가 조사관에게 연락했더니, 이미 사건은 무혐의로 종결되었다고 함
    • 조사관이 Mark에게 연락하고 싶었지만 전화도 이메일도 닿지가 않았다고(중지되었으니까)
    • 조사관을 통해서 구글 계정을 복원할 수 있냐고 물었지만 "구글과 이야기해야 한다" 라고 말함
    • 이 경찰 보고서를 구글에 제출했지만 소용이 없었음
  • Cassio 역시 똑같이 문제가 해결되었지만, 구글 계정은 복원이 불가능했음
  • 의료용 이미지와 학대 이미지를 AI가 구분할 수 있을까 ?
kunggom 1달전  [-]

결국 국내 뉴스에도 뉴욕타임스를 인용해서 보도되었네요.

"구글, 진료 위해 유아 아들 성기 촬영한 아빠 성범죄자로 몰아"

답변달기
laeyoung 1달전  [-]

70년 전 핵폭탄을 보고 과학자들이 과학에 대한 자기 감시를 시작했듯, 개발자들도 대형 테크 기업들에 대한 자기 감시가 필요한 시기가 아닐까 싶네요.

답변달기
alstjr7375 1달전  [-]

이 정도면 고소감 아닌가요..?

답변달기
kunggom 1달전  [-]

아카이브된 기사 원문에 따르면, Mark도 구글을 고소할 수 있는지 변호사와 상담했지만 약 7천달러의 비용이 든다는 사실을 알고 포기한 모양입니다.

답변달기
terger24 1달전  [-]

도게자 해도 모자랄 상황인거 같은데요....

답변달기
ifmkl 1달전  [-]

이야 이건 오히려 피해를 입힌것에 대한 보상을 받아야 할 거 같은데 그거에 대해 무마하려고 저렇게 대처하는걸까요?

답변달기
devsepnine 1달전  [-]

구글 대응이나 처리가 수준이 낮네요..

답변달기
xguru 1달전  [-]

애플, 아동 보호를 위한 새로운 안전기능 도입
애플, "아이폰 스캐닝" 논란 유감

답변달기