# 아픈 아기의 환부 사진을 찍은 아빠를 구글이 범죄자로 지목

> Clean Markdown view of GeekNews topic #7234. Use the original source for factual precision when an external source URL is present.

## Metadata

- GeekNews HTML: [https://news.hada.io/topic?id=7234](https://news.hada.io/topic?id=7234)
- GeekNews Markdown: [https://news.hada.io/topic/7234.md](https://news.hada.io/topic/7234.md)
- Type: news
- Author: [xguru](https://news.hada.io/@xguru)
- Published: 2022-08-22T10:18:12+09:00
- Updated: 2022-08-22T10:18:12+09:00
- Original source: [nytimes.com](https://www.nytimes.com/2022/08/21/technology/google-surveillance-toddler-photo.html)
- Points: 11
- Comments: 8

## Topic Body

- 21년 2월 당시 주말이고 팬데믹중이어서, 응급진료를 위해 간호사가 영상/사진을 찍어서 보내주면 의사가 미리 리뷰해 주겠다고 함   
- 아기의 아픈 곳이 "중요 부위"여서 잘 보이게 사진을 찍어서 보냈더니, 의사가 확인 후 항생제를 빠르게 처방하여 금방 해결이 되었음   
- 그러나 해당 사진때문에 구글의 알고리듬에 의해 CSAM(아동학대자료)를 교환하는 사람으로 지목되어 구글 계정이 정지됨  
  - 10년 넘게 사용한 Gmail, 구글캘린더, 사진과 동영상은 구글 클라우드에 백업, 전화는 Google Fi   
- 심지어 당사자인 Mark는 기술기업에서 사용자들이 플래그한 비디오 콘텐츠를 삭제하는 자동화도구의 소프트웨어 엔지니어 였음   
- 그래서 이런 일들 뒤에는 컴퓨터가 실수하지 않도록 사람이 있기에, 그 사람이 보면 문제가 해결될 것이라고 생각   
  - 해명하는 메일을 보냈지만, 구글은 추가 설명없이 계정을 복원하지 않을 것이라고 응답  
  - 모든 이메일 기록과 사진, 연락처가 날아갔고, 전화번호도 바꿔야함  
  - Mark는 몰랐지만, 이미 구글의 검토팀은 그가 만든 영상을 신고해서 샌프란시스코 경찰이 그를 조사하기 시작   
- 비슷한 일이 텍사스의 Cassio 라는 사람에게도 발생   
- 2021년에 구글에 CSAM 신고는 60만건이 넘었고, 27만개의 계정이 비활성화 됨   
- 2009년 Microsoft 가 PhotoDNA 기술을 개발했고, 2018년엔 구글이 CSAM 이미지를 인식할 수 있는 AI도구를 개발  
  - 페이스북을 비롯한 여러 회사에서 이 기술을 사용   
- 2021년 12월에 Mark는 샌프란시스코 경찰로부터 우편물을 받음   
  - 그가 조사를 받았다는 내용과 함께 구글에게 전달된 수색영장 사본 포함   
  - Mark의 구글 계정에 있는 모든 것(인터넷 검색, 위치기록, 메시지, 문서, 사진, 영상등)이 조사되었음   
  - 이 수색은 2월에 사진을 찍은지 일주일 만에 이뤄졌음  
  - Mark가 조사관에게 연락했더니, 이미 사건은 무혐의로 종결되었다고 함  
  - 조사관이 Mark에게 연락하고 싶었지만 전화도 이메일도 닿지가 않았다고(중지되었으니까)  
  - 조사관을 통해서 구글 계정을 복원할 수 있냐고 물었지만 "구글과 이야기해야 한다" 라고 말함   
  - 이 경찰 보고서를 구글에 제출했지만 소용이 없었음  
- Cassio 역시 똑같이 문제가 해결되었지만, 구글 계정은 복원이 불가능했음   
- 의료용 이미지와 학대 이미지를 AI가 구분할 수 있을까 ?

## Comments



### Comment 12048

- Author: kunggom
- Created: 2022-08-26T17:38:20+09:00
- Points: 1

결국 국내 뉴스에도 뉴욕타임스를 인용해서 보도되었네요.  
  
["구글, 진료 위해 유아 아들 성기 촬영한 아빠 성범죄자로 몰아"](https://n.news.naver.com/news/article/001/0013390516)

### Comment 11963

- Author: laeyoung
- Created: 2022-08-22T22:11:32+09:00
- Points: 1

70년 전 핵폭탄을 보고 과학자들이 과학에 대한 자기 감시를 시작했듯, 개발자들도 대형 테크 기업들에 대한 자기 감시가 필요한 시기가 아닐까 싶네요.

### Comment 11960

- Author: alstjr7375
- Created: 2022-08-22T16:23:33+09:00
- Points: 1

이 정도면 고소감 아닌가요..?

### Comment 11962

- Author: kunggom
- Created: 2022-08-22T21:44:51+09:00
- Points: 2
- Parent comment: 11960
- Depth: 1

[아카이브된 기사 원문](https://archive.ph/tL6wk)에 따르면, Mark도 구글을 고소할 수 있는지 변호사와 상담했지만 약 7천달러의 비용이 든다는 사실을 알고 포기한 모양입니다.

### Comment 11953

- Author: terger24
- Created: 2022-08-22T12:27:04+09:00
- Points: 1

도게자 해도 모자랄 상황인거 같은데요....

### Comment 11948

- Author: ifmkl
- Created: 2022-08-22T10:54:03+09:00
- Points: 1

이야 이건 오히려 피해를 입힌것에 대한 보상을 받아야 할 거 같은데 그거에 대해 무마하려고 저렇게 대처하는걸까요?

### Comment 11946

- Author: devsepnine
- Created: 2022-08-22T10:23:41+09:00
- Points: 1

구글 대응이나 처리가 수준이 낮네요..

### Comment 11945

- Author: xguru
- Created: 2022-08-22T10:18:19+09:00
- Points: 1

[애플, 아동 보호를 위한 새로운 안전기능 도입](https://news.hada.io/topic?id=4775)  
[애플, "아이폰 스캐닝" 논란 유감](https://news.hada.io/topic?id=4829)