워털루대 자판기 얼굴 인식 오류 메시지로 개인정보 우려 확산

 (kitchener.ctvnews.ca)
1P by GN⁺ | ★ favorite | 댓글 1개
  • University of Waterloo 캠퍼스의 스마트 자판기에서 얼굴 인식 애플리케이션 오류가 보이면서, 학생들은 안내 없이 생체·인구통계 감지가 이뤄졌을 가능성을 우려함
  • 문제의 기기는 M&M 디자인의 초콜릿·사탕 자판기로, Modern Languages 건물과 Hagey Hall 등 캠퍼스 여러 곳에 설치돼 있었음
  • 오류 사진이 온라인에 퍼진 뒤 학생들은 작은 구멍을 카메라 또는 센서로 보고 sticky tack, 껌, 포스트잇 등으로 가리기 시작함
  • 공급 서비스 업체 Adaria는 기기 소유·제조와 데이터 접근을 부인했고, 제조사 Invenda는 소프트웨어가 로컬 처리만 하며 이미지나 개인식별정보를 저장·전송하지 않는다고 답함
  • University of Waterloo는 해당 자판기를 가능한 한 빨리 제거하고, 그 전까지 관련 소프트웨어를 비활성화해 달라고 요청함

오류 메시지로 드러난 캠퍼스 자판기 논란

  • University of Waterloo의 스마트 자판기들이 학생들의 개인정보 우려 이후 캠퍼스에서 제거될 예정임
  • 해당 자판기들은 M&M 이미지가 붙어 있으며 초콜릿과 다른 사탕을 판매함
    • 설치 장소에는 Modern Languages 건물과 Hagey Hall이 포함됨
  • 2월 초 한 학생이 Modern Languages 건물의 자판기에서 오류 메시지를 발견함
    • 메시지는 얼굴 인식 애플리케이션 문제를 나타내는 것으로 보였음
    • 4학년 학생 River Stanley는 이 오류가 없었다면 학생들이 알지 못했을 것이며, 현장에는 경고가 없었다고 말함

학생 반응과 온라인 확산

  • 오류 메시지 사진이 온라인에 올라간 뒤 학생들 사이에서 빠르게 공유됨
  • 많은 학생들이 자판기의 작은 구멍을 카메라 위치로 보고 가리려 했음
    • 사용된 물건에는 sticky tack, 껌, 포스트잇 등이 포함됨
  • 학생 Dilpreet Sandhu는 자판기에 얼굴 인식이 필요하다고 생각하지 않는다며 놀랐다고 말함
  • Sandhu는 이 사실을 알게 된 뒤 다른 장소에서도 비슷한 기술이 쓰이고 있을 수 있는지 의문이 생겼다고 덧붙임
    • University campus의 일반적 이용자는 10대 후반에서 20대 초반의 젊은 성인이라고도 말함

Adaria, MARS, Invenda의 입장

  • 자판기 제공 업체인 Adaria Vending Services Limited는 이메일에서 자신들이 fulfillment service provider라고 밝힘
    • 기기를 소유하거나 제조하지 않음
    • 기기에서 나오는 해당 유형의 데이터에 접근할 수 없음
  • 자판기는 MARS가 소유하고, 제조사는 Invenda임
  • MARS는 CTV의 논평 요청에 응답하지 않음
  • Invenda도 CTV의 논평 요청에는 응답하지 않았지만, Stanley에게 보낸 이메일에서 자판기 내 인구통계 감지 소프트웨어가 완전히 로컬에서 작동한다고 답함
    • 이미지나 개인식별정보를 저장하지 않음
    • 이미지나 개인식별정보를 통신하거나 전송하지 않음

Invenda 웹사이트의 감지 기능 설명

  • Invenda 웹사이트에 따르면 Smart Vending Machines는 사람의 존재, 추정 나이, 성별을 감지할 수 있음
  • 웹사이트는 소프트웨어가 USB 광학 센서에서 나온 디지털 이미지 맵을 실시간으로 로컬 처리한다고 밝힘
    • 해당 데이터는 영구 저장 매체에 저장되지 않음
    • 인터넷을 통해 클라우드로 전송되지 않음
  • Invenda는 Stanley에게 해당 소프트웨어가 유럽연합 개인정보보호법인 GDPR을 준수한다고 답함
  • Stanley는 이 기술이 캐나다에서 합법인지에 의문을 제기함

캐나다 개인정보 사례와 학교의 조치

  • 2020년 캐나다 연방 개인정보보호위원회 조사에서는 Cadillac Fairview의 디지털 정보 키오스크 내 내장 카메라가 쇼핑몰 고객의 인지나 동의 없이 500만 장 이상의 이미지를 기록한 것으로 확인됨
    • 해당 키오스크는 얼굴 인식 기술을 사용했음
  • Stanley는 명시적이고 의미 있는 동의가 없으면 개인정보 법규 위반이 될 수 있다는 사례를 학생들에게 알려야 한다고 봄
  • University of Waterloo는 상황을 처리 중이라고 밝힘
    • 학교는 해당 자판기를 가능한 한 빨리 캠퍼스에서 제거해 달라고 요청함
    • 그동안 소프트웨어를 비활성화해 달라고 요청함
  • Stanley는 학교가 자판기 제거를 이행하지 않으면 Ontario 정보·개인정보보호위원회에 민원을 제기하겠다고 말함

함께 보면 좋은 글 β

GN⁺   [-]
Hacker News 의견들

  • 판매사 브로슈어를 찾아보니, 자판기가 이 정보를 어디에 쓰는지 꽤 노골적으로 나와 있음
    무엇을 누가 사는지에 대한 인구통계 정보를 성별·나이 등으로 수집하고, 이를 광고 타기팅에 사용함. “파트너 미디어 브로커”와도 함께 쓴다고 되어 있음
    앱을 설치하면 “게임화”로 매출을 늘린다는 점도 자랑하고 있음: https://a.storyblok.com/f/184550/x/e7435c019e/brochure-svm_g...

    • 큰 화면으로 덮인 자판기는 현대 기술에서 싫어하는 모든 것을 상징함
      구매자 관점에서는 아무것도 나아지지 않음. 전체 재고를 한눈에 볼 수 없고, 남은 수량도 알 수 없으며, 기계도 그걸 안정적으로 알지 못함. 모든 상호작용은 느리고, 그 대가로 광고와 미니게임을 받게 됨
      밤늦게 배고프고 기차는 2분 뒤 출발하는데, 그냥 Snickers 하나 사고 싶을 뿐임. 이런 회사들은 해악에 가깝다
    • 브로슈어가 대단함. 제일 마음에 드는 판매 포인트는, 기계 안에 실제로 없는 상품도 화면에 띄워 팔고 고객에게 음료 대신 디지털 IOU를 줄 수 있다는 부분임

      "Customizable UI design - Product selection can be extended to include products not physically in the machine. Consumers can store them in Invenda Wallet [a mobile app] and redeem them somewhere else."
      편의성 기반의 충동구매를 나중에 다시 찾아가야 하는 추가 잡무로 바꿔버림
      결국 이해 못 한 비즈니스 각도가 있긴 할 것 같음. 아니면 이런 기능이 실제로 매출을 올릴 리가 없음. 디지털 상품을 팔려는 건지, 타기팅된 디지털 쿠폰으로 근처 매장 방문을 유도하려는 건지 궁금함. 실제로 본 사람이 있는지도 궁금함

    • 21세기 미국 대학 캠퍼스에서 얼굴 인식으로 성별을 감지한다니, 대체 뭐가 잘못돼서 언론 대폭발이 날 수 있겠나 싶음
    • 일본에서는 2010년부터 얼굴 인식 자판기로 상품 추천과 통계 수집을 해왔음: https://www.youtube.com/watch?v=S2hwnGrn3go
    • Mars 바 하나 사는 데도 세상이 나한테 타기팅 광고를 보내려고 듦

  • 진짜일 거라고 보지만, 재미로 누군가 장난치는 상황도 상상하게 됨. 대화상자 제목이든 앱 이름이든 일부러 그렇게 만든 것처럼 보임
    2000년대 후반에 일하던 회사가 자동 소변기가 있는 사무실로 옮겼는데, 당시엔 꽤 신기한 물건이었음. 무광 검은 플라스틱 장치에 물 내림 손잡이가 있고, 어두운 적외선 투과 플라스틱으로 된 반짝이는 창이 있었음
    분명 자동 물내림용 근접 센서였지만, 누군가 공식 안내문처럼 “카메라를 만지지 마시오”라고 붙여 몇 명을 제대로 불안하게 만들었음

  • 웹사이트의 “USB optical sensor에서 파생된 디지털 이미지 맵을 실시간으로 로컬 처리한다”는 문구를 보면, USB optical sensor가 사실 숨겨진 카메라고 “digital image maps”가 그 카메라 이미지라는 뜻인지 의심됨
    그렇다면 “그 데이터를 영구 저장 매체에 저장하거나 인터넷을 통해 클라우드로 전송하지 않는다”는 나머지 문장도 빠져나갈 구멍을 만든 표현일 수 있음

    • 아마 Apple의 Face ID 센서 같은 것일 수 있음. 엄밀한 의미에서는 “카메라”지만 이미지를 찍기보다 깊이 지도를 캡처하는 장치임
      이미지나 원시 깊이 지도를 인터넷으로 보내지는 않는다는 말은 믿을 수 있음. 데이터 양도 많고 그런 원자료를 어디에 쓸지도 잘 떠오르지 않음
      하지만 인구통계 정보, 어쩌면 개별 사용자까지도 특정 구매 패턴과 연결하려는 시도는 거의 확실해 보임

  • 2018년에 Renesas가 “Facial Expression Kit Giveaway” 대회를 했고 그중 하나를 받았음. “RZ Omron Facial Expression Kit giveaway”였고, RZ는 당시 비교적 새 마이크로컨트롤러 라인 중 하나였음
    상품을 받으려면 진술서에 서명해야 했고 실제로 서명했지만, 결국 쓰지는 않았고 나중에 지역 Hamfest로 넘어감. 예제 코드는 자판기였음
    오늘 찾을 수 있었던 관련 자료는 이 정도임: “OMRON Develops Real-Time Facial Expression Estimation Technology” https://www.omron.com/media/press/2012/10/e1023.html

  • 일하던 곳의 자판기는 SSN 마지막 네 자리를 입력하게 했음. 정말 싫었음

    • 다섯 살에게 설명하듯 부탁함

  • 미국에서는 아직 얼굴 인식이 널리 퍼지지 않았나?
    영국에서는 이미 어디서나 쓰고 있음. 대부분의 매장과 계산 시스템에 있고, 전국 CCTV에도 쓰이며, 경찰은 시위자 식별에 사용함. 내가 사는 지역 학교들은 아이들 휴대폰에 스파이웨어까지 설치해서 아이들과 가족을 감시함
    여기서는 자판기가 나를 식별한다고 해도 신경 쓸 사람이 있을지 상상이 잘 안 됨. 위험이 뭔가?

    • 이건 지나가는 사람에게 네가 뭘 샀는지 떠드는 성가신 어른이 아님
      전 세계로 퍼질 수 있는 정보를 모아 광고를 더 잘 팔기 위한 수집기임
      매주 금요일 05:00에 탄산음료를 사는지 같은 분류가 만들어질 수 있음. “파티광” 같은 식으로. 아니면 아닐 수도 있지만, 정말 돈을 잃고 싶어서 소프트웨어와 카메라에 추가 비용을 썼다고 보기는 어려움
    • 영국이 감시국가 헛소리로 급격히 나빠지고 있다는 건 알았지만, 벌써 그 정도까지 갔나?
      공익을 위해 목숨 걸고 정부 감시 카메라를 훼손하고 철거하는 사람들을 더 존경하게 됨
    • 위험은 이런 기술이 모으는 수많은 작은 정보 조각들이 다음 학살적 독재자 손에 들어가는 것임. 그들이 어떤 지표를 기준으로 숙청을 할지 궁금함
    • EU는 몇 년 전에 GDPR을 통과시켰는데, 영국은 어떻게 이런 상태인지 이해가 안 됨

  • 이런 것들은 정말 미치게 만들지만, 기사 결말은 생각만큼 절망적이진 않음. 학생들이 풀뿌리에서 맞서고, 대학이 아마도 조치하고, 사람들이 법 아래에서 뭔가 할 수 있다고 느끼는 건 보기 좋음
    이런 일이 점점 덜 정상화되도록 계속 밀어붙여야 하고, 처벌도 점점 더 강해져야 함. 그래야 사람들이 더 힘을 얻고 맞설 수 있음
    이런 장치를 “파손”할 권리가 있다는 점도 법으로 명확히 해야 함. 개인적으로는 이런 물건을 야구방망이로 부수는 행위가 최소한 법정에서 방어 가능해야 한다고 봄

  • 사람들이 어떤 추적은 “괜찮다”고 느끼고 어떤 추적은 “안 된다”고 느끼는 경계가 어디인지 궁금함
    여기서는 거의 보편적으로 학생들이 얼굴 인식을 싫어하는 것 같음. 반면 온라인 추적에 대해서는 신경 안 쓴다는 사람도 많이 봤음
    아마 추적이 현실 세계로 넘어오고 더 “진짜”처럼 느껴질 때 사람들이 더 민감해지는 듯함

    • 암묵적 동의라는 게 있음. Gmail 계정을 만들면 Google이 내 모든 이메일에 접근할 수 있다는 걸 알고 있음. Gmail을 쓰면 Google이 내 광고 프로필을 만든다는 것도 어느 정도 알고 있고, 거기에 암묵적으로 동의하는 셈임
      하지만 의사가 보낸 혈액검사 PDF를 모아 보험사에 팔고 있다는 걸 알게 된다면, 그건 합리적인 동의 범위를 객관적으로 벗어남
      M&M을 파는 상황이라면, 내가 적절하다고 보는 데이터 수집 허용치는 매우 낮음
    • 온라인 타기팅은 크게 신경 쓰지 않음. “아사이베리 스무디” 광고가 “해변 휴가” 광고로 바뀌는 정도라면, 관심 없는 것에서 관심 있는 것으로 바뀌는 셈이라 경험이 나아짐. Google Maps나 Facebook 같은 무료 제품을 쓰면서 그 거래 조건도 이해함
      하지만 이 경우에는 자판기 회사나 그 유통망 어딘가가 자판기 고객에게 인구통계 기반 광고를 보여주기 위해 쓰는 것임. 여전히 제품값은 내가 내야 하고, 기존의 비타기팅 광고가 타기팅 광고로 바뀌는 것도 아님. 애초에 광고가 없었음
      광고 수익 일부를 나에게 돌려줄 리도 없고, 주변 자판기가 다 같은 회사 소유일 가능성이 높아 경쟁도 없음. 결국 회사의 추가 수익원일 뿐, 사용자에게는 아무 쓸모가 없음

  • 이럴 때 필요한 반달들은 다 어디 갔나?

  • 순간접착제 조금이면 해결될 일임

답변달기