▲

Flock의 총성 감지 마이크, 이제 인류 음성까지 감지 시작

 (eff.org)
2P by GN⁺ 9일전 | ★ favorite | 댓글 1개
  • Flock의 신형 감지 마이크가 이제 인간 음성과 고통 신호까지 듣는 기능 도입
  • 해당 장치는 기존에 총성 감지 용도로 사용됐으나, 이제 시민의 비상 상황 감지도 시도 중
  • 프라이버시 침해 및 불법 도청 논란 등 법적 문제 가능성 대두
  • 일부 도시에서는 이미 Flock와의 계약 해지 및 철거 명령, 반복 설치로 갈등 심화
  • 무고 시민 위험 증가 및 민간 자유 침해 우려 커짐

Flock의 총성 감지 마이크, 인간 음성 감지 기능 도입

Flock Safety와 신기능 소개

  • Flock Safety는 미국 전역에 자동 차량 번호판 인식기(ALPR) 네트워크를 보유한 경찰 기술 기업임
  • 이번에 공개된 신제품은 공공장소에서 음향 감지를 활용해 “인간 고통” 신호를 판별한다는 Raven 마이크 시리즈임
  • 기존에는 총성 감지 및 경찰 알림 목적으로 사용됐으나, 최근에는 “비상 상황(고함 등)” 감지 기능도 광고되고 있음

새로운 기능의 불확실성과 우려

  • Flock의 광고 자료에서는, 경찰에게 “비명” 등 고통 음성이 감지되면 경보가 전송되는 모습을 보여줌
  • 하지만, 실제 음성 감지 및 분류 방식이 명확히 공개되지 않아 동작 방식이 불투명함
  • 기존의 음향 총성 감지 시스템도 자동차 폭발음, 불꽃놀이 등으로 오작동이 잦았음
  • 도청 및 사적 대화 녹음 금지법(일명 eavesdropping law) 등과의 법적 충돌 가능성 존재

이미 발생한 법적 문제 및 시행착오

  • 과거 Illinois에서는 Flock가 주법 위반 및 ICE와 차량 데이터 공유로 제소됨
  • 2023년 North Carolina 주에서는 라이선스 없이 장비 운영하여 설치 금지 명령 내려짐
  • Evanston 시에서는 Flock와의 계약 해지 이후에도 회사가 임의로 장비 재설치, 해당 장비에 임시로 검은 테이프 부착 조치 중임

기술 효용성에 대한 의문 제기

  • 일리노이 지역 시민감시위원회 보고에 따르면, Flock 알림의 99% 이상이 실제 경찰 조치로 이어지지 않음
  • 경찰이 잘못된 총성 알림에 출동해 무고한 시민 위험 발생 가능성 이미 현실화(예: 시카고 ShotSpotter 사건)
  • “고통 감지” 기능 확장으로 예상치 못한 법적, 인권, 신체적 위험이 증가할 가능성 존재

전체 요약

  • Flock Safety의 오디오 감지 기술 확장이 의도치 않은 프라이버시 침해 및 사회적 논란을 키우는 주요 원인임
  • 법적, 윤리적 이슈로 인해 일부 지역 사회에서는 계약 해지와 장비 철거가 진행 중임
  • 신기능에 대한 명확한 기술적 설명 및 투명성 확보 요구도 증가함
  • 제품의 효용성 및 실제 범죄 예방 기여도에 대한 비판적 검토 분위기 확산
▲
GN⁺ 9일전  [-]
Hacker News 의견
  • 모든 건 이젠 수익 중심의 공리주의가 기존의 미국적 가치를 대체하고 있는 현실이 굉장히 우울함, 기술산업에서는 가치나 우리가 만들고 싶은 사회에 대한 논의도 거의 사라지고 그저 "문제를 조금 개선하고 돈이 되니까"가 전부인 것 같음, 이게 결국 우리가 맞이할 세상임
    • 수익 중심 공리주의라고 표현했지만, 그럴 가치도 없음, 내 눈엔 거의 범죄적 부패에 가까움, 이런 회사들은 사실 돈도 못 벌기 때문에 정부 계약에 억지로 연명하고 있음, 만약 민간 시장에서 경쟁해야 한다면 올해 안에 파산할 지도 모름, 이런 움직임 이면에는 방향성도 뚜렷함, 이들은 분명한 비전을 갖고 있고 그것을 이루기 위해 뭐든 할 준비가 돼 있음, 그래서 독점 방지법 집행이 중요하다고 생각함, 이제 "너무 커서 망할 수 없는" 기업들이 디폴트가 되어버렸음
    • 학교에서 쓰는 '전자담배 탐지기' 사례가 떠오름, 소음이나 특정 단어도 감지하도록 설정 가능한데, 실상은 메모리에 잠깐 저장된 오디오로 패턴 매칭만 한다며 감청법 위반 이슈를 슬쩍 넘기고 있는 현실임
    • 무언가 실제로 도입될 때 더 이상 논쟁이나 토론의 여지가 없는 것처럼 느껴짐, 항상 결과가 나타난 후에야 겨우 논의가 시작되는 현실임
    • 혹시 <i>The Technological Republic</i> 읽어봤는지 궁금함, 방금 말한 의견이 Palantir CEO가 이 책에서 주장한 내용과 거의 비슷함, 그는 '좋은 삶'이 뭔지 논의할 필요가 있다고 했음, 역설적으로 감시에 대해 결론은 좀 다르게 내린 듯함
  • "중국식 감시를 생각하고 있는 듯한데 미국식 감시는 피해자를 도울 수 있다"는 Garry Tan (YC CEO)의 X에서의 발언을 읽음, Garry에 대한 존경심은 있으나 핵심을 넘어선 선이 다 같이 동의할 선이라고 생각하는 이유를 모르겠음, 결국 모든 무기는 인류를 다치게 하는 데 쓰였음
    • 몇 년간 지역사회에서 Flock 도입을 막기 위해 엄청 노력했는데 커뮤니티 내 의견이 극적으로 나뉨, 내가 사는 지역은 미국에서 가장 진보적인 소수 지자체 중 하나인데도, Flock을 둘러싼 논쟁은 단순한 선 긋기의 문제가 아님, 실제론 사람들이 이 기술을 둘러싸고 첨예하게 대립함
    • "Flock Safety가 전국 범죄의 10%를 해결한다"는 과장 광고를 보았음, 근거 데이터가 없음, 나도 이 시스템 때문에 과속 경고장 받았는데 이것도 해결된 범죄에 포함된 건지 궁금함, 감시가 피해자를 도울 수 있음은 사실이나 동시에 시민권을 위협할 수도 있음, 결국 어디까지 우리 자유를 양보할지 직접 결정할 권한이 필요함, 왠지 Person of Interest를 너무 많이 본 것 같음 링크
    • Garry가 뭔지 모르고 관심도 없지만 저런 논리는 궤변임, 그가 속한 비즈니스의 근본적 모순에서 오는 논쟁임, 정말 현명했다면 아예 입을 닫았을 것임
    • Garry를 존경한다고 했는데, 이런 레토릭을 들으면 점점 그 말이 어렵게 느껴짐, "내 폭탄은 나쁜 놈만 죽인다"는 논리는 본질적으로 무지하거나 악의적임
    • 이 논리는 양쪽 방향으로 적용될 수 있음, 핵 억지 정책(MAD)으로 전쟁 자체가 크게 줄었고 오히려 더 많은 생명이 구해졌다는 사례가 있음, 폭력의 fat tail 위험성은 인정하지만 Tan의 논리가 비합리적이지 않다고 생각함, 사회가 어느 정도 감시를 받아도 합리성을 유지할 수 있다는 건 CCTV 천국 영국을 봐도 알 수 있음
  • "오늘은 인간의 고통, 내일은 인간의 모든 것"이라는 말처럼 Flock은 기술적 한계만 해결하면 결국 모든 것을 감시하게 될 것임, 이 회사는 오직 돈이 목적이고 도덕적 기준은 꺼진 상태임, 경찰과 정부가 원하는 건 뭐든 팔 준비가 되어있음, 나는 이런 뉴스를 볼 때마다 항상 EFF나 ACLU에 $20씩 기부함
    • "정부가 우리에게 부담을 지우고 우리 돈으로 결국 이걸 사가는 것"도 문제임, 우리에게 강제로 비용을 떠넘김
    • "평범한 대화를 감청하면 중대한 범죄를 막을 수 있다"는 핑계를 앞으로 들을 수도 있다고 예상함, 이런 사례는 언제나 소소하게 단계적으로 시작됨
  • 지옥으로 미끄러지는 미끄럼틀은 아주 급경사임, 앞으로 더 어두운 시대가 올 것 같음, 기술 옹호자들에게 묻고 싶음, NSA와 Palantir가 모두 우리를 감시해왔는데 왜 무작위 테러율은 오히려 더 올라갔는지 궁금함, 이런 감시 시스템의 핵심 목적이 그걸 미리 막는 거 아니었는지
    • "NSA와 Palantir 감시 이후 무작위 테러율이 올랐다"는 게 정말 사실인지 의문임, 90년대부터 2020년 전까지는 범죄가 오히려 줄었다는 게 내 판단임, 2020년 이후 세상이 워낙 변해서 뭔가 비교가 어려움
    • 대안 시나리오가 궁금함, 이런 도구들이 몇 건의 공격을 사전에 막았는지 알 수 없는 이상 기준선 자체도 알 수 없음
    • 공공장소에서의 프라이버시 기대는 합리적이지 않음, 영상이나 오디오 녹음 모두 포함임
    • 무작위 테러(stochastic terrorism)라는 용어 자체가 좀 이상하다고 생각함, 본래 테러는 무작위적 폭력 그 자체임
  • Flock(YC 2017)임을 명확히 함
    • 제출글 제목에 YC 기수를 이제 거의 안 넣음, Launch HN만 예외임
    • 사회 전체에는 해로운데 기업에는 좋은 아이디어가 많음, YC는 언제나 비즈니스가 우선임
  • 소설 1984의 감시국가는 오히려 순한 편임, 기술이 계속 발전하면 머지않아 모든 사람의 일거수일투족이 실시간으로 감시될 것임, 이제 관건은 이 데이터를 누가 접근‧통제할 것인지임
  • 분명히 이런 기술은 절대 악용 안 될 거라고 누군가 믿는다는 게 신기함
    • 그들은 정말 약속했음, 어쩌면 손가락 걸고 약속했을 수도 있음, (해커들도 데이터 절대 안 훔치기로 했음)
  • 논리적인 다음 단계는 우리가 매일 들고 다니는 포켓 속 마이크로 대체하는 것임 유튜브 링크
    • 1960년엔 "모든 시민이 무전 추적기를 들고 다니자"는 제안에 모두 불가능하다고 했는데, 2012년엔 "아이폰 두 대 가능?"이라며 현실이 됐음
  • "이젠 모두가 항상 감시‧녹음되므로 모두 최고의 행동만 할 것임" 유튜브 링크
  • 우리는 길거리에서, 신호등에서, 경찰 차량과 드론, 공원, 심지어 현관 벨 카메라로도 촬영되고 있음, 이걸 농담처럼 하려는 게 아니라, 1984의 대형 스크린이 우리를 감시하던 시대가 머지않은 것 같음
    • 이제 정말 뛰어난 LLM이 등장해서 굳이 사람이 직접 감시, 청취 안 해도 됨, 데이터 스트림이 자동으로 분석·요약되어 원하지 않는 행동이나 단어, 의심징후나 환각까지도 감지 가능해짐, 국내외에 복면 요원이 시민을 강제로 연행하고, 해외엔 자율 드론 폭격이 있는 시대에 미래는 밝지 않음, 그나마 지금은 세미-자율임
    • 적어도 집 안에 감청 장치는 없다는 점이 위안임
    • 우리가 더 평화로운 시민 방어 도구가 필요하다고 느껴짐
    • Larry Ellison을 포함하여 다양한 테크 재벌들이 "항상 모든 행동이 기록되고 감시되면 모두가 모범적으로 행동할 것"이라는 감시국가의 논리를 설파하고 있음, Ellison, Vance, Musk, Thiel, Luckey, Zuckerberg 등은 자신들만의 감시국가를 만들고 싶어함, 이미 상당히 진척 중임, 과연 우리는 이걸 막기 위해 무엇을 할 것인가 관련 기사
    • 와이파이 신호만으로도 심박수를 감지할 수 있는 시대가 되고 있어서 이젠 보험료도 초 단위로 움직일 수 있음, "정부와 대기업이 함꼐 침입적 추적으로 감시하면 그게 바로 긍정적인 디스토피아!" (농담 반 진담 반) 와이파이 심박수 측정 기사
답변달기