1P by GN⁺ | ★ favorite | 댓글 1개
  • 미국 곳곳에 설치되는 Flock Safety 카메라는 번호판 판독기를 넘어 차량 특징, 사람, 장면까지 검색 가능한 감시 인프라로 쓰이고 있음
  • 카메라는 수정된 Android를 실행하고 영상을 데이터베이스로 보내며, 접근 권한이 있는 사용자는 자연어 검색으로 특정 대상의 영상을 찾을 수 있음
  • 지역 계약으로 설치돼도 경찰 네트워크와 데이터 공유를 통해 다른 주 경찰이나 ICE 등 국토안보 관련 기관까지 접근하는 사례가 있음
  • 보안 취약점, 경찰의 사적 추적, AI 오인식 피해가 반복됐고, Denver에서는 111대 설치 뒤 항의와 계약 취소, Axon 재계약까지 이어짐
  • 일부 도시는 계약에서 빠져나오기 어려워 카메라를 철거하지 못하고 쓰레기봉투로 덮는 방식까지 택했음

번호판 판독기를 넘어선 AI 감시 장치

  • Flock Safety 카메라는 흔히 자동 번호판 판독기(ALPR) 로 알려졌지만, 실제 기능은 번호판 인식에 그치지 않음
  • 경찰은 번호판 없이도 “미국 국기 범퍼 스티커가 붙은 초록색 세단”이나 “왼쪽에 페인트 흠집이 있고 적재함에 dirt bike가 있는 픽업트럭”처럼 차량 특징으로 검색할 수 있음
  • Flock은 ALPR 외에도 AI 보안 카메라, 이동식 보안 트레일러, 쿼드콥터 드론을 제공함
  • 미국 전역에는 100,000대가 넘는 ALPR이 설치돼 있으며, 그중 대부분이 Flock 제품임

영상이 검색 가능한 데이터베이스로 바뀌는 방식

  • Flock Security 카메라는 수정된 Android 버전을 실행하고, 촬영 영상을 무선으로 데이터베이스에 전송함
  • 전송된 영상은 AI로 분류되며, 접근 권한이 있는 사용자가 찾고 싶은 대상을 입력하면 시스템이 일치한다고 판단한 영상을 보여줌
  • 기존 감시 카메라나 교통 카메라는 특정 차량이나 사람을 찾기 위해 사람이 직접 영상을 훑어야 하지만, Flock 같은 AI 카메라는 검색 기반으로 대상을 찾음
  • Flock은 도시, 마을, 동네, 기업과 계약함
  • 네트워크 접근은 계약 지역 안에만 머물지 않을 수 있음
    • ACLU of Massachusetts 자료에 따르면 Texas처럼 멀리 떨어진 지역 경찰도 Massachusetts의 Flock 영상을 검색할 수 있음
    • Flock은 연방 법집행기관과 직접 계약하지 않지만, ICE와 다른 Homeland Security 기관은 지역 경찰의 데이터 공유 프로그램을 통해 접근 권한을 받는 경우가 있음
    • Denver에서는 ACLU of Colorado가 확보한 로그 기준으로 8월까지 지역 경찰이 ICE를 대신해 1,400건 넘는 검색을 수행함

수사 성과와 무차별 추적 사이의 간극

  • Flock 카메라가 범죄 해결에 전혀 쓰이지 않는 것은 아님
  • Flock은 최소 한 건의 살인 사건 해결과 차량 smash-and-grab 조직 검거에 도움을 준 사례가 있음
  • 동시에 AI 강화 기능은 범죄 혐의가 없는 사람까지 포함해 모든 통행자와 차량을 추적할 수 있음

반복적으로 드러난 보안 취약점

  • Flock은 카메라가 안전하다고 강하게 말하지만, 외부 조사에서 여러 취약점이 드러남
  • 음악가이자 YouTuber인 Benn Jordan은 정식 사이버보안 연구 배경이 없음에도 Flock의 주요 취약점을 여러 차례 찾아냄
  • 2025년 12월 Jordan은 최소 70대의 Flock Safety 카메라가 인터넷에 노출돼 상용 검색엔진으로 접근 가능하다는 사실을 발견함
    • 비밀번호 없이 공원에 있는 어린이, 사적인 대화를 나누는 커플 등 당사자가 감시 사실을 알지 못한 장면의 실시간 영상을 볼 수 있었음
    • 노출된 카메라 다수는 차량이 아니라 사람을 추적하는 Flock Condor 카메라였음
    • Jordan은 Flock의 이전 조사 대응을 Flock Condor 카메라에 녹화한 뒤 해당 영상을 내려받아 영상에 포함함
  • 2025년 11월 공개된 조사에서도 Jordan과 연구자 John Gaines는 야외 카메라에 물리적으로 접근해 버튼을 누르고 Wi-Fi로 연결한 뒤, 기본 Android 개발 도구로 디버그하고 root 접근을 얻을 수 있었음
    • 악성코드 설치도 가능했음
    • 노출된 USB 포트는 악성 USB 드라이브에 취약했음
    • Jordan의 영상에 추가 발견 사항이 정리돼 있음
  • 많은 기술 기업은 버그 바운티나 독립 연구자 크레딧을 통해 취약점 제보를 받지만, Flock Safety는 Jordan 등을 “경찰 예산 삭감, 공공안전 약화, 무법 정상화를 원하는 활동가 그룹”이라고 비난

경찰과 내부 직원의 오용

  • Flock 네트워크 접근은 경찰이 몇 번의 입력만으로 특정 개인 위치를 추적할 수 있게 하며, 남용을 막는 장치가 거의 없다는 비판을 받음
  • 데이터베이스 검색에는 영장이 거의 필요하지 않고, 별도 문서 작업도 없음
  • 404 Media에는 경찰이 전 여자친구, 현재 파트너, 기타 개인의 위치를 추적하는 데 Flock을 남용한 사례가 수십 건 정리돼 있음
    • 많은 경우 피해자가 HaveIBeenFlocked 같은 도구로 자신의 번호판을 검색하다가 위치가 수백 번 조회된 사실을 발견하면서 드러남
    • 알려진 사례는 해당 경찰관이 체포되거나 해고된 경우에 한정돼 있어 실제 남용 범위는 더 클 수 있음
    • Flock은 404 Media에 “15건의 남용 사건”이 플랫폼의 투명성·책임성 기능 때문에 드러났고, Audit Assistance 도구가 “의도하지 않은 사용”을 사전에 표시한다고 밝힘
  • Flock 내부에서도 문제가 발생함
    • 404 Media에 따르면 Flock 직원들은 Atlanta의 Marcus Jewish Community Center에서 수영장과 체조 수업 중인 어린이 영상을 보고, 해당 카메라 피드를 경찰 부서 대상 영업 데모에 사용함
    • Flock은 직원들이 도시의 명시적 허가를 받아 업무의 일부로 카메라 네트워크에 접근한 선의의 직원들이라고 반응함

AI 오인식이 만든 무고한 운전자 피해

  • Denver는 2024년 5월 시 전역에 111대의 Flock 카메라를 설치함
  • 2025년 Denver 시의회는 계약 연장에 만장일치로 반대했지만, Mike Johnston 시장이 이를 뒤집어 계약이 갱신됨
  • Denver의 금융 자문가 Chrisanna Elser는 Columbine 경찰관 Sgt. Jamie Milliman에게 절도 소환장을 받음
    • 경찰관은 그녀가 현관 앞에서 소포를 훔치는 장면이 카메라에 잡혔다고 말함
    • 2025년 9월 Ring 초인종 영상에는 경찰관이 “그 마을에는 카메라가 있다. 우리가 모르게 그곳을 드나들며 신선한 공기를 마실 수 없다”고 말하는 장면이 담김
    • Elser의 Rivian 트럭 자체 카메라 영상은 그녀가 소포가 도난당한 지역을 지나는 동안 멈추지 않았음을 보여줬고, 혐의는 나중에 취하
  • Colorado의 여러 운전자는 Flock ALPR이 숫자 0과 문자 O를 혼동하면서 범죄 용의자처럼 정차당함
    • 한 운전자는 지역 9News에 Flock 카메라가 자신의 차량을 볼 때마다 경찰에게 알림이 가기 때문에 안전이 위험하다고 말함
    • 경찰은 그를 hotlist에서 제거할 수 없다고 주장함
  • 10월에는 시의원들과 전국적으로 알려진 프라이버시 활동가가 참석한 타운홀을 포함해 광범위한 항의가 있었고, Denver는 Flock 계약을 취소함
  • 이후 Denver는 경찰 바디카메라를 이미 공급하는 Axon에 계약을 수여함

확산되는 이유와 계약에서 빠져나오기 어려운 구조

  • Flock 카메라가 계속 확산되는 배경에는 시민 의견이 충분히 반영되지 않는 의사결정과 제한적인 계약 조건이 있음
  • 일반 시민, 특히 AI 감시에 표적이 될 가능성이 높은 소외 집단은 이 기술을 싫어하는 경우가 많지만 결정 과정에 영향력이 거의 없을 수 있음
  • Flock은 법집행기관에 직접 마케팅하며, 경찰이나 법집행 지지 성향의 도시 공무원에게 AI 카메라를 지역 전체에 설치하는 구상은 매력적으로 보일 수 있음
  • Flock은 제품을 강력한 범죄 차단·억제 도구로 마케팅하지만, Flock 카메라가 실제로 범죄를 줄인다는 증거는 거의 없음
  • Denver의 Mike Johnston 시장은 9News 인터뷰에서 Flock 카메라가 트랜스젠더 여성 Jax Gratton 살인 사건 해결에 도움을 줬다고 주장함
    • 해당 사건은 Denver 지역 LGBTQ 안전의 상징적 사건이 됨
    • 그러나 Flock은 그 사건에 도움을 주지 않았고, 체포도 이뤄지지 않음
    • Gratton의 어머니는 시장에게 사과를 요구함
  • 계약 종료도 쉽지 않음
    • Dayton, Ohio와 Evanston, Illinois는 Flock 계약에서 빠져나오려 했지만, 카메라 철거가 계약 위반인지 확신하지 못함
    • 두 도시는 카메라를 철거하지 않고 쓰레기봉투로 덮음
  • 주변 Flock 카메라 위치는 ALPR 카메라 확산을 추적하는 오픈소스 도구 DeFlock 지도에서 확인할 수 있음

댓글과 토론

Hacker News 의견들
  • Flock 같은 기술도 빠르게 금지되고 있음. 변화가 가능하려면 시 정부 단위가 가장 접근하기 쉬운 정부여야 함
    이미 문서화된 승리가 70건 넘게 있음[1]. 이게 패배한 싸움처럼 느껴질 필요는 전혀 없음. 여기 댓글을 달 사람들 모두가 대신 또는 추가로 시의회 회의에 가고, 친구와 가족에게 문제를 설명하면 훨씬 더 많은 도시가 거부할 수 있음
    [1] https://deflock.org/council/#wins

    • 빠르게 금지되고 있는 건 아니고, 규제가 불가능한 것도 아님. 특히 Flock 계약 취소는 주로 매우 진보적인 지자체에서 일어나고 있고, 상당 부분은 현 연방 행정부와의 공개적 관계 때문임
      하지만 자동 번호판 인식기(ALPR)는 어디에나 설치되고 있음. 이미 범용 기술이 됐기 때문임. 우리가 사는 곳은 Flock 계약을 취소했지만, 주변 지자체들은 정치적 논란의 중심이 되지 않은 다른 업체의 ALPR을 쓰고 있음
      내가 사는 지자체는 미국에서 가장 진보 성향이 강한 10곳 중 하나일 가능성이 높고, Chicagoland에서는 가장 진보적인 곳임. 그런데 여기서도 Flock을 열렬히 지지하는 평범한 사람들이 있었음. 도난 차량 단속을 빠르게 하는 것이 도시가 투자할 만한 합리적인 일이라고 보기 때문이고, 도난 차량은 폭력 범죄의 매개가 되기도 함
    • 지역사회에서 이 문제에 맞서 보려 하면서 두 가지를 발견했음. 다른 사람들에게도 도움이 되길 바람
      1. Craigslist의 “Community” 섹션에 올려서 우려하는 사람들과 연결해 보려 했지만, 글이 사이트에 게시되기 전 자동으로 차단됐음. 링크 유무, 사진 유무, 여러 계정 등 여러 버전을 시도했지만 매번 같은 결과였고 게시되지 않았음
        “Flock”이라는 단어는 필터링하기 쉽겠지만, 기억상으로는 “감시”나 “카메라”만 쓴 아주 축약된 시도도 차단됐음
        Craigslist가 Flock 관련 게시물을 막는 이유는 뭘까? 내가 떠올릴 수 있는 답은 국가안보서한 같은 것뿐임. 이 분야를 더 잘 아는 사람이 많을 테니 다른 가능성이나 관점도 듣고 싶음. 다른 사람들이 Craigslist에 이 이슈를 올려 보면 어떤 결과가 나오는지도 궁금함
      2. 시의회 온라인 연락 채널로 정보를 요청한 초기 시도는 아직 성과가 없고, 막히는 느낌임. 그래도 포기하진 않을 생각임. 그동안 시의회 의제와 회의록 검색 도구를 통해 Flock 계약서, 최초 제안서, 관련 문서를 찾을 수 있었음. 도시마다 검색 도구는 다르겠지만 자기 지역에서도 살펴볼 만함
    • 이 목록은 정확히 말해 “금지”가 아니라 도시 계약 거부 목록임. 달리 말하면 “주요 도로에 붙은 상업 주차장에 설치하면 된다”는 제한에 가깝음
    • 이 기술을 다른 브랜드와 업체에 퍼뜨리고, 유령 데이터 운영 회사를 만들고, 전체 데이터 없이 정보만 만들어내는 복잡한 계층으로 집계하는 걸 막는 장치가 없음
      이를 규제하는 법과 검증 절차는 허술하고, 그들도 그걸 알고 있음
    • 우리 카운티와 마을에서는 계약 취소에 성공했지만, 그렇다고 사유지 설치까지 금지된 건 아님
      확실하진 않지만, 가능한 결과 중 가장 멍청한 형태일 수도 있음. 카메라는 여전히 존재하고, 경찰은 접근할 수 없고, 남는 가치는 개인정보 판매뿐일 수 있음
  • 이런 것들은 별로 좋아하지 않음. 단순한 자동 번호판 인식기(ALPR)이고 보안을 강화한다면 어느 정도 봐줄 수도 있겠지만, 그 외 기능들 때문에 거의 받아들이기 어려움
    다만 “Flock 같은 AI 카메라는 특정 차량이나 개인을 찾으려면 사람이 영상을 직접 뒤져야 하는 전통적 감시·교통 카메라와 다르다”는 설명은 약간 오해의 소지가 있음. 요즘은 누구나 어떤 출처의 영상이든 대규모 언어 모델에 넣고 이런 정보를 얻을 수 있음

    • 수백 시간짜리 영상을 넣으면 특정 차량의 위치와 발생 시각을 알려주는 대규모 언어 모델이 대체 뭐가 있음?
      여기서는 LLM이 도움이 안 됨. 카메라만 있다면 기본적인 컴퓨터 비전과 SQL 데이터베이스로 이미 풀 수 있는 문제임. 거의 20년 전에 OpenCV로 대학 프로젝트에서 번호판 인식기를 만든 적이 있음
    • 오해의 소지가 어느 정도인지는 한계가 있음. “누구든 내 문으로 들어와 물건을 훔칠 수 있다”와 “이 사람이 내 문으로 들어와 물건을 훔쳤다” 사이에는 매우 중요한 차이가 있음
    • 흥미로운 건 Flock에서 문제를 일으킨 부분이 바로 ALPR 기능이었다는 점임. 번호판 외의 차량 속성을 분류하는 나머지 기능은 여기서는 딱히 문제가 되지 않았음
    • Flock이 기묘한 이유는 민간 기업이라는 점이고, 바로 이 방식으로 경찰서들이 이런 감시에 적용되던 전통적 관문과 견제를 우회하고 있음
      경찰이 도시 전체에 1984식 감시 체계를 깔아 모든 차, 사람, 활동을 추적하면 많은 질문, 감독, 우려, 토론, 이의 제기가 생김
      그런데 민간 기업이 같은 일을 하고, 같은 경찰이 유료 고객으로 마음대로 쓰게 하면 침습적 감시는 그대로인데 감독은 사라짐
    • 개인적으로는 범죄를 더 쉽게 막기 위해 Flock 카메라나 다른 감시 장비를 두는 것 자체는 괜찮음. 지금 많은 도시에서는 여러 범죄, 특히 재산 범죄에 아무 결과가 따르지 않는 경우가 많음
      다만 이런 도구는 보호 장치가 있어야 함. 접근에는 임박한 위험이나 영장이 필요해야 함. 완전히 없애는 게 답이라고 보진 않음
  • 2026년에 민영화된 대규모 감시 기술을 옹호하는 댓글을 보는 건 정말 이상함

  • 이런 장비가 실제로 범죄를 줄인다는 신뢰할 만한 통계를 찾을 수 있는 사람이 있나? 내가 보는 건 “한 번 누군가를 찾는 데 쓰였다”는 식의 간헐적 일화뿐임
    회의적으로 보면 이게 범죄 해결에 효과적인 해법인지 심하게 의심됨. 다만 이 나라가 비싸고 사생활을 침해하는 조치를 백만 가지나 기꺼이 하고, 그게 처벌적 조치일 때만 받아들이는 역사가 있어서 그렇게 보이는지도 모르겠음

    • 범죄를 줄이는지는 모르겠지만, 미국의 많은 경찰서는 인력 확보에 어려움을 겪고 있음. 대부분 지역에서는 지루한 일이고, 어떤 곳에서는 선호도도 낮음. 일을 빠르게 처리하는 건 이에 대응하는 방법 중 하나임
    • 영국의 CCTV와 중국의 시스템이 아마 가장 가까운 예일 듯함
    • 통계는 없지만, 대부분의 경찰은 이런 장비가 아니면 단서가 거의 없는 수사에 쓰인다는 점을 꽤 분명히 해왔음
      제조사 말고 카메라가 범죄를 줄인다고 주장한 사람이 있는지는 모르겠음. AI 기능을 아무리 붙여도 결국 카메라일 뿐임
      이건 예비 수단이지, 저인망식 감시망은 아님. 경찰은 일반적으로 범죄 신고에 반응하지, 모든 사람의 삶을 선제적으로 조합해서 개가 인도에 똥 싼 순간 잡아내려는 게 아님. 어떤 AI도 그렇게 할 수 없고 돈 낭비임
      이런 스레드에는 HN을 망가뜨리는 목소리 큰 두 진영이 있음. 공포 조장자와 사기꾼들임. 어떻게 이렇게까지 됐는지 모르겠지만, 진짜 위기는 이쪽임
  • 이런 끔찍한 것들이 내가 사는 조지아 시골 주변에서 기하급수적으로 늘고 있음. 자전거로 갈 수 있는 거의 모든 경로에 열 개 넘게 있고, 차로 이동하면 훨씬 더 많음
    이게 도시 범죄를 막기 위한 도시 문제라고 생각한다면, 꽤 시골이고 교외인 지역에서 Flock 카메라가 폭발적으로 퍼지는 걸 보면 놀랄 수 있음. 카운티 경계선 바로 옆이지만 경계선은 아닌 곳, 작은 다리 근처 같은 별의별 곳에서 보임. 다음에 그곳을 지나가면 더 늘어나 있음. 번식하는 것 같음
    다른 사람들이 말했듯이 이건 단순한 ALPR이나 교통 카메라가 아니고, 공식·비공식 사용처가 매우 유동적이며 빠르게 확장되고 있음. 이런 종류가 Flock만 있는 건 아니지만, 현 행정부의 이민 단속 폭력에 노골적으로 협조하고 CEO가 재수 없지만 매우 중대한 발언들을 해온 탓에 피뢰침 같은 지위를 얻을 만했음. 게다가 경찰이 Flock 데이터베이스를 전 애인 스토킹 같은 데 오용했다는 뉴스가 매일처럼 이어짐
    이건 중국식 감시국가로 가는 중간 정거장이 맞고, 불가피한 일은 아님. 하지만 우리가 허용하면 실제로 일어날 것임
    기사에 링크된 Benn Jordan의 보안 취약점 영상은 따로 짚을 가치가 있음. 여기의 땜장이들에게 흥미로울 듯함
    https://www.youtube.com/watch?v=uB0gr7Fh6lY

    • Benn Jordan을 말한 거겠지. 좋은 영상임
    • 이런 장비는 사람들이 정부를 신뢰하거나, 정부를 자기들에게 해로운 누군가를 제압하기 위한 수단으로 볼 때 퍼짐
      그래서 어떤 시골 동네든 몇 세대째 자리 잡은 토박이 집단은 기꺼이 설치할 것임. 그들에게 정부는 자신들을 대표한다고 느껴지기 때문임
      동시에 스스로를 “진보적”이라고 여기는 잘난 척하는 Chicago 내부 교외 지역도 똑같은 카메라를 설치함. 자기 enclave가 의존하는 수많은 규칙의 집행을 더 효율화하는 수단으로 보기 때문이고, 부유하고 대표성도 충분해서 그것이 자신들에게 쓰일 거라고 두려워하지 않음
      조지아 시골은 아마 두 경우가 조금씩 섞여 있을 것 같음
  • 왜 이런 장치들이 아직 멀쩡히 남아 있는지 모르겠음

    • 미국 대중 대부분은 HN이 믿게 만드는 것만큼 본능적으로 반Flock이 아님. 공공장소에서 자기 활동이 카메라에 기록되는 걸 심각한 사생활 침해처럼 보는 사람들은 주류가 아님
      쇼핑몰과 공공도로에서 활동이 카메라에 기록되는 일은 90년대부터 있어 왔음. Flock은 ICE 때문에 관심의 피뢰침이 됐지만, 실제로는 기존 상태와 다른 변화를 대표하지 않음
    • 맞지? 설치자들이 친절하게도 야구방망이 사정거리 안에 달아놨음
      다행히 내가 사는 곳에는 없음. West Texas의 작은 마을임
    • 결국 “부순 카메라는 새로 산 장비로 교체됐다”는 결말이 날 일을 위해 기소 위험을 감수할 생각이 있음?
      이걸 이기는 방법은 기물 파손이 아니라 전국의 모든 지자체와 카운티에서 금지하게 만들고, 주 단위 금지도 추진하는 것임
      온라인 아이들이 하는 헛소리이기도 함. “투표하지 말고 동네 Wal-Mart를 불태워라” 같은 말은 다른 온라인 아이들에게 인상 주려는 것뿐임. 나머지 사람들은 너희가 투표도 안 하고 Wal-Mart도 안 불태울 걸 알고 있음
  • Flock과 Palantir는 “아무도 데이터를 보유하지 않으면 아무도 잘못한 게 없다”는 법의 허점을 이용함. 이건 고쳐야 함
    사람에 대한 정보를 보유하는 데는 최대 보관 기간이 있어야 하고, 존중받는 방식으로 다뤄져야 함. 이들을 멈추게 하는 게 불가능하다면, 적어도 자신에 대해 무엇이 저장돼 있는지 쉽게 볼 수 있어야 하고 그 외의 정보는 불법 취득으로 간주돼야 함

    • 사람에 대한 정보를 보유하는 건 막대한 책임이어야 함. 우리에 대한 단 1비트의 정보라도 아는 데 적극적으로 비용이 들게 해야 함. 거래가 끝나는 순간 우리에 대해 전부 잊으려고 허둥대야 함
  • 아무 시민이나 이런 감시망을 만드는 게 법적으로 가능한 거 맞지?

    • 좋은 지적임. 근무 외 시간에 경찰들이 나쁜 짓을 하지 못하게 모든 경찰을 추적하는 네트워크를 만들어야 함
    • 맞음. 적어도 미국에서는 공공장소의 사람들을 거의 언제든 촬영할 수 있음
    • 자유 국가에서만 가능함. 많은 권위주의 정권은 사람들이 공공장소에서 사진 찍는 걸 허용하지 않음
  • 파놉티콘에 거짓 양성을 만들어내는 범죄 같은 게 있나?

    • 보통 국가는 잘못 수감된 사람들에게 수백만 달러를 배상해야 함. 이런 카메라는 정확도가 동전 던지기보다도 나을 게 없는 수준이라, 납세자들이 이미 부담을 떠안고 있음
  • “범죄 혐의를 받았는지와 관계없이 모두를 추적하는 카메라에 대해 광범위한 대중 반발이 있었다”라니, 당연함
    카메라는 네 번호판과 남의 번호판을 구분해서 예외 처리하지 않으니, 네 번호판도 모두의 것과 함께 기록됨. 평범하게 일상생활을 하면 해가 없고 아무 일도 일어나지 않음
    물론 아무 일도 일어나지 않아도 피해가 생긴다고 판단할 사람은 있을 것임