GN⁺: 보이스피싱범의 시간을 낭비하는 AI 할머니 데이지
(news.virginmediao2.co.uk)- O2는 전화 사기꾼과 실시간 대화를 하며 고객을 대신해 시간을 낭비하게 만드는 인간처럼 보이는 AI 할머니 ‘Daisy’를 개발
- 데이지는 최첨단 기술과 유명 스캠베이터(사기꾼과 통화하여 고의적으로 시간을 끄는 사람) Jim Browning의 콘텐츠를 기반으로 훈련되어, 진짜 사람과 구별이 불가능할 정도로 정교함
- 사기꾼은 실제 피해자를 찾았다고 착각하지만, 사실 Daisy가 사기꾼을 역으로 속이고 있음
- 사기 피해자 Amy Hart는 Daisy와 협력해 사기꾼의 전술을 폭로하고, O2 고객이 사기를 피할 수 있도록 돕는 동영상을 제작했음
- Daisy는 사기꾼이 실제 사람과 대화하고 있다고 믿도록 만들며, 고객 보호와 사기 방지의 중요성을 강조함
Daisy의 역할과 기능
- Daisy는 여러 AI 모델을 결합해 사기 전화를 실시간으로 듣고 응답할 수 있음. 사람처럼 자연스러운 대화를 통해 최대 40분 동안 사기꾼의 전화를 붙잡아 둠
- Virgin Media O2의 “Swerve the Scammers” 캠페인의 일환으로 개발된 Daisy는 영국에서 사기 피해가 증가함에 따라 고객 보호를 위한 노력의 일환임
- 연구에 따르면, 영국인의 71%가 사기꾼에게 복수하고 싶어하지만, 시간을 낭비하고 싶지 않아 함
- Daisy는 사기꾼이 노인층을 쉽게 속일 수 있다는 편견을 이용해 사기꾼을 유도하고, 실제 피해자 대신 시간을 낭비하게 만듦
Amy Hart의 협력
- Amy Hart는 자신의 사기 피해 경험을 바탕으로 Daisy와 협력하여 사기꾼의 전술을 폭로하는 동영상을 제작했음
- 그녀는 친구 결혼식 날 은행 사기 전화를 받고 £5,000 이상의 피해를 입은 경험이 있음
- Amy는 사기꾼이 얼마나 정교한 전술을 사용하는지 알게 되었으며, 예상치 못한 전화나 메시지에 대해 경각심을 가질 것을 촉구함
Virgin Media O2의 사기 방지 노력
- Virgin Media O2는 AI 기반 스팸 차단 도구와 발신자 식별 서비스를 고객에게 무료로 제공하며, 매달 수백만 건의 사기 문자와 전화를 차단하고 있음
- 고객에게 사기 의심 전화를 7726 번호로 신고하도록 권장하며, 이를 통해 번호를 조사하고 사기 차단 서비스를 개선할 수 있음
- 작년 한 해 동안 Virgin Media O2는 8,900만 건 이상의 사기 메시지를 차단했음
Daisy의 기술 및 구조
- Daisy는 여러 AI 모델을 결합해 사기꾼의 음성을 텍스트로 변환하고, 맞춤형 대형 언어 모델을 통해 응답을 생성함. 생성된 텍스트는 AI 음성 모델을 통해 실시간 음성 답변으로 변환됨
- Daisy는 완전 자동화된 대화를 수행할 수 있어, 창작자의 추가 입력 없이도 사기꾼과 대화 가능함
O2의 고객 사기 예방 팁
- STOP: 갑작스러운 전화가 올 경우, 요청받은 내용이 올바른지 생각해 보고 의심이 들면 전화를 끊고, O2 번호 202로 다시 걸어 확인
- SEND to 7726: 사기 전화나 메시지를 받았다면 7726으로 신고하여 조사를 요청
- SPEAK OUT: 가족과 친구에게 사기 내용을 알려, 그들도 안전하게 보호할 수 있도록 도움
영국 사기 문제 해결을 위한 O2의 요청
- Virgin Media O2는 정부가 사기 방지를 위한 책임을 지고, 전담 장관과 중앙 집중식 사기 조사 기관을 설립할 것을 촉구함
- 2023년 한 해 동안 £2.5억 이상의 사기 거래를 차단했으며, 이는 2분마다 하나의 사기 거래를 막은 셈임
Hacker News 의견
-
독일에서 스팸 및 사기 전화 문제가 심각하며, 10년 동안 지속되고 있음
- 사업체 CEO로서 전화기를 끌 수 없어, 스팸 전화를 자동으로 처리하는 시스템을 개발함
- Asterisk와 독일의 SIP 제공자를 활용하여 스팸 전화를 필터링하고 녹음하여 이메일로 전송함
- 이 시스템은 공개되지 않아 여전히 효과적임
-
독립적인 해커나 예술가가 이런 시스템을 개발하는 것은 멋지지만, 대형 통신사가 이를 도입하면 스팸 탐지가 오히려 악화됨
- 통신사는 스팸 전화를 차단할 수 있지만, 수익을 위해 이를 방치함
-
사람들에게 주목을 받기 위해 직접 비용을 지불하는 방식이 논리적 결론처럼 보임
- 전화나 이메일을 받기 위해 요금을 설정하고, 허용 목록을 관리함
-
Twilio와 voip.ms 같은 VoIP 서비스를 사용하여 간단한 IVR 메뉴를 설정하면 스팸 전화를 효과적으로 차단할 수 있음
- 사기꾼이 직접 전화를 걸 경우에는 효과가 없지만, 대부분의 스팸 전화는 사전 녹음된 메시지로 시작됨
-
사기꾼들이 노인들의 친절함을 악용하는 방식이 디지털 시대의 새로운 사기 수법임
- 사기꾼들이 생계를 유지하기 어려운 세상이 되기를 바람
-
사기꾼들이 AI를 사용하여 사람들을 속이는 상황이 발생하고 있음
- 화이트리스트 번호를 사용하는 것이 좋지만, 전문 전화기는 스팸에 취약함
-
AI를 활용한 시스템이 홍보 수단일 수 있으며, 실제로 운영하기에는 비용이 많이 들고 실용적이지 않음
- AI 시스템 운영 비용이 소비자에게 전가될 가능성이 있음
-
사기꾼들이 인도의 평판에 해를 끼치고 있으며, 법 집행이 제대로 이루어지지 않고 있음
- 나이지리아도 유사한 문제를 겪고 있음
-
모기지 신청 후 자동 스팸 전화가 급증하여 번호를 변경할 계획임
- 스팸 전화가 점점 증가하고 있음
-
AI를 활용한 시스템이 과거의 Telecrapper 2000의 재구현일 수 있음
- 원본 사이트는 사라졌지만, YouTube에 관련 영상이 있음