GN⁺: 한 재무담당자가 DeepFake한 CFO와의 화상 통화 후 사기꾼에게 2500만 달러 송금

• 홍콩 경찰에 따르면, 한 다국적 기업의 재무 담당자가 딥페이크 기술을 사용하여 회사의 최고재무책임자(CFO)로 가장한 사기꾼들에게 2천5백만 달러를 송금하도록 속임
• 사기꾼들은 딥페이크로 재현된 가짜 직원들과의 화상 회의를 통해 재무 담당자를 속임
• 재무 담당자는 영국에 기반을 둔 CFO로부터 비밀 거래를 요구하는 메시지를 받고 초기에는 피싱 의심, 하지만 화상 회의에서 동료로 인식한 사람들의 모습과 목소리에 속아 의심을 접음

홍콩에서 발생한 딥페이크 사기 사건

• 홍콩 경찰은 최근 사람들을 속여 돈을 훔치기 위해 딥페이크 기술을 사용한 여러 사건이 발생했다고 발표
• 경찰은 이와 관련하여 여섯 명을 체포함
• 경찰은 지난해 7월부터 9월 사이에 분실된 것으로 보고된 홍콩 신분증 8개를 사용하여 90건의 대출 신청과 54건의 은행 계좌 개설이 이루어졌다고 밝힘
• 적어도 20번의 경우, AI 딥페이크가 신분증에 있는 사람들을 모방하여 얼굴 인식 프로그램을 속임
• 가짜 CFO와 관련된 사기는 재무 담당자가 본사와 확인한 후에야 발견됨

전 세계적으로 인공지능 기술에 대한 우려 증가

• 전 세계적으로 딥페이크 기술의 발전과 그로 인한 악용 가능성에 대한 우려가 커짐
• 1월 말, 미국 팝스타 테일러 스위프트의 AI 생성 포르노 이미지가 소셜 미디어에 퍼지며 인공지능 기술이 가진 해로운 잠재력을 강조함
• 성적으로 암시적이고 노골적인 자세를 취한 가수의 사진들은 소셜 플랫폼에서 삭제되기 전에 수천만 번 조회됨

GN⁺의 의견

• 딥페이크 기술의 발전은 사회적, 경제적 영역에서 심각한 위협이 될 수 있음을 보여줌. 이 기술이 어떻게 사기와 범죄에 악용될 수 있는지를 이해하는 것이 중요함
• 이 기사는 딥페이크 기술의 위험성에 대한 인식을 높이고, 개인과 기업이 보안에 더욱 주의를 기울여야 하는 이유를 강조함
• 기술의 발전이 가져오는 부정적인 측면에 대한 경각심을 일깨우고, 이에 대한 대응책 마련의 중요성을 알리는 데 이 기사가 도움이 될 것임

[neo]

Hacker News 의견

• 많은 미국의 중상급 호텔들이 인도 출신의 Patel 성을 가진 사람들에 의해 소유되고 있음.

  • Patel 성을 가진 사람이 긴급한 상황을 이유로 돈을 송금해달라고 전화하는 사기가 흔함.
  • 호텔 직원들이 이를 믿고 금고를 뜯거나 개인 계좌에서 돈을 송금하기도 함.
  • 이러한 사기는 AI나 딥페이크 기술 없이 사회공학적 기법을 사용함.

• "파워 디스턴스"라는 문화적 요소가 이러한 사기에 영향을 줄 수 있음.

  • 일부 문화에서는 절차를 무시하고 상사의 지시에 무조건 복종함.
  • 미국의 일부 하드웨어 기술 회사에서도 비슷한 상황이 보도된 바 있음.

• 프랑스에서는 CEO, CFO, 변호사로 가장한 전화에 속아 돈을 송금한 직원들이 있었음.

  • 2022/2023년에 체포된 프랑코-이스라엘 갱단이 최소 3800만 유로를 사기침.
  • 이들은 딥페이크 AI 없이 CEO를 가장함.

• 다중 참가자 비디오 회의에서 모든 참가자가 가짜였다는 주장이 있음.

  • 이는 실제일 수도 있지만, 직원이 핑계로 딥페이크를 주장할 수도 있음.
  • 사기꾼들이 부모나 조부모에게 자녀인 척 돈을 요구하는 비디오 통화를 대량으로 할 때가 언제일지, 이를 어떻게 막을 수 있을지에 대한 질문이 제기됨.

• 보스턴에 기반을 둔 금융 종사자가 2023년에 사기꾼들에게 600만 달러를 송금함.

  • 사회공학적 요소가 있었지만 딥페이크에 대한 언급은 없었음.
  • 2023년 MGM 카지노 해킹 사건에서는 딥페이크를 사용해 기술 지원 직원을 속여 MFA를 위반하게 함.

• CFO가 딥페이크 전문가와 연계하여 이익을 나누는 가능성에 대한 추측이 있음.

  • 이는 실제로 발생한 것은 아니지만, 미래 시나리오에 초점을 맞춤.

• 다중 참가자 비디오 회의에서 모든 참가자가 가짜였다는 주장이 다시 언급됨.

  • 이는 각 참가자의 이미지와 목소리 샘플을 수집하는 등 상당한 준비가 필요함을 시사함.
  • 이러한 정교함이 이미 나타나고 있다면, 민감한 회의를 위한 새로운 참가자 검증 방식이 등장할 것으로 예상됨.

• 대규모 회사에서 이런 일이 어떻게 발생할 수 있는지 이해하기 어려움.

  • 거래가 발생하기 위해서는 명확한 문서화된 절차가 필요함.
  • 거래가 승인되기 위해서는 여러 단계의 승인이 필요하며, 지불을 입력하는 사람과 승인하는 사람은 달라야 함.
  • 거래가 입력될 때, 첫 번째 승인을 거쳐야 하며, 지불 한도에 따라 추가 승인이 필요함.

• 딥페이크를 사용하여 사람들을 속일 수 있는 소프트웨어에 대한 궁금증이 제기됨.

  • 아직 이러한 소프트웨어를 본 적이 없으며, 실제로 속일 수 있는 제품이 존재하는지에 대한 의문이 있음.

• 이러한 사기는 회사의 나쁜 프로세스로 인한 것으로 보임.

  • 큰 금액에 대해서는 비디오 통화만으로 충분하지 않음.
  • 이메일 확인, 회사 채팅을 통한 대화, 고위직과의 휴대폰 통화 등이 필요함.