FCC, 로보콜에서 AI 생성 음성을 불법으로 규정

 (fcc.gov)
1P by GN⁺ | ★ favorite | 댓글 1개
  • AI 음성으로 사람처럼 들리는 자동전화가 확산되자, FCC는 이를 TCPA상 “artificial” 통화로 보고 기존 전화 소비자 보호 규제 안에 넣음
  • 이번 Declaratory Ruling은 AI로 생성한 인간 음성을 쓰는 통화에도 Telephone Consumer Protection Act(TCPA)가 적용된다는 점을 확인함
  • FCC 결정은 만장일치로 채택됐으며, 로보콜에서 AI 생성 음성을 사용하는 행위를 직접 겨냥함
  • News Release와 Declaratory Ruling 원문은 docx, pdf, txt 형식으로 공개돼 결정문을 바로 확인할 수 있음
  • 딥페이크 오디오와 비디오 링크는 로보콜과 사기성 문자를 더 구분하기 어렵게 만들어, AI 음성 규제의 실무적 필요성을 키움

AI 생성 음성 로보콜의 TCPA 적용

  • FCC는 AI 생성 음성으로 만들어진 통화가 Telephone Consumer Protection Act(TCPA)의 “artificial” 통화에 해당한다고 인정하는 Declaratory Ruling을 만장일치로 채택함
  • 적용 대상은 AI-generated voices로 만들어진 통화임
  • 이 결정은 로보콜에서 AI 생성 음성을 사용하는 경우를 직접 겨냥하며, TCPA가 인간 음성을 생성하는 AI 기술에도 적용됨을 확인함

공개된 FCC 문서

딥페이크 관련 소비자 안내

함께 보면 좋은 글 β

GN⁺   [-]
Hacker News 의견들

  • 모르는 번호에서 전화가 와서 받았더니, 아내 목소리 녹음이 “Hello?”라고 말한 적이 있음
    그 뒤로는 발신자를 아는 경우가 아니면 전화를 받을 때 Hello라고 먼저 말하지 않게 됨

    • 한 단계 더 나아가서 어색함과 오탐을 줄이는 방식으로, 아는 사람은 모두 휴대폰 연락처에 넣어둠
      전화가 이름이 아니라 번호로 뜨면 그냥 받지 않고, 스팸이 아니면 음성 메시지나 문자를 남길 것이라 봄
      둘 다 안 하면 스팸/사기였거나 애초에 별로 중요하지 않은 용건이었을 가능성이 커서, 10년 넘게 해봤지만 아직 문제 없었음
    • 거의 전화를 받을 일이 있어도 아무 정보도 주지 않음
      받는다면 3~5초 정도 침묵해서, 봇이 아니라면 사람이 먼저 말할 기회를 줌
    • 아무도 3분쯤 말하지 않다가 누군가 Hello라고 하는 전화를 받고 있음
      편집증적으로는 내 목소리를 녹음해서 AI 사칭에 쓰려는 게 아닌가 싶음
    • 전화 예절을 어기는 건 미안하지만 같은 생각임
      발신자가 먼저 말해야 진짜 사람인지 알 수 있고, 자동화 시스템이라면 내 번호가 또 다른 자동화 시스템이 아니라는 걸 눈치채지 못하길 바라며 조용히 있는 편임

  • FCC가 이런 결정을 내릴 수 있게 하는 법적 원칙은 Chevron Deference라고 불리며, 지금 공격받고 있다는 점이 중요해 보임
    https://www.scotusblog.com/2024/01/supreme-court-likely-to-d...

    • 이 스레드는 Chevron Deference를 크게 오해하고 있음
      이를 없앤다고 해서 기관들이 아무것도 못 하는 Mad Max식 무정부 상태가 되는 건 아니며, 행정 규칙 제정이 허용되는 기준은 항상 존재함
      재량의 폭이 얼마나 되는지는 별도 문제지만, AI 생성 음성이 법률상 “인공”에 해당한다고 명확히 하는 건 “컴퓨터로 머리를 때리는 것”이 “폭행”에 해당한다고 말하는 것만큼 규정이 거의 필요 없는 수준임
    • 링크만 읽어봤지만, 그 설명은 약간 잘못된 것 같음
      Chevron 원칙은 FCC 같은 기관이 이런 결정을 내리게 해주는 게 아니라, 법원이 그 결정을 뒤집지 못하게 보호하는 원칙임
      즉 대법관들이 사적으로 기관 해석에 문제가 있다고 모두 생각해도 존중해야 하지만, Chevron이 없으면 그런 경우 뒤집을 수 있음
      이 경우 AI 생성 음성을 법 적용상 “인공”으로 보는 건 너무 명백해서 개인적으로는 Chevron 원칙이 적용될 일도 없어 보임
    • Chevron Deference의 중요성에는 동의하지만, 이 결정에서는 어떤 법원도 Chevron의 두 번째 단계까지 갈 것 같지 않음
      법은 “인공 또는 사전 녹음된 음성”을 금지하고, AI 에이전트는 정의상 인공이기 때문에 별도 존중이 필요 없어 보임
    • Chevron은 겉으로 보기에도 터무니없음
      기관이 네가 법을 어겼다고 하고, 네가 그 기관을 상대로 소송을 걸면, 법원이 그 기관에 따름
      결국 법정에서 다툴 기회를 빼앗기는 셈임
    • 지금처럼 변화가 빠른 시대에 사소한 것마다 명시적 입법을 기다려야 하는 상황이 될까 걱정됨

  • 더 정확히는 FCC가 현행법인 Telephone Consumer Protection Act를 공식 해석해, 로보콜의 AI 생성 음성이 그 법을 위반한다고 명확히 한 것이라고 봐야 하며 합리적으로 보임

    • 제목은 “FCC, 로보콜의 AI 생성 음성을 불법으로 판단”이라고 해야 함
    • 이 결정으로 Stanford 창업자들이 만든 스타트업을 포함해 여러 사업과 스타트업이 끝나게 됨
    • FCC가 법적 선례를 세울 권한이 어디서 나오는지 모르겠음

  • 로보콜에 대해 발신자 ID 식별 라벨을 강제했어야 함
    예를 들어 “Police Officers Benevolent Association [Robocall]”처럼 표시되게 하는 식임

    • 그러려면 전국에 깔린 50~70년치 통신 인프라를 말 그대로 업그레이드해야 하는데, 그런 일은 일어나지 않을 것임
    • 해야 할 일은 완전히 따로 있음
      Apple과 Google이 기본 소프트웨어의 일부로 개인용 전화 로봇을 제공해야 함
      새 휴대폰을 사면 15분 정도 여러 문장을 녹음하고, 그 뒤로는 로봇이 대신 전화를 받게 하는 방식임
      이 로봇은 스패머나 텔레마케터와 통화할 때 최대한 오래 붙잡아두려 할 것임
      1분도 좋고 10분이면 더 좋음
      스패머들이 이를 피하려 하면 Apple과 Google은 로봇을 개선해 대응할 수 있음
      몇 달 안에 그 업계는 죽을 것임
      진짜 현금을 나이지리아 왕자에게 보낼 호구인지, 영어가 모국어가 아닌 상담원을 속이는 나쁜 소프트웨어인지 가리려고 통화마다 30분씩 쓸 여력이 없기 때문임
      마진은 떨어지고, 진짜 사람인지 판별하려는 더 정교한 AI 필요성은 치솟아서 경제적으로 지속 불가능해질 것임
    • “그들”이 누구이며, 어떤 전화가 합법적인지 아닌지는 어떻게 알 수 있나?

  • FCC는 AI 생성 음성으로 건 전화가 TCPA상 “인공”에 해당한다고 보는 선언적 판결을 만장일치로 채택했다는 뜻임
    따라서 이미 인공 로보콜이 불법이라는 의미에서 불법인 셈임

    • 사기 전화도 이미 불법이지만, 딱히 아무 조치가 없는 것과 비슷함
    • FCC가 뭔가를 불법으로 만들 수 있다고 보지는 않음
      이런 제목은 현재 진행 중인 실제 법원 사건에 도움이 되지 않을 것임
    • “FCC, 인공 음성이 실제로 인공 음성이라고 발표”

  • 문제 자체가 아니라 증상을 겨냥하는 것처럼 보임
    로보콜의 큰 문제 중 하나는 누가 전화했는지 알기가 사실상 불가능하고, 스팸 신고 도구에 실효성이 별로 없다는 점임
    전화가 오면 누가 책임지는 통화인지 보여야 함
    예를 들어 “[전화번호]는 [개인 또는 법인]에게 등록되어 있음”처럼 표시되고, 스팸 신고가 누적되면 그 당사자의 전화망 사용 능력에 제약이 걸려야 함

    • Pennsylvania 유권자의 1% 이상이 마지막으로 자기에게 말한 사람을 기준으로 계속 투표하고, Super PAC이 무제한 익명 자금을 계속 받을 수 있는 한, 어떤 미디어 채널도 사람들에게 스팸을 보내는 것을 법적으로 제한받지 않을 것임
      전화 스팸은 정치적으로 너무 효과적임
    • 나도 같은 생각임
      이런 사기를 겨냥하는 건 좋은 첫걸음이지만, 해외 사업자들이 덜 쓸 것 같지는 않음
      내가 받는 스팸 전화 대부분은 Do Not Call 목록도 지키지 않는데, 왜 이것은 지키겠나?
      FCC는 STIR/SHAKEN에 대해 강한 마감 기한을 정하고, 따르지 않는 사업자에게 벌금을 물려야 함
      그래야 VoIP 사업자들이 진지하게 받아들일 것임
    • 장기적으로는 SHAKEN/STIR가 이 문제를 해결하려는 것으로 알고 있음
      왜 이렇게 오래 걸리는지는 모르겠지만, 이미 휴대폰은 발신자 ID가 검증된 통화인지 표시할 수 있을 것임
      다음 단계는 검증되지 않은 발신자를 그냥 차단하는 것일 듯함
      마이그레이션 작업이 많이 남아 있다고 봄
      https://www.fcc.gov/call-authentication
    • 번호의 통신사를 조회하는 건 이미 가능하며, 수신 화면에서 위치 아래에 그 통신사를 보여주면 좋겠음
      전화가 T-Mobile에서 오는지, 처음 들어보는 회사에서 오는지에 따라 크게 다름
    • 이건 이 플랫폼의 많은 사람이 가진 프라이버시 관점과는 정반대일 것 같음

  • 이 결정이면 IVR 시스템도 불법이 되는 건가?
    많은 스팸을 줄일 수 있을 것 같아 노력은 칭찬하지만, 전화 통화의 AI 생성 음성은 이미 수십 년 동안 어디에나 있었기 때문에 궁금함
    음성 품질에 대해 특정 선을 긋는 건가?

    • 이 결정은 구체적으로 전화를 거는 주체에만 적용됨
      IVR은 포함되지 않음
      자동 전화도 동의가 있으면 허용됨
      예를 들어 조제 완료 약이나 예약 대기 도서 알림을 신청한 경우가 그렇다
      음성 품질과는 관계없고, 사전 녹음 음성도 금지 대상임

  • 어떤 상식 부족이면 로봇 음성 사용은 불법으로 만들면서 로봇 전화는 계속 방치하게 되는 건가?
    말이 안 됨

    • 이 결정은 AI 생성 음성이 들어간 전화를 이미 불법인 다른 로보콜과 동일하게 취급하려는 것임

  • 전화 통화의 “인공” 음성은 1971년부터 존재했음
    당시 Federal Screw Works라는 회사가 Votrax 음성 합성 장치를 처음 개발했고, 엔지니어링은 Richard Gagnon이 맡았음

  • 이걸 어떻게 집행할 수 있나?
    모든 자동 음성 메시지를 금지한 건가?
    여기서 “AI”는 어떻게 정의되나?

    • 집행은 어렵지만, 보통 신고를 발신 통신사나 발신 고객까지 추적한 뒤 법정으로 가져가는 방식임
      자동 음성 메시지는 이미 제한되어 있었고, 이번 결정은 AI 생성 음성이 자동 음성 메시지 분류에 들어간다고 확인한 것뿐임
      관련 결정문 일부는 다음과 같음

      II. BACKGROUND
      3. The TCPA protects consumers from unwanted calls made using an artificial or prerecorded voice. See 47 U.S.C. § 227(b)(1).
      In relevant part, the TCPA prohibits initiating “any telephone call to any residential telephone line using an artificial or prerecorded voice to deliver a message without the prior express consent of the called party” unless a statutory exception applies or the call is “exempted by rule or order by the Commission under [section 227(b)(2)(B)].” 47 U.S.C. § 227(b)(1)(B). The TCPA does not define the terms “artificial” or “prerecorded voice.”

      그리고 뒤에는 이렇게 나옴

      III. DISCUSSION
      5. Consistent with our statements in the AI NOI, we confirm that the TCPA’s restrictions on the use of “artificial or prerecorded voice” encompass current AI technologies that resemble human voices and/or generate call content using a prerecorded voice.

    • PDF는 여기 있음: https://docs.fcc.gov/public/attachments/FCC-24-17A1.pdf

    • 일부 사람들은 통화를 녹음함
      기업은 소비자 대상 직접 판매 상황에서 규정 준수 때문에 녹음해야 하는 경우가 많음
      녹음이 있으면 알고리즘이 아니더라도 법원이 사안별로 AI 음성 여부를 쉽게 판단할 수 있을 것임

답변달기