봇임을 공개하도록 요구하는 캘리포니아 법안

 (veeto.app)
1P by GN⁺ | ★ favorite | 댓글 1개

  • 개요

    • 캘리포니아에서 모든 온라인 봇과 AI 기반 계정이 자동화된 특성을 공개하도록 요구하는 법안임.
    • 생성적 인공지능을 사용하는 계정을 포함하도록 봇의 정의를 확장함.
    • 사용자와의 온라인 상호작용 중 요청 시 즉시 봇임을 공개하도록 의무화함.
    • 월간 미국 사용자 1천만 명 이상인 모든 플랫폼에서 명확하고 눈에 띄는 봇 공개를 요구함.

  • 요약

    • Wilson 의원의 봇 공개 법안은 캘리포니아의 자동화된 온라인 커뮤니케이션 접근 방식을 재정의함.
    • 이 법안은 봇이 상업 거래나 투표 행동에 영향을 미치려 할 때만 공개를 요구하는 현재 법을 확장함.
    • 법적 정의를 업데이트하여 생성적 인공지능으로 운영되는 계정을 포함함.
    • 모든 온라인 상호작용에서 봇임을 명확히 공개하도록 요구하며, 다른 사용자 요청 시 이 정보를 제공해야 함.
    • 공개 요구 사항은 공공 웹사이트, 웹 애플리케이션, 디지털 플랫폼에 적용됨.
    • 1천만 명 이상의 월간 미국 방문자가 있는 온라인 플랫폼은 이러한 확장된 공개 규칙을 준수해야 함.

  • 주요 날짜

    • 2025년 2월 4일: 처음 읽음. 인쇄 예정.

  • 참여 방법

    • 이 법안은 최근 도입됨. 작성자에게 이메일을 보내 의견을 전달할 수 있음.

  • 커뮤니티 전망

    • 긍정적: 45.5%
    • 부정적: 54.5%

  • 최신 투표 기록

    • 현재 이 법안에 대한 투표 기록 없음.

함께 보면 좋은 글 β

GN⁺   [-]
Hacker News 의견들

  • 10년 전 챗봇이 훨씬 덜 유용하던 시절에는, 봇이 사람이나 신인 척하는 건 괜찮지만 직접 봇이냐고 물으면 반드시 인정해야 한다는 예절이 흔했음
    잠복 경찰에게 직접 물으면 밝혀야 한다는 도시전설의 봇 버전 같은 느낌이었고, 대중-facing 봇에 이런 요구를 둬도 단점은 잘 안 보임
    다만 현재 제안이 정확히 그 내용인지는 모르겠고, 사이트가 내려간 상태임

    • 이 원칙은 양방향이어야 한다고 보는데, 봇은 봇이라고 확인해야 하고 사람도 사람이라고 확인해야 함
      여러 이유로 사람이 봇인 척하는 것도 원치 않음
    • “직접 물으면 밝히면 된다”는 입장은 중간지대처럼 보이지만, 실제로는 행동 부담을 에너지가 제한적이고 이미 수백 가지 결정을 해야 하는 인간에게 떠넘기는 방식임
      규제를 사실상 무력화하려는 로비스트가 규제기관에 속삭일 법한 말처럼 들림
      기술에 익숙하지 않은 사람은 대규모 언어 모델이 무엇이고 무엇을 할 수 있는지 알 필요도 없고, 알아야 할 의무도 없음
      이런 문제는 원천에서 해결해야 하며, 낙관적인 자유지상주의 기술자들이 사회 전체를 디도스하게 둬서는 안 됨
    • 다른 댓글에 아카이브 링크가 있음: https://news.ycombinator.com/item?id=42968477
    • 예전의 '/finger [Nick|Address]가 떠오름
    • 오히려 반대로 기억함. 2015년에 인기 있던 챗봇들은 튜링 테스트를 통과하려고 봇임을 부정했음
      요즘 2025년에 인기 있는 챗봇들은 자신이 봇이라고 꽤 잘 설명함
      물론 인기 있는 것들을 일반화한 말일 뿐이고, 누구나 자기 봇은 원하는 대로 만들 수 있음

  • 이건 명백히 vetto.app의 미공개 홍보로 보임. alexd127의 다른 활동도 정확히 같은 법안에 대한 이 스레드 [https://news.ycombinator.com/item?id=42901553]뿐임

  • 이 법이 AI 생성 이메일, 영업 연락, LinkedIn 메시지에도 적용되면 좋겠음

    • 정치 문자 메시지와, “STOP”을 보냈더니 다른 임의 번호에서 확인해주는 메시지도 포함됐으면 함
      특히 기계가 읽을 수 있는 형태라면 더 좋겠음
    • 적용되는 것 같음. 제안 문구는 다음과 같음:

      It shall be unlawful for any person to use a bot to communicate or interact with another person in California online. A person using a bot shall not be liable under this section if the person discloses that it is a bot. A person using a bot shall disclose that it is a bot if asked or prompted by another person.
      정의와 원문은 https://legiscan.com/CA/text/AB410/2025에 있음
      이메일, 영업 연락, LinkedIn 메시지는 모두 커뮤니케이션 또는 상호작용에 해당함

    • 이런 것들의 99.9%는 이미 전부 봇이 생성한다고 가정하고 있음
    • 최근 LinkedIn에 가본 적 있나. 사실상 죽은 인터넷 이론의 실전판임
      모든 게시물, 모든 댓글이 그렇고, 대체 무슨 의미가 있는지 모르겠음
      예전처럼 채용/구직 검색만 하던 시절이 그리움
    • 이게 법이 되면 LinkedIn은 난장판이 될 것임

  • 요구사항은 미국 월간 사용자 1,000만 명부터 적용됨. 왜 더 작은 사업자에는 적용하면 안 되는지 모르겠음

    • 이해하기로는 월간 사용자 1,000만 명 이상인 플랫폼에 대한 요구사항임. Twitter 같은 곳은 해당하지만 아마 Hacker News는 아닐 것임
      실제로는 이런 플랫폼들이 봇이 자신을 식별할 수 있는 인터페이스를 제공하고, 봇을 식별하려는 선의의 노력을 해야 한다는 쪽에 가까움

      Online platforms with over 10 million monthly U.S. visitors would need to ensure bot operators on their services comply with these expanded disclosure rules.
      그래서 봇이 작은 사업자의 것이라도 Twitter, Facebook, Reddit 같은 플랫폼 위에 있다면 자신을 식별해야 함
      기준치에 대한 이견은 있어도 합리적으로 느껴짐. 작은 틈새 포럼에까지 강제하는 건 맞지 않고, 작은 플레이어에게 과도한 부담을 주며 정부 자원 낭비이기도 함. 잠재 피해도 정의상 더 작음
      큰 회사들은 규제를 좋아하는데, 규제가 진입장벽이 되고 자기들은 그 장벽을 넘을 수 있기 때문임
      더 구체적으로는 경쟁자가 제대로 성장하기 전에 눌러버림. 그래서 이런 방식의 규제는 좋은 생각이라고 봄
      운동장은 늘 기울어져 있고, 큰 플레이어는 자기 체급을 이용해 더 나쁜 제품으로도 이길 수 있음

    • 현실적인 이유가 양면으로 있음. 대부분의 작은 회사는 이 규칙이 통과되더라도 존재조차 모를 가능성이 큼
      여러 관할권이 AI 관련 법을 각각 통과시키면, 점차 수백 개의 법이 수많은 관할권에 흩어지고 서로 충돌할 수도 있으며, 불투명한 판례가 의미를 정하고 계속 바뀌게 됨
      최신 상태를 따라가려면 말 그대로 규제 준수 부서가 필요해짐
      그런 부서는 변호사로 채워지고 비용이 많이 듦. 이런 법이 작은 사업자에게까지 적용되면 작은 회사가 존재할 능력 자체를 크게 위협함
      특정 산업의 큰 회사들이 규제를 적극 로비하는 이유도 여기에 있음. 겉으로는 ‘안전’이지만 현실은 반경쟁적 행동임
      하지만 정기 사용자가 1,000만 명쯤 되면 준수 부서를 충분히 감당할 수 있어야 함
    • 반대로 말하면, 스타트업에는 약간 장난칠 여지가 있어야 함. 기존 강자에 맞서는 작은 우위는 방향상 좋은 정책이라고 봄
    • 틀렸음. 1,000만 명 요건은 “온라인 플랫폼”의 정의 [1]에 들어 있는 부분이고, 기존 법령에서는 이들에게 의무가 없다는 조항 [2]에서만 언급됨
      제안 법안 [3]에서는 서식 수정 말고는 전혀 언급되지 않음
      [1] https://law.justia.com/codes/california/code-bpc/division-7/...
      [2] https://law.justia.com/codes/california/code-bpc/division-7/...
      [3] https://legiscan.com/CA/text/AB410/2025
    • 페이퍼컴퍼니 체인으로 자회사 10개를 운영하고, 각각 월간 사용자 800만 명 이하로 조심스럽게 유지하면 됨
      모두 거의 같은 메시지를 전달하되, 순전히 우연이고 서로 노골적으로 따라 했을 뿐이라고 하면 됨

  • Veeto 웹사이트가 버거워 보이니, 해당 법안의 공식 캘리포니아 주의회 페이지를 남김: https://leginfo.legislature.ca.gov/faces/billTextClient.xhtm...
    꽤 좁게 작성된 법안으로 보임. 봇 사용이 “오도하려는 의도”가 있을 때만 불법이라는 요건을 제거하는 것 같음
    그런 의도는 입증하기 매우 어렵고, 결국 법이 제대로 집행되지 않을 가능성이 큼
    대신 훨씬 명확한 선을 긋는 규칙이 됨. 봇임을 공개하지 않으면 불법이고, 공개하면 괜찮음
    Veeto 페이지가 로드된 뒤 보니 “Ask me anything about this bill! I'll use the bill's text to help answer your questions.”라는 채팅 탭이 있음
    아이러니하게도 Veeto 자신들도 어떤 챗봇을 쓰고 있으니 이 법안의 직접 영향을 받을 것 같음

    • “Internet Web site”를 “internet website”로 고치는 수정들이 재미있었음

  • 흥미로움. 실제로 어디까지 갈지는 모르겠지만, 해볼 만한 논의임
    한편으로 댓글들을 보면 공개 의무에 꽤 관심이 있어 보임
    다른 한편으로 기업과 대형 광고주, 그러니까 스패머들은 별로 원치 않을 듯함. 그들에게 공개의 긍정적인 면이 있나?

    • 캘리포니아는 소비자 친화적 법안을 통과시키는 데 꽤 괜찮은 편임. 연방이나 다른 주와 비교했을 때의 “괜찮음”이긴 함
      항상 효과가 있는 건 아니지만, 많은 법안의 의도는 사람들에게 맞춰져 있다고 느껴짐
      기업과 대형 광고주들은 당연히 원치 않음. 언젠가 Reddit에 실제 봇이 얼마나 많은지, 우리가 죽은 인터넷에 얼마나 가까운지 보고 싶음
      HN은 공개 의무가 걸리는 1,000만 명 기준에는 못 미칠 것 같음. 그래도 여기에는 봇이 많지 않을 것이라고도 봄
    • 봇이 더 똑똑해질수록 접근을 줄일 게 아니라 더 줘야 함
      사람들은 너무 오래 유용한 바보와 꼭두각시로 이용돼 왔고, 봇이라고 예외를 둘 이유를 모르겠음

  • 이 법안이 있든 없든 업계는 곧 그 방향으로 갈 것임. 패러다임 전환이 있기 때문임
    이제 대화는 스크래핑 봇 대 진짜 인간 방문자의 문제가 아님
    오늘날 현실은 합법적인 사용자가 AI 에이전트를 이용해 전자상거래 사이트에서 최저가를 찾고, 자동 결제하고, 정교한 데이터 질의를 실행하는 식으로 작업을 수행한다는 것임
    빠른 다수 요청이나 이상한 탐색 흐름 같은 전통적인 위험 신호도 AI 도우미가 붙으면 정직한 고객 행동일 수 있음
    몇 주 전에 올린 글도 참고할 수 있음: https://blog.tarab.ai/p/bot-management-reimagined-in-the

    • 방문자의 정체성과 행위 주체성에 아직 너무 집착하는 것 같음
      한 발 물러서서 애초에 왜 봇을 제한하거나 차단하려 했는지 묻는 게 좋음. 대부분은 서비스 운영자의 자원을 낭비하기 때문임
      서비스 운영자 관점에서는 최저가를 찾으려고 1,000페이지를 빠르게 요청하는 AI 에이전트와, 다른 목적으로 같은 1,000페이지를 긁는 멍청한 봇을 구별할 필요가 없음
      손 빠른 인간이 1분 안에 수백 개 탭을 열어도 AWS 요금에는 같은 영향을 줌
      자원에 부담을 주고 그런 고객을 원치 않는다면 모두 내쫓을 권리가 있음
      신뢰 토큰을 들고 있는지, 인간인지 여부는 부차적임. 문제는 언제나 행동이지 행위 주체가 아님

  • PUBG 모바일 플레이어에게 자신이 봇을 상대로 이기고 있다고 알려줘야 하나?
    심령술사도 자기가 실제로 죽은 사람을 대변할 수 없다고 말해야 하나?

    • “심령술사가 실제로 죽은 사람을 대변할 수 없다고 말해야 하나?”
      그래야 하지 않나?
    • PUBG 모바일은 이미 알려주지 않나? 게임은 AI 상대와 인간 상대를 구분해 알려주는 쪽이 비교적 잘 되어 있는 플랫폼임
      심령술사에 대해서는, 우선 그들이 로봇이라는 걸 증명해야 함
    • 둘 다 그렇다

  • 실용성이나 합헌성 측면에서 이 법에 반대하는 건 이해함
    다만 더 유용하고 법적으로도 적절한 것은 반대 방향의 법, 즉 인간이라고 주장하거나 인간 같은 감정/사회적 능력이 있다고 주장하는 의도적 기만 봇을 금지하는 것처럼 보임

  • 대안 제안: 모든 밈에 대해, 법적으로 그 밈을 누가 만들었는지 볼 수 있어야 함
    밈마다 속아 넘어가는 사람들이 예를 들어 러시아나 중국의 선전 조직이 만든 것임을 볼 수 있다면, 곧 더 회의적으로 보는 법을 배울 것 같음

답변달기