▲

JanitorAI, 영국 사용자 대상 서비스 차단 예고 - 영국의 온라인 안전법 규제 때문

 (blog.janitorai.com)
2P by GN⁺ 16시간전 | ★ favorite | 댓글 1개
  • 개인화 AI 캐릭터를 만들어서 대화하는 챗봇 플랫폼 JanitorAI가 7월 24일부터 영국(잉글랜드, 스코틀랜드, 웨일스, 북아일랜드) 내 서비스 차단을 공식 발표함
  • 이는 영국 온라인 안전법(Online Safety Act) 의 과도한 규제와 높은 법적·재정적 부담(최대 1,800만 파운드 벌금, 운영진 형사처벌 가능성) 때문임
  • 법적 위험 평가, 생체 인증 시스템 구축, 지속적 법률 검토 등 대기업 수준의 의무를 중소 서비스에도 적용해 소규모 플랫폼에 실질적으로 진입장벽을 만듦
  • JanitorAI는 영국 커뮤니티와의 이별을 "팀 보호를 위한 불가피한 선택" 이라 설명하며, 향후 규정 준수를 위한 다양한 방안(미성년자 인증 등)을 모색 중임
  • 사용자는 접근 차단 외 별도 불이익 없음, 계정 삭제 없이 단순히 영국 IP에서만 접속 제한이 이루어짐

서비스 차단 공지 및 배경

  • JanitorAI는 2025년 7월 24일 23:59(UTC)부터 영국 내 접속을 차단할 예정임을 발표함
  • 단 4일 전의 급박한 공지로, 영국 사용자들에게 미안함을 전함

영국 온라인 안전법의 영향

  • 서비스팀은 온라인 안전법의 내용을 오해했다가, 실제로는 단순한 콘텐츠 관리가 아닌, 모든 플랫폼에 대기업 수준의 규제가 적용됨을 뒤늦게 인지함
  • 법적 위험 평가, 생체 인증(예: Reddit이 도입한 Persona - 1인당 1.5달러), 끊임없는 법률 리뷰 등 소규모 사업자에게 감당 불가능한 수준의 의무가 부과됨
  • 규정 위반 시 최대 1,800만 파운드 벌금 및 운영진 형사책임(감옥 가능성)까지 발생

준수 불가능과 정책 비판

  • 법령 250여 쪽, Ofcom 가이드라인 3,000여 쪽 등 복잡한 규정과, 소규모 플랫폼에 대한 예외조항 부재로 현실적으로 준수가 불가능함
  • 영국 정부는 혁신 허브를 표방하면서, 실제로는 구글 등 대기업만 버틸 수 있는 구조를 만들었다는 비판이 나옴

사용자에게 미치는 영향 및 안내

  • 7월 24일부터 영국 IP에서 JanitorAI에 접속 시 차단 페이지 노출
  • 영국 거주자 계정은 삭제되지 않으며, 단순히 접속 제한만 적용
  • 사용자가 우회접속할 경우, 법적 책임은 서비스 제공자(플랫폼)에만 적용, 사용자에게는 법적 처벌이 없음

미래 계획과 입장 정리

  • JanitorAI는 영국 시장을 완전히 포기하지 않았으며, 미성년자 인증 등 추가 준수 방안을 적극 모색 중임
  • "많은 혁신적 플랫폼들이 같은 결정을 내릴 것", "영국은 글로벌 혁신에서 스스로 고립을 택하고 있다"는 우려와 함께, 사용자와 정부에 규제 재검토 청원 참여를 요청함
  • JanitorAI 팀은 임시 차단 조치임을 강조하며, 향후 요건 충족 시 서비스 재개 가능성을 열어둠

오해 바로잡기(FAQ)

  • 영국 사용자는 JanitorAI 이용으로 처벌받지 않음, 형사처벌·벌금 부과는 플랫폼 운영자에게만 해당
  • 계정 삭제 아님, 영국 IP 접속 차단만 적용됨
  • 사용자가 별도 방법으로 접속할 경우, 이는 개인 판단이며 법적 불이익 없음을 재확인
▲
GN⁺ 16시간전  [-]
Hacker News 의견

  • 나는 유럽과 영국의 기업 환경을 잘 알고 있음. 정부뿐만 아니라 대형 은행 같은 곳에서도 마찬가지임. 직원 두 부류를 고용함: 실제 업무를 진행하는 사람과, 위험관리·컴플라이언스·보안·규제 등(RCSR) 명목으로 최대한 많은 장애물을 두는 사람들임. RCSR 관련 인력은 기술직의 세 배 규모로 뽑음. 이들은 수천 페이지에 달하는 지침을 쏟아내 업무 진행이 사실상 불가능해짐. 우리 기술팀도 데이터베이스 업그레이드를 테스트하려면 4개월째 승인만 기다리는 중임. 고위 경영진은 중세 교회 사제처럼 권력을 쥔 RCSR을 절대 거스를 수 없음. 이들은 실제 성과와 연관된 목표 없이 움직이는 모든 것을 위험으로 봄. 관리자는 RCSR이 통제에 도움이 된다고 믿지만, 실제로는 의미 없는 일만 늘어나서 기업이 스스로 만든 벽에 갇히는 셈임

    • RCSR 감시가 심해질수록 실제 보안은 오히려 악화됨. 정책팀이 기술을 잘 몰라 중요하지 않은 일에 집착해 개발 에너지가 소모됨. 예를 들어, k8s에서 “환경변수에 비밀을 저장하지 말라”는 CIS 가이드라인을 따르느라 우리 팀은 2주 동안 Helm 차트를 수정해야 했음. 이건 앞으로 계속 유지하는 짐일 뿐 실질적 보안 효과는 거의 없음. 이 시간에 오히려 네트워크 정책이나 CSP 같은 근본적으로 유용한 보안 조치를 구현할 수도 있었음. 프로세스 상부에서는 위험과 영향만 따지는 매트릭스가 있고 실제 투입 노력과 성과 평가가 전혀 없음. 결국 엔지니어링이 아닌 의미 없는 일만 남음

    • 그런 기분일 것 같음. 실제로 엔지니어들은 데이터에 무감각해진 경향이 있음. 법률 프레임워크는 보통 실무를 모르는 사람들이 만들기 때문에 끔찍한 법도 많음. 하지만 실제 세상에서는 법을 어기면 언제든지 누군가가 소송을 걸 수 있으니 항상 긴장해야 함. 미국은 특히 개인이 이런 법을 근거로 바로 소송할 수 있음. 물론 실제로 대부분의 컴플라이언스 요구사항은 원론적으로는 별로 안 복잡하지만, 자유로운 데이터 활용이 기본인 소프트웨어 개발 관행과 상충해서 더 짜증나는 일임. 예전에야 공공 블로그라면 덜했겠지만, 이제는 누군가의 의료정보, 금융정보 등이 얽히고 잘못하면 Cambridge Analytica 같은 사건도 터지니 책임의 무게가 훨씬 무거워짐. 힘들지만 엔지니어로서 우리가 만드는 것의 결과와 책임을 인식해야 함. 이런 인식 부족이 업계의 대형 사고를 초래함

    • 미국도 이와 비슷하나 좀 덜 심각한 문제가 있음. 어느 누구도 컴플라이언스 관련 부서와 충돌하지 못함. 소송이 걸리면 “왜 컴플라이언스 팀의 조언을 무시했냐”가 문제되고, 심지어 기업의 법적 보호막도 무너질 수 있음. 컴플라이언스팀은 사업 진행에 관심이 없고 반대로 현업은 규정 준수를 딱히 인센티브로 느끼지 않음. 결국 소송 위험이 항상 컴플라이언스를 우선시하는 신중한 접근만 남게 만듦

    • 유럽에 한정된 문제가 아님. 미국에서도 엇비슷한 회사를 다닌 적 있음. 문제는 인센티브 구조임: 가벼운 규정 위반만으로도 회사가 문을 닫게 된다는 공포가 있고(경영진이 그렇게 가정함), 실제 임무를 완수하지 않아도 불이익은 없음. 그래서 아무것도 하지 않는 게 합리적 선택이 되어버림

    • 데이터베이스 업그레이드 테스트 승인을 4개월이나 기다린다고 했는데, 나는 변경 후 프로덕션에 적용까지 하루 걸리는 것도 불평했었음. 이전 회사는 4시간이면 됐음. 자동화 시스템과 프로세스만 잘 만들면 대부분의 변경은 빠른 승인으로 갈 수 있을 것 같음. 문제 발생이나 규제 변경 때마다 “NO”를 말할 수 있는 사람만 늘어나는 조직 반응이 답답함

  • 온라인 안전에 대한 영국의 접근법이 현실성 없고 마음에 들지 않음. 법안은 항상 이메일을 출력해서 읽을 것 같은 사람이 쓴 느낌임. 그렇다고 “작은 플랫폼=면제”가 꼭 합리적이진 않음. 아이들을 보호하겠다는 취지라면 플랫폼 규모와 무관하게 위험 콘텐츠(예: 자살 조장 등)는 문제임. 오히려 작고 잘 알려지지 않은 곳(예: 특정 chan 사이트)이 더 위험할 수도 있음

    • 소규모 사업체들은 완전한 면제를 원하는 게 아니라 최소한 대기업이 아니어도 규제를 이행할 수 있길 바람. 예를 들어 플라스틱 포장세의 경우 Amazon 같은 회사는 팀을 꾸려 잘 대응하지만, 소규모 자영업자는 행정 부담만으로 손해를 볼 수 있음. 매출이 일정 이하인 업체엔 행정 부담이 적은 고정 요금 구조를 적용하면 본래 취지도 지키고 실질적 피해도 막을 수 있음

    • 법률의 효율성이 문제임. 소행성 충돌을 막겠다고 모든 건물에 1미터 두께 콘크리트 지붕을 의무화하면, 결국 작은 건물은 부담만 커지고 대형 건물은 별 영향 없음. 불합리해 보여도 이런 식 규제는 시장에서 소사업자를 내몰고 자본력 있는 대기업만 살아남는 결과를 낳음. 사회 전반의 위험 감수도가 점점 낮아질수록, 대기업 중심의 규제 포획 현상도 자연스럽게 따라옴

    • 영국은 기술 규제가 현실적으로 어떻게 작동하는지 보여주는 대표적 예임. 최근 Hacker News에서 규제를 요구하는 댓글이 점점 많아지는 것도 느꼈음. 특히 LLM에서 오류 발생, 저작권 유사 콘텐츠 출력 등 불만이 생기면 “규제하자”, “징계 주자”란 반응이 많았음. 많은 사람들이 규제를 도입하면 대기업만 벌 받고 소비자는 완벽한 제품을 누리게 된다고 생각함. 하지만 실제로 강한 규제는 기업들이 해당 국가에서 철수하고, 유저들은 VPN까지 써서 계속 서비스를 이용하게 됨. 기업은 규제국가는 회피하거나 사업을 접음. 규제의 부작용을 지적하면 “작은 회사는 면제해 주면 됐다”고 쉽게 넘어감. 강경한 기술 규제를 현실에서 가까이 볼수록 오히려 싫어하는 사람이 많아짐

    • 영국의 온라인 규제의 궁극적 목표는 ‘감시’로 귀결되는 경우가 많음. 데이터 활용 방안은 별 생각이 없는데, 감시를 위한 법안은 집착적으로 추진함

  • 이번 사례처럼 https://thehamsterforum.com/threads/… 같은 일도 반복적으로 벌어지는 중임 (참고로 영국에서는 실제로 햄스터 애호가 포럼도 위법이 됨)

    • thehamsterforum이 모두 Instagram으로 이전하자는 제안까지 하는 걸 보면, 대형 기업들은 이런 법을 오히려 반기는 이유를 알게 됨. 규제가 늘수록 진입장벽은 높아지고, 사내 변호사 팀을 둔 대기업만 서비스 참가 자격을 얻음

    • 포럼이 어떤 이유로 “새로운 무언가”를 한 뒤 다시 운영을 재개했는지 궁금함. 이용 약관 변경과 신규 모더레이션 툴 도입 등으로 컴플라이언스를 맞췄다고 하는데, 도대체 어떤 결론에 도달해서 위험성이 없다고 본 것인지, 그리고 그 툴들이 충분한지 정말 궁금함

    • 지금도 포럼이 운영 중이라서, 원래 게시글이 잘못된 것이었는지 궁금증이 생김

    • Fleabag 시리즈의 카페가 더 평범하게 느껴지는 이유 같음(기니피그와 햄스터는 다르지만)

  • 어떤 서비스인지 잘 모르겠지만, 사이트에 들어가 보니 18+ 서비스이고 “아동 포르노·미성년자 성적 묘사·과도한 유혈·수간·성폭력” 등은 금지라고 되어 있음. Online Safety Act 전체에 100% 동의하지는 않지만, 이런 종류 서비스는 확실히 별도의 위험성 평가가 필요해 보임

    • 기사만 볼 땐 문제 있어 보인다고 느꼈지만, 사이트를 직접 둘러보니 설명이 불충분하고 위험 요소가 있어서 무언가 규제가 필요해 보임. 그런데 비슷하게 위험성이 낮은 서비스들도 똑같이 영향을 받는지 궁금함

    • 내가 알기론 이 서비스는 검열이 최소화된 AI 모델을 사용자에게 제공하는 게 주요 기능임. 불법 콘텐츠(단, 법은 정부 제정뿐 아니라 Visa/마스터카드 같은 결제사 규정도 포함)가 금지일 뿐이므로 뭐든 가능함. 아마도 성인 시장 수요 때문에 성적 콘텐츠가 많겠지만, 서비스 특성이 아니라 시장 수요 때문임

    • 이들이 주장하는 불만은 위험 평가 그 자체보다, 그 평과의 범위와 과도한 비용임

  • “사이트에 접근하는 방법을 찾는 건 결국 사용자 책임이고, 사용자가 처벌받지는 않는다”는 문구가 있음. 법적 책임을 걱정하는 운영자라면 이런 말을 남기지 않았어야 하는데, 해당 게시글과 준법 노력 신뢰도를 약화시키는 부분임

    • VPN을 이용하는 사람을 막는 건 실질적으로 거의 불가능함. 정부가 모든 통신사를 통제하지 않는 한, 그리고 영국조차 그 정도로까지 하긴 어려움. 정상적 국가라면 사이트 운영자가 이에 대해 책임질 수 없음

    • 운영자는 명확히 영국 시장에 재진입해 완전히 규정 준수를 목표로 한다고 했음. 규제 범위를 오판해서 영국에서 서비스를 차단했을 뿐, 임시조치임

  • 법과 규정이 공급자 규모를 고려하지 않는 점이 정말 답답함. 항상 큰 사업자를 악당 취급하고 “아이들을 지켜야 한다”는 명분 아래 인기를 끌려 하지만, 실제로는 대기업이 유리해짐. 대기업만이 법률 자문 등 모든 비용을 감당할 수 있어서 시장 전체를 차지하게 됨. AI Act도 마찬가지로, 중소기업이나 소비자 모두 피해 볼 전망임

    • 사실상 이 법도 공급자 규모를 염두에 둔 셈인데, 문제는 기준선 자체가 대기업에 맞춰있다는 점임. 대기업들이 오랫동안 로비하면서 만들어진 구조임. 영국은 공식적으로는 부패가 적은 편이지만, 실제 결정이 이뤄질 때를 보면 오히려 부패가 흔함. 이 법엔 대중의 지지도 거의 없음. 항상 신문 등의 미디어 캠페인으로 어린이를 내세우지만, 실제 법안 내용은 본래 취지와 거리가 있음. 선거는 치르지만 정책은 바뀌지 않는 현실임

    • 규제 포획 현상임. 소사업자에 대한 영향도 의도된 결과임

  • 관련 법령 해설이 여기 있음: https://gov.uk/government/publications/…. 내가 읽기론 Amazon은 전체 도서 재고의 80% 이상에 연령 확인이 필요하고, 나머지 20%는 “어린이를 위한 연령 적합 온라인 경험”이라는 매우 광범위한 정의로 인해 책임을 지게 됨. janitorai가 지적했듯, 이 법은 그들에게 적용되고 생산하는 콘텐츠도 모두 해당됨. 영국 시장에 접근 금지는 아마도 최선의 대응임. 참고로 이 법은 방문자 간 상호작용이 없으면 1차 웹사이트에는 적용 안 되는 것 같음. 예를 들면, 댓글 없는 블로그는 괜찮음

  • 내가 법을 대충 파악하기로는, 몇 백만 명의 영국 이용자가 있어야 적용된다고 생각했음 https://onlinesafetyact.net/analysis/…. 실제로 이 사이트에 해당되는지, 내가 완전 오해한 건지 잘 모르겠음 (나는 변호사가 아님)

    • 그건 추가 요건을 부여하는 기준임. 모두(특별 면제 조항에 들지 않는 한)는 “사용자 보호 의무”가 있음. 듣기만 해도 복잡하고 비싼 행정적 요구사항이 쏟아짐. 그리고 자신이 면제에 해당하는지 판별하려면 변호사 비용까지 발생함. 법안 자체가 애매모호하고 예기치 않은 사각지대가 너무 많음. “룰링”이 아니라 법과 그 시행 규정임. 관련 PDF: https://ofcom.org.uk/siteassets/resources/…

    • Ofcom의 서비스 적용 여부 체크리스트는 이런 기준을 사용하지 않고, 영국 유료 고객이 한 명이라도 있으면 해당하는 식임 https://ofcomlive.my.salesforce-sites.com/formentry/RegulationChecker

    • “우리나라 사람들이 네 사이트에 접속했다”는 이유로, 우리나라는 그 서버(외국 호스팅), 그리고 운영자(해외 거주자)까지 관할권을 주장하고 형사처벌까지 가능하다고 여기는 개념 자체가 참 힘듦

    • 출처는 법이 실제로 어떻게 적용되는지가 아니라, 2024년 기준 제안된 사항임

    • 수백 페이지에 달하는 방대한 법률은 항상 사각지대가 많음. 최근 영국 정부가 온라인 “범죄”로 실제로 사람을 체포하는 나라가 돼버려서 이 정도의 어리석은 법까지 나오게 되었음

  • 이런 사정 때문에 인터넷 전체가 Kessler Syndrome(우주 쓰레기 도미노 현상) 식의 위기로 가는 것 같기도 함. 미국도 50개 주가 자율적으로 AI를 규제하려고 해서, 원래는 OBBB가 10년간 통제하려고 했지만 실패했음. 이제는 각 주가 각자 규제를 만들 수 있음. 전 세계 다양한 규정에 모두 맞추려면 이제 거의 불가능에 가까움

    • 운영비가 너무 올라가면 결국 전 세계적으로는 소수의 초대형 사이트만 남고, 지역별로 작은 사이트 수백 개가 리전락 되며 살아남게 됨. 사이버스페이스도 돈 벌고 실명 인증 등 현실 세계를 이용하는 이상, 결국 독립적일 수 없음 https://www.eff.org/cyberspace-independence

    • 인터넷의 발칸화(Balkanization)는 결국 필연적 결말임. 그 대안은 국가가 현재 필수 인프라의 주권을 외국에 넘긴다는 건데, 각국 정부는 그런 선택을 하지 않음. 인터넷이 단순 취미였을 때야 괜찮았지만, 이제는 삶의 근간이니 외국 정부와 빅테크에 인프라 주권을 내주는 건 더 이상 용납되지 않음

    • “인터넷 발칸화”라는 얘기가 대중 담론에 오를 때마다, 나는 오히려 이런 경향에 긍정적임. 이런 즉각적 글로벌 커뮤니케이션의 책임을 인류가 감당할 준비가 된 후에야 허용할 수 있다고 생각함

  • 나 역시 Marginalia Search 이용시 영국 방문자를 막아야 할 것 같음. 혼자 개발자으론 법적 요구 다 감당 못함 :-/

    • 참고로 status 페이지 들어가면 서비스는 정상인데 “사용불가”로 뜸. 이런 장애는 괜찮음! https://status.marginalia.nu
답변달기