미국·영국, 파리 AI 정상회의 안전 선언 서명 거부

 (arstechnica.com)
1P by GN⁺ | ★ favorite | 댓글 1개
  • 파리 AI Action Summit에서 약 60개국이 AI 안전 공동선언에 합의했지만, 미국과 영국은 서명하지 않아 AI 규제와 산업 주도권을 둘러싼 균열이 드러남
  • 선언은 AI가 개방적·포용적·투명·윤리적·안전·보안·신뢰 가능해야 한다는 원칙을 담았으며, 법적 구속력은 없었음
  • JD Vance 미국 부통령은 AI 규제가 기술 개발을 “억누르지” 않아야 한다고 강조하며, 가장 강력한 AI 시스템을 미국 내에서 미국산 칩으로 만들겠다는 입장을 냄
  • 영국 정부와 가까운 인사는 선언 문구가 “너무 제한적”이라고 봤고, 서명국 관계자는 미국이 다자주의와 국제 협력 표현에 동의하지 않았다고 전함
  • 유럽은 미국·중국 의존을 줄이려 AI 산업 기반을 키우는 중이며, 정상회의에서 데이터센터와 컴퓨팅 클러스터에 약 2,000억 유로 규모의 투자 계획이 공개됨

파리 AI 정상회의에서 드러난 서명 균열

  • 미국과 영국은 파리에서 열린 AI Action Summit 공동선언에 서명하지 않음
  • 공동선언에는 약 60개국이 합의했으며, AI 기술을 “안전하고, 보안이 확보되며, 신뢰 가능”하게 만들겠다는 목표가 담김
  • 선언은 AI가 개방적이고 포용적이며 투명하고 윤리적이어야 한다는 원칙도 포함함
    • 모두를 위한 국제 프레임워크를 고려한다는 문구가 들어감
    • 약속은 비구속적이지만, 미국과 영국은 이전 AI 정상회의의 유사 선언에는 서명한 바 있음

미국의 초점은 규제보다 AI 주도권

  • JD Vance 미국 부통령은 유럽이 AI에 대해 “과도하게 예방적인” 규제를 채택하지 말라고 경고함
  • Vance는 Trump 행정부가 가장 강력한 AI 시스템을 미국에서 구축되도록 하겠다고 밝힘
    • 해당 시스템은 미국이 설계·제조한 칩을 사용해야 한다는 입장임
    • 미국이 AI 기술에서 지배적 위치를 유지하겠다는 메시지로 읽힘
  • 국제 규제 체제는 AI 기술 창출을 촉진해야 하며, 이를 억누르면 안 된다는 주장을 폄
  • Oxford Internet Institute의 Keegan McBride는 Vance의 연설을 Biden 행정부 때와 비교해 “180도 전환”으로 평가함

선언 문구를 둘러싼 미국·영국의 이견

  • 미국의 강경한 태도는 Trump 행정부의 “America First” 성향과 맞닿아 있음
  • 영국 정부와 가까운 한 인사는 선언 문구가 “너무 제한적”이라고 봄
  • 서명국 중 한 나라의 관계자는 미국이 다자주의와 국제 협력 관련 표현에 동의하지 않았다고 전함
  • 공동선언에는 국제 거버넌스 조율을 촉진하기 위한 국제 협력 강화가 우선순위로 들어감
  • 같은 관계자는 미국이 프랑스가 정상회의에서 출범시킨 Current AI에도 우려를 가졌다고 말함
    • Current AI가 프랑스어권 국가로 자금을 흘려보내는 데 쓰일 수 있다는 우려였음

중국과의 경쟁, DeepSeek가 만든 긴장

  • 미국의 강경한 입장은 AI를 둘러싼 중국과의 경쟁이 심해지는 상황에서 나옴
  • 경쟁 영역은 칩 제조, 기초 모델, AI 챗봇, 슈퍼컴퓨터 전력 공급에 필요한 에너지까지 넓어짐
  • 중국의 잘 알려지지 않은 연구소 DeepSeek가 저가 AI 모델을 내놓으면서 Silicon Valley 기업들이 충격을 받음
    • OpenAI 같은 기업들은 자신들이 강력한 우위를 갖고 있다고 생각하고 있었음
  • Vance는 AI 거래에서 “권위주의 정권”과 협력하지 말라고 경고하며 중국을 우회적으로 겨냥함
    • CCTV와 5G를 과거 사례로 들며, 권위주의 정권이 보조금을 많이 받은 값싼 기술을 수출했다고 말함
    • 그런 협력은 국가를 정보 인프라에 침투하고 장악하려는 권위주의적 주체에 묶는 일이라고 봄

유럽의 대응: 자체 AI 산업 기반 키우기

  • 유럽은 AI 산업에서 발판을 마련해 미국이나 중국에 대한 의존을 줄이려 함
  • Emmanuel Macron 프랑스 대통령이 주최한 이틀간의 정상회의에서 유럽 지도자들과 기업들은 약 2,000억 유로 규모의 투자 계획을 공개함
  • 투자 대상은 유럽의 AI 노력을 뒷받침할 데이터센터와 컴퓨팅 클러스터임
  • AI Now Institute의 Frederike Kaltheuner는 DeepSeek의 강력한 공개 모델 출시 이후 유럽인들이 AI에서 경쟁할 잠깐의 기회를 느꼈다고 말함
  • McBride는 Macron 정상회의의 흐름이 미국 주도의 AI 개발에 대한 대안을 밀어붙이는 쪽이었지만, Vance의 발언이 그 분위기에 찬물을 끼얹었다고 평가함

함께 보면 좋은 글 β

GN⁺   [-]
Hacker News 의견들

  • 앞으로 수십 년간 기술 가속이 이끄는 삶의 일부는, 의식이 있는 채로 전두엽 절제술을 당하면서 그 과정을 지켜보는 느낌일 것 같음
    완전한 AGI보다 못한 기술조차 재앙적으로 빗나갈 수 있는 가상의 경로를 수천 가지 떠올리고 끝없이 토론할 수 있지만, 정작 그 방향으로 가는 진전은 느려지거나 멈추지 않음
    충분한 집단 지능과 돌파구를 가진 단 하나의 그룹만 있으면, 우리가 원했든 아니든 다음 AI는 문 앞까지 배달될 수 있음
    어릴 때 읽은 책들이 중요한 인생 메시지를 전하고 있었는데, 20년 뒤에야 그 의미를 깨달은 경험과 비슷함. 메시지는 바로 거기 있었지만, 당시에는 받아들일 감정적·지각적 지능이 부족했음

    • 온갖 종말론적 오탐 경고 속에서 실제로 일관된 조언을 골라내는 게 문제임
      인쇄기가 발명됐을 때도 같은 분위기의 사람들이 있었고, 결과적으로 그들은 틀렸음. 그들의 “교훈”을 따랐다면 인간 사회는 훨씬 나빠졌을 것임
      지금의 AI/AGI 비판이 타당한지는 결국 사후적으로만 알 수 있음
    • 냉혹한 현실은 이기주의 문화가 너무 널리 퍼졌다는 것임
      특히 기술 업계에는 자신이 돈을 벌 수만 있다면 다른 사람에게 무슨 일이 생기든 크게 신경 쓰지 않는 사람이 너무 많음. 다른 사람을 기꺼이 희생시키고, 자기 공동체 안에서도 복지를 나누려 하지 않음
      저신뢰 사회가 고신뢰 사회에 스며든 필연적 결과이고, 사회에 위험한 함의를 가진 기술이 더 널리 퍼질수록 사회의 몰락을 위해 일할 사람이 충분히 생기므로 이 열차가 멈출 현실적 희망은 없음
    • 소프트웨어 발전을 어떻게 막을 수 있나? 진입 장벽이 너무 낮아서, 저렴한 노트북과 인터넷 연결만 있으면 첫날부터 최전선에서 혁신을 밀어붙일 수 있음
      현재 AI 학습에는 많은 하드웨어가 필요하지만, 노트북과 인터넷만 있어도 구조와 알고리즘 쪽에서는 최첨단 연구와 혁신이 가능함
      “AI 발전은 불법”이라는 법이 통과돼도 그걸 어떻게 집행할 수 있을지 의문임
    • 기술이 재앙적으로 빗나갈 수 있는 수천 가지 가상을 떠올릴 수 있다는 것만으로 선제 입법을 해야 하는 이유는 아니라고 봄
      상상 속 공포는 실제 공포가 아님. 현 행정부 접근에는 동의하지 않고, 경계해야 하며, 그 기술로 막대한 이익을 얻을 사람들이 논의장에 있는 것도 좋아 보이지 않음
      하지만 그 외에는 기다리면서 경계하는 것 이상을 해야 할 실제 이유를 아직 보지 못했음
    • 반대편 선택지도 어떤 의미에서는 똑같이 섬뜩함
      AI, 특히 다른 나라의 AI를 금지한 나라에 갇혀 신흥 세계에서 경쟁력을 잃는 상황은 원치 않을 것임
      미래는 어려울 텐데 왜 스스로 한 손을 묶어야 하나. 신중함과 두려움은 다름

  • AI는 핵분열과 다름. 누군가 AI를 학습시키는지 원격으로 탐지할 수 없고, 우라늄 농축 때처럼 AI 관련 정보를 격리하기에는 이미 너무 늦었음
    AI 학습에 필요한 장비는 싸고 흔함. 이런 “안전 선언”은 이빨 빠진 선언이고 집행도 불가능함
    AI를 멈출 수는 없고 적응해야 함. 영상과 사진은 곧 증거 가치가 없어질 것이고, 온라인 관계보다 실제 인간관계를 더 중시해야 함. 상대가 실제 사람이라는 걸 알 수 있기 때문임
    불행한 일이지만 AI가 “파괴”하는 것 중 200년 전부터 존재했던 것은 없고, 사람들은 늘 그랬듯 적응할 것임. 만화 속 악당 Toyo Harada의 말처럼 “너희 중 누구도 나를 막을 수 없다. 개인으로도, 집단으로도”

    • 영상과 사진의 증거 가치가 사라지는 문제는 결국 카메라 인증으로 이어질 수 있다고 봄
      일본이 디지털카메라 셔터음 의무화를 시행한 것과 비슷한 이유와 방식으로 법적으로 강제될 가능성이 있음
      200년 전에는 지구 인구가 약 10억 명이었지만 지금은 약 80억 명임. 무정부 원시주의자나 탈성장론자들도 지난 200년의 진보를 비슷하게 손짓으로 넘기지만, 그 진보는 많은 사람을 살리는 시스템을 떠받치는 데 중요함
    • 누군가 화학무기를 개발하는지는 알기 어렵지만, 사용했는지는 알 수 있음. 이 점은 AI와 매우 비슷함
      그런데도 화학무기 비사용에 관한 국제 협정은 놀라울 정도로 잘 유지되어 왔음
    • 법원은 여전히 목격자 증언을 받아들임. 영상과 사진도 괜찮을 것이고, 중요한 것은 맥락임
      혼란이 생길 곳은 공적 영역임. 대략 1975년 이전부터 지금 사이에 태어난 세대가 자신이 믿고 싶은 이미지를 보면 비판적으로 생각하지 못하면서 한 세대 정도 혼란이 생길 것임
    • 현재 진행 중인 일부 학습 실행은 수십억 달러어치 전력과 GPU를 사용함. 꽤 탐지 가능하고, 자기 영토에서 그런 일을 막고 싶은 정부라면 막을 수도 있음
      ChatGPT 같은 AI 기반 서비스를 금지하면 그런 학습에 돈을 투자할 경제적 유인도 줄일 수 있음
    • 영상과 사진의 증거 가치 문제에는 기술적 해법이 있음. Canon은 2000년대 초부터 이런 류의 기능을 갖고 있었음: https://www.bhphotovideo.com/c/product/319787-REG/Canon_9314...
      더 최근의 이니셔티브로는 https://c2pa.org/가 있음

  • 이 모든 AI 안전 논의는 OpenAI 같은 기업들이 DeepSeek 같은 신생 경쟁자를 막기 위한 해자 쌓기에 불과함
    LLM은 AGI로 이어지지 않음. 근처에도 못 감. Altman이 이런 위험을 말하는 건 Musk가 무인 택시를 말하는 것과 비슷함

    • 절반은 해자 쌓기, 절반은 마케팅임. “안전”이 필요하다는 말은 엄청난 힘이 있다는 인상을 줌
      물론 인상적인 기술인 건 맞음. LLM은 언젠가 하루 종일 컴퓨터와 상호작용하는 직업에서 사람들의 생산성을 10배 높일 수도 있어 보임
    • Waymo의 무인 택시는 현재 San Francisco, Los Angeles, Phoenix에서 운행 중임
    • 현대적 AI 안전 논의는 Eliezer Yudkowsky, Nick Bostrom, LessWrong/합리주의 운동 같은 사람들에게서 시작됐음
      그들이 OpenAI의 해자를 만들려고 이런 얘기를 했던 것은 전혀 아님. 애초에 당시에는 OpenAI가 존재하지 않았고, AI는 지금 수준에 전혀 가깝지 않았으며, 거의 모두가 그들의 논변을 터무니없다고 봤음
      동의하지 않을 수는 있지만, 기존 AI 기업을 떠받치기 위한 주장일 뿐이라고 단순히 치부하는 건 틀렸고 정직하지 않음
    • AGI는 Musk가 성간 여행을 말하는 것과 비슷하다고 봄
    • AGI는 의미 없는 용어임. LLM 구조는 과거 퍼셉트론 신경망에 쓰였던 모든 영역에서 가능성을 보여줬음
      LLM이 감각으로 받아들일 수 있는 대상에 한해서는, 모든 설명상 평균 인간보다 훨씬 더 똑똑함

  • 세계의 지배적 강대국이라면 다른 나라가 자기 전략을 정하게 두지 않음. 그만큼 단순함
    AI 억제 시도는 경쟁에서 지는 쪽에서 나올 것임. Edward Teller가 회상한 인터뷰처럼, 소련은 핵실험 모라토리엄을 이용해 수소폭탄에서 미국을 따라잡았고, Teller는 이상주의 과학자들에게 그런 일이 벌어질 거라고 말했던 사람이었음

    • Cray에 관한 책 Supermen에서, 실험 모라토리엄은 미국에 전략적 이점이었다고 읽었음. 미국 연구소들은 고성능 컴퓨팅 시스템으로 핵무기를 시뮬레이션할 수 있었기 때문임
    • 미국의 지배력이 얼마나 오래 갈지도 의문임
      중국은 이미 거의 모든 면에서 미국을 따라잡았고, 나머지도 곧 앞지를 단계라는 건 잘 알려져 있음. DeepSeek만 봐도 OpenAI만큼 효율적인데 비용은 훨씬 낮음. Baidu, Alibaba AI 등도 있음
      중국 경제는 5년 안에 미국을 추월하는 궤도에 있고, 그런데도 그 협정에 서명했음. 사실 대부분의 나라가 서명했고, 인도도 마찬가지임
      패자가 새 규칙을 만드는 상황이 아니라, 큰 나라들이 이 상황을 어떻게 다룰지 논의하는 것이고, 자신들이 너무 잘났다고 생각하는 나라들이 뒤처져 보임
    • 이게 맞는 답임
      다만 그런 시도들도 상징적이고, 당사자들도 그걸 알고 있음. 순진한 정보 소비자, 즉 유용한 바보들에게 뭔가 하고 있는 척 보이기 위한 시도일 뿐임

  • 80년대는 놓쳤지만, 90년대와 00년대를 지나온 “해커”로서 AI를 둘러싼 대화의 흐름은 깊이 슬프고 불편함
    과거의 해커들에게 “hacker news”라는 사이트에서 사람들이 자기 컴퓨터에서 코드 실행을 정부가 범죄화해야 한다고 논쟁할 거라고 말한다고 상상해 보라
    이건 내가 컴퓨터에 빠지게 만든 모든 것과 윤리적으로도 철학적으로도 너무나 정면으로 충돌함. 사람들이 정말 이렇게 믿는 건지, 아니면 특정 기업과 정치인에게 편리한 정교한 서사인지 궁금함

    • 내가 이해한 바로는 정부 차원의 안전 논의에서 직접 AI를 만들고 실행하는 행위를 제한하려는 내용은 거의 0에 가까움
      EU AI 규제나 내가 본 논의에서도 AI 해킹 자체를 제한하는 내용은 없음
      규제는 기업·정부 적용과 실제 사용 사례를 다룸. 책임 소재 없는 AI가 최종 채용 결정을 내리지 못하게 하고, 공공장소의 광범위한 얼굴 인식을 금지하고, 보건·교육·사법 같은 고위험 영역의 AI 사용에 투명성을 요구하고, 무기를 든 AI를 금지하는 식임
    • 누가 그렇게 말하고 있나? 염두에 둔 구체적인 댓글이 있나? 상단 근처에서는 그런 내용에 가까운 것도 찾기 어려움
    • 3년 전에 이미 이렇게 봤음: https://news.ycombinator.com/item?id=30142353
    • 현재 논쟁은 “자기 기계에서 코드 실행”보다는 “노동력의 일부를 대체할 대상이 최소한 어느 정도 신뢰 가능해야 하며, 그 대체로 이익을 얻는 사람들도 여전히 책임을 져야 한다”에 더 가까움
    • 어떤 민주 정부든 자기 컴퓨터에서 코드 실행을 범죄화하려 한다는 주장에 출처가 있나? 미국과 영국이 서명국에서 빠진 AI Action Summit 선언에서는 그런 내용을 보지 못했음: https://www.politico.eu/wp-content/uploads/2025/02/11/02-11-...
      윤리를 말했으니 묻자면, AI에는 어떤 윤리를 적용해야 하나? 아무것도 없나, 일부만 있나, 인간과 같은 윤리인가? AI가 의사결정에서 인간을 대체한다면 인간처럼 책임을 져야 함

  • 무제한 AGI를 보유한 나라들은 기술적으로 비약적으로 앞서갈 가능성이 큼
    반대로 제약을 거는 나라들은 그 분야에서는 “석기시대”에 머물 것임

    • AGI가 즉각적인 종말 시나리오로 이어지지 않는다고 해도, 다수에게 이익을 주기보다는 자원의 저주[1] 같은 형태로 이어질 가능성이 더 큼
      일반적으로 엘리트의 소득이 국민의 노동에 의존하는 나라가 그렇지 않은 나라보다 다수에게 더 나은 결과를 냄. 풍부한 석유 매장량을 가진 개발도상국을 보면 됨
      AGI는 무엇으로 이어질까? 제조업 노동이 대체된 것처럼 대부분의 지식 노동도 대체되고, 기존 엘리트가 AGI를 통제하게 될 것임. 완벽히 자동화되고 편재하는 감시로 반란을 영원히 억누르는 데 쓰일 수 있음
      정말 지향할 만한 것이 아님
      [1]: https://en.wikipedia.org/wiki/Resource_curse
    • 존재하지도 않고 LLM이 절대 되지도 않을 기술에 대해 추측할 이유를 모르겠음
      언젠가 존재할 수는 있음. 하지만 현재의 “AI”는 AGI가 될 수 없고, 앞으로 나아갈 경로도 없음
    • 지금 있는 AI 시스템에 집중하고, AGI가 조만간 올 가능성은 걱정하지 않는 게 좋다고 봄. 모든 지표가 그렇지 않다고 말함
    • 그럴 수도 있지만, 그 와중에 정부와 기업 손에 인종 프로파일링 AI 기술을 합법적으로 쥐여 주는 건 자유와 프라이버시에 큰 해를 끼침
      그 서사를 그대로 믿으면 안 됨. EU 규제는 AGI를 금지하려는 게 아니라, 기술이 존재할 때 최소한의 품위를 지키게 하려는 것임. 미국인들은 이런 것에 거의 치명적 알레르기가 있어 보임
    • 영화 Creator에서 New Asia는 AI와 로봇공학을 받아들이고 서구는 그렇지 않았던 구도처럼 전개되는 게 흥미로움
      몇 년 뒤인 지금 실제로 세계의 일부는 AI를 받아들이고 다른 일부는 그렇지 않은 상황을 진지하게 고민하고 있음
      이런 부분적 채택은 예측 가능했지만, 우리가 이렇게 빨리 이 논쟁을 하게 될 줄은 몰랐음

  • 이 “선언”이 구체적인 행동 약속은 아닌 것으로 이해해도 되나? 그렇다면 누가 서명하고 안 하는지가 왜 중요한지 잘 모르겠음

    • 유럽 국가들을 운영하는 어린아이들은 이런 극장을 좋아함. 생각할 필요 없이 뭔가 생산적인 일을 하는 척할 수 있기 때문임
    • 맞음. 새해 결심 정도의 효력밖에 없음
      구체성도 그보다 별로 나아 보이지 않음. 길이는 한 페이지 반 정도이고, 국가 목록이 선언문 자체만큼 길며, 기본적으로 “우리는 나쁜 짓을 하지 않겠다고 이야기했다”는 내용임
    • 구속력이 없다면 왜 서명하지 않는지도 의문임
    • 외교적 연극이고, 관료를 더 고용하거나 유지하기 위한 명분임
    • 공유하는 가치, 이 경우에는 공유하지 않는 가치를 보여주는 신호임

  • 그들이 맞음. 그 선언은 쓸모없고 그냥 헛수고임

  • 유럽은 선언문과 우려 서한에 서명하는 걸 정말 좋아함. 서명했어도 아무 차이 없었을 것임

    • AI 안전 연극에서 앞서는 건 AI에서 앞서는 것보다 실제로 더 나쁨. AI 안전의 주도권은 결국 그냥 AI 자체의 주도권이기 때문임
    • 유럽 지도자들은 다 자란 아이들 같음. 꽤 한심함

  • 이런 종류의 “악해지지 말자” 선언은 보통 의미 없는 제스처임
    어차피 참여하지도 않을 비주류 행위자들이 도덕적 우월감을 과시하지만, 실제 흐름에는 아무 영향도 못 줌
    Ottawa Treaty도 비슷함. 비서명국에는 미국, 중국, 러시아, 파키스탄, 인도, 이집트, 이스라엘, 이란, 쿠바, 남북한 등이 있음. 즉 애초에 지뢰 사용이 예상되는 나라들이 전부 빠져 있음
    막상 상황이 닥치면 우크라이나 같은 서명국도 지뢰를 사용할 것임. 종이 한 장을 지키며 도덕적으로 우월한 기분을 느끼는 것보다 국가 방위가 더 중요하기 때문임

답변달기