▲

GN⁺: 미국과 영국, 정상회의에서 AI Safety(안전) 선언 거부

 (arstechnica.com)
1P by neo 16일전 | ★ favorite | 댓글 1개

  • 다자주의에 대한 거부

    • 미국과 영국은 AI 안전 선언에 서명하지 않음
    • 미국의 입장은 바이든 행정부에서 "180도 전환"하는 것
    • 미국 부통령 JD Vance는 유럽이 AI에 대한 "과도하게 신중한" 규제를 채택하지 말 것을 경고함
    • AI 기술이 "안전하고, 보안이 있으며, 신뢰할 수 있는" 상태를 보장하기 위한 선언에 서명하지 않음
    • 약 60개국이 AI Action 정상회의에서 선언에 동의함

  • 미국의 입장

    • Vance는 미국이 AI 기술의 지배적인 힘으로 남을 것이라고 강조함
    • "가장 강력한 AI 시스템은 미국에서, 미국이 설계하고 제조한 칩으로 구축될 것"이라고 언급함
    • 국제 규제 체제가 AI 기술의 창출을 촉진해야 한다고 주장함

  • 선언의 내용

    • AI가 개방적이고, 포용적이며, 투명하고, 윤리적이며, 안전하고, 보안이 있으며, 신뢰할 수 있도록 보장하는 것을 목표로 함
    • 미국과 영국은 이전 AI 정상회의에서 유사한 선언에 서명한 바 있음
    • 새로운 미국 행정부의 "America First" 정책과 영국 정부의 "제한적"이라는 의견으로 인해 서명하지 않음

  • AI 경쟁과 중국

    • AI 개발, 칩 제조, AI 챗봇, 슈퍼컴퓨터에 필요한 에너지 등에서 중국과의 경쟁이 심화됨
    • DeepSeek의 저가 AI 모델이 실리콘 밸리의 OpenAI를 놀라게 함

  • 유럽의 AI 산업

    • 유럽은 AI 산업에서 미국이나 중국에 대한 의존을 피하기 위해 노력 중
    • 프랑스 대통령 Emmanuel Macron이 주최한 정상회의에서 약 2천억 유로의 데이터 센터 및 컴퓨팅 클러스터 투자가 발표됨

  • 미국의 경고

    • Vance는 "권위주의 정권"과 AI 거래를 체결하지 말 것을 경고함
    • CCTV와 5G를 예로 들어 "저렴한 기술"이 권위주의 정권에 의해 보조되고 수출된다고 언급함

  • 공동 선언의 우선순위

    • 중국, 인도, 독일 등 국가들이 서명한 공동 선언은 "국제 협력을 강화하여 국제 거버넌스에서의 조정을 촉진"하는 것을 목표로 함
    • 미국은 다자주의와 국제 협력에 대한 용어에 동의하지 않음
    • 프랑스가 설립한 Current AI 재단이 프랑스어권 국가에 자금을 지원할 수 있다는 우려가 있음

  • Vance의 연설

    • Vance의 연설은 바이든 행정부와의 "180도 전환"으로 평가됨
    • Macron의 정상회의는 미국 주도의 AI 기술 개발에 대한 대안을 추진하는 것이 목표였음
    • DeepSeek의 강력한 오픈 모델 출시 이후 유럽은 AI 경쟁에서 잠시 기회를 얻었다고 느꼈음
▲
neo 16일전  [-]
Hacker News 의견

  • 기술 발전이 가속화되면서 앞으로 몇 십 년 동안의 삶은 마치 의식이 있는 상태에서 로보토미를 당하는 것처럼 느껴질 것이라는 의견이 있음. 기술이 잘못된 방향으로 갈 수 있는 수천 가지 가설적인 방법을 생각할 수 있지만, 그럼에도 불구하고 진행이 멈추지 않음. AI는 우리가 원하든 원하지 않든 결국 도착할 것임

  • AI는 핵분열과 같지 않음. 누군가 AI를 훈련하고 있는 것을 원격으로 감지할 수 없음. AI와 관련된 모든 정보를 격리하는 것은 이미 너무 늦었음. AI 훈련에 필요한 장비는 저렴하고 어디에나 있음

    • "안전 선언"은 실질적인 힘이 없고 강제할 수 없음
    • AI를 멈출 수 없으므로 적응해야 함
    • 비디오와 사진은 곧 증거 가치가 없어질 것임
    • 현실 세계의 관계가 온라인 관계보다 중요함
    • AI가 "혼란을 일으키는" 것은 200년 전에는 존재하지 않았고 사람들은 항상 적응해왔음

  • "AI 안전"은 OpenAI 같은 기업들이 신생 기업을 막기 위한 방어책일 뿐임. LLMs는 AGI에 도달하지 못할 것임. Altman이 이 위험에 대해 이야기하는 것은 Musk가 무인 택시에 대해 이야기하는 것과 같음

  • 세계의 지배적인 힘이 될 때, 다른 사람들이 전략을 결정하도록 두지 않음. AI를 억제하려는 시도는 경주에서 뒤처진 사람들로부터 나올 것임. Edward Teller가 소련이 미국과 수소폭탄에서 동등해지기 위해 핵 실험 중단을 사용한 것을 회상하는 인터뷰가 있음

  • 80년대를 놓쳤지만 90년대와 00년대를 거친 "해커"로서 AI에 대한 대화가 어떻게 진행되고 있는지에 대해 깊은 슬픔과 불안함을 느낌. 과거의 해커들에게 정부가 자신의 컴퓨터에서 코드를 실행하는 것을 범죄화하는 것이 중요하다고 주장하는 사람들이 있다고 말하는 것은 상상하기 어려움

  • "AI"라는 용어가 정치계와 다른 많은 사람들이 의미하는 바를 알기 어려움. 몇 년 전의 "블록체인"과 유사한 상황임. "AI"는 실질적으로 알고리즘적 의사결정의 동의어이며, 사람들의 삶에 직접적인 영향을 미칠 수 있음. 책임, 투명성, 구제책 등이 없는 상태에서 "AI"의 무분별한 확장은 역사적으로 확립된 권리에 대한 상당한 후퇴를 나타냄

    • 미국은 CFPB를 해체하고 더 많은 규제 완화를 추진하고 있음
    • 영국의 입장은 흥미로움. 시민/소비자 보호 측면에서 미국과 EU 사이에 위치하지만, 브렉시트에도 불구하고 후자에 더 가까움

  • 제약 없는 AGI를 가진 국가는 기술적으로 큰 도약을 이룰 가능성이 높음. 이를 제한하는 국가는 "석기 시대"에 머물 가능성이 있음

  • 유럽은 선언과 우려의 편지를 작성하는 것을 좋아함. 서명해도 차이가 없을 것임

  • 이 "선언"이 구체적인 행동을 약속하는 것이 아니라는 것을 이해하는 것이 맞는지 궁금함. 누가 서명하든 상관없는 이유를 잘 모르겠음

  • 선언은 쓸모없고 헛된 노력일 뿐임

답변달기