기술 발전이 가속화되면서 앞으로 몇 십 년 동안의 삶은 마치 의식이 있는 상태에서 로보토미를 당하는 것처럼 느껴질 것이라는 의견이 있음. 기술이 잘못된 방향으로 갈 수 있는 수천 가지 가설적인 방법을 생각할 수 있지만, 그럼에도 불구하고 진행이 멈추지 않음. AI는 우리가 원하든 원하지 않든 결국 도착할 것임
AI는 핵분열과 같지 않음. 누군가 AI를 훈련하고 있는 것을 원격으로 감지할 수 없음. AI와 관련된 모든 정보를 격리하는 것은 이미 너무 늦었음. AI 훈련에 필요한 장비는 저렴하고 어디에나 있음
"안전 선언"은 실질적인 힘이 없고 강제할 수 없음
AI를 멈출 수 없으므로 적응해야 함
비디오와 사진은 곧 증거 가치가 없어질 것임
현실 세계의 관계가 온라인 관계보다 중요함
AI가 "혼란을 일으키는" 것은 200년 전에는 존재하지 않았고 사람들은 항상 적응해왔음
"AI 안전"은 OpenAI 같은 기업들이 신생 기업을 막기 위한 방어책일 뿐임. LLMs는 AGI에 도달하지 못할 것임. Altman이 이 위험에 대해 이야기하는 것은 Musk가 무인 택시에 대해 이야기하는 것과 같음
세계의 지배적인 힘이 될 때, 다른 사람들이 전략을 결정하도록 두지 않음. AI를 억제하려는 시도는 경주에서 뒤처진 사람들로부터 나올 것임. Edward Teller가 소련이 미국과 수소폭탄에서 동등해지기 위해 핵 실험 중단을 사용한 것을 회상하는 인터뷰가 있음
80년대를 놓쳤지만 90년대와 00년대를 거친 "해커"로서 AI에 대한 대화가 어떻게 진행되고 있는지에 대해 깊은 슬픔과 불안함을 느낌. 과거의 해커들에게 정부가 자신의 컴퓨터에서 코드를 실행하는 것을 범죄화하는 것이 중요하다고 주장하는 사람들이 있다고 말하는 것은 상상하기 어려움
"AI"라는 용어가 정치계와 다른 많은 사람들이 의미하는 바를 알기 어려움. 몇 년 전의 "블록체인"과 유사한 상황임. "AI"는 실질적으로 알고리즘적 의사결정의 동의어이며, 사람들의 삶에 직접적인 영향을 미칠 수 있음. 책임, 투명성, 구제책 등이 없는 상태에서 "AI"의 무분별한 확장은 역사적으로 확립된 권리에 대한 상당한 후퇴를 나타냄
미국은 CFPB를 해체하고 더 많은 규제 완화를 추진하고 있음
영국의 입장은 흥미로움. 시민/소비자 보호 측면에서 미국과 EU 사이에 위치하지만, 브렉시트에도 불구하고 후자에 더 가까움
제약 없는 AGI를 가진 국가는 기술적으로 큰 도약을 이룰 가능성이 높음. 이를 제한하는 국가는 "석기 시대"에 머물 가능성이 있음
유럽은 선언과 우려의 편지를 작성하는 것을 좋아함. 서명해도 차이가 없을 것임
이 "선언"이 구체적인 행동을 약속하는 것이 아니라는 것을 이해하는 것이 맞는지 궁금함. 누가 서명하든 상관없는 이유를 잘 모르겠음
Hacker News 의견
기술 발전이 가속화되면서 앞으로 몇 십 년 동안의 삶은 마치 의식이 있는 상태에서 로보토미를 당하는 것처럼 느껴질 것이라는 의견이 있음. 기술이 잘못된 방향으로 갈 수 있는 수천 가지 가설적인 방법을 생각할 수 있지만, 그럼에도 불구하고 진행이 멈추지 않음. AI는 우리가 원하든 원하지 않든 결국 도착할 것임
AI는 핵분열과 같지 않음. 누군가 AI를 훈련하고 있는 것을 원격으로 감지할 수 없음. AI와 관련된 모든 정보를 격리하는 것은 이미 너무 늦었음. AI 훈련에 필요한 장비는 저렴하고 어디에나 있음
"AI 안전"은 OpenAI 같은 기업들이 신생 기업을 막기 위한 방어책일 뿐임. LLMs는 AGI에 도달하지 못할 것임. Altman이 이 위험에 대해 이야기하는 것은 Musk가 무인 택시에 대해 이야기하는 것과 같음
세계의 지배적인 힘이 될 때, 다른 사람들이 전략을 결정하도록 두지 않음. AI를 억제하려는 시도는 경주에서 뒤처진 사람들로부터 나올 것임. Edward Teller가 소련이 미국과 수소폭탄에서 동등해지기 위해 핵 실험 중단을 사용한 것을 회상하는 인터뷰가 있음
80년대를 놓쳤지만 90년대와 00년대를 거친 "해커"로서 AI에 대한 대화가 어떻게 진행되고 있는지에 대해 깊은 슬픔과 불안함을 느낌. 과거의 해커들에게 정부가 자신의 컴퓨터에서 코드를 실행하는 것을 범죄화하는 것이 중요하다고 주장하는 사람들이 있다고 말하는 것은 상상하기 어려움
"AI"라는 용어가 정치계와 다른 많은 사람들이 의미하는 바를 알기 어려움. 몇 년 전의 "블록체인"과 유사한 상황임. "AI"는 실질적으로 알고리즘적 의사결정의 동의어이며, 사람들의 삶에 직접적인 영향을 미칠 수 있음. 책임, 투명성, 구제책 등이 없는 상태에서 "AI"의 무분별한 확장은 역사적으로 확립된 권리에 대한 상당한 후퇴를 나타냄
제약 없는 AGI를 가진 국가는 기술적으로 큰 도약을 이룰 가능성이 높음. 이를 제한하는 국가는 "석기 시대"에 머물 가능성이 있음
유럽은 선언과 우려의 편지를 작성하는 것을 좋아함. 서명해도 차이가 없을 것임
이 "선언"이 구체적인 행동을 약속하는 것이 아니라는 것을 이해하는 것이 맞는지 궁금함. 누가 서명하든 상관없는 이유를 잘 모르겠음
선언은 쓸모없고 헛된 노력일 뿐임