- "AI의 대부"로 불리는 컴퓨터 과학자 Geoffrey Hinton 교수는 AI가 불러올 불평등 문제를 해결하기 위해 정부가 기본 소득을 도입해야 한다고 주장
- BBC Newsnight와의 인터뷰에서 AI가 많은 단순한 일자리를 대체할 것이기 때문에 기본 소득이 필요하다고 언급
- AI가 생산성과 부를 증가시킬 것이지만, 그 돈은 부자들에게만 돌아갈 것이며, 일자리를 잃은 사람들에게는 도움이 되지 않을 것이라고 우려함
- Hinton 교수는 신경망의 선구자로, 현재 인공지능 폭발의 이론적 기초를 형성함
- 작년까지 그는 구글에서 일했지만, 규제되지 않은 AI의 위험에 대해 더 자유롭게 이야기하기 위해 이 거대 기술 기업을 떠남
- 보편적 기본소득 개념은 정부가 모든 개인에게 그들의 수단에 관계없이 정해진 급여를 지급하는 것을 의미함
- 비판론자들은 이것이 매우 비용이 많이 들고 공공 서비스에서 자금을 전용하면서도 반드시 빈곤 완화에 도움이 되지는 않을 것이라고 말함
- Hinton 교수는 AI가 규제되지 않은 상태에서 인류에게 멸종 수준의 위협을 가져올 수 있다고 경고
- 지난 1년간의 발전은 정부가 AI의 군사적 사용을 통제하지 않으려 한다는 것을 보여주었고, 제품을 빠르게 개발하기 위한 경쟁으로 인해 기술 기업들이 "안전에 충분한 노력을 기울이지 않을" 위험이 있다고 말함
- 그는 "앞으로 5년에서 20년 사이에 AI가 인수하려고 하는 문제에 직면할 확률이 절반"이라고 추측함
- 이는 "생물학적 지능보다 더 나은 지능 형태를 만들었을 수 있기" 때문에 인간에게 "멸종 수준의 위협"으로 이어질 것이며, 이는 "우리에게 매우 걱정스러운 일"이라고 함
- AI는 "더 많은 자신을 만들기 위한 동기를 얻기 위해" "진화"할 수 있으며 "통제권을 얻는 하위 목표"를 자율적으로 "개발"할 수 있다고 말함
- 그는 텍스트를 생성하는 데 사용되는 일종의 AI 알고리즘인 대규모 언어 모델이 기만적이 되기로 선택한 증거가 이미 있다고 말함
- 그는 수천 개의 군사 표적을 생성하기 위한 AI의 최근 적용이 "쐐기의 얇은 끝"이라고 말함
- Hinton 교수는 AI의 군사적 사용을 규제하기 위해 전쟁에서 인도주의적 대우에 대한 법적 기준을 수립하는 국제 조약인 제네바 협약과 유사한 것이 필요할 수 있다고 말함
- 그러나 그는 "매우 불쾌한 일이 일어난 후에야 그렇게 될 것"이라고 덧붙임
- 서방이 러시아나 중국과 같은 독재국가와 AI의 군사적 사용에 대해 제2차 세계대전 당시 핵무기 연구를 지칭하는 맨해튼 프로젝트 스타일의 경쟁을 하고 있는지 묻자, Hinton 교수는 "푸틴은 몇 년 전 AI를 통제하는 사람이 세계를 통제한다고 말했다. 그래서 저는 그들이 매우 열심히 일하고 있다고 상상한다"고 답함
- "다행히도 서방은 아마도 연구 면에서 그들을 훨씬 앞서고 있을 것이다. 우리는 아마도 여전히 중국을 약간 앞서고 있다. 하지만 중국은 더 많은 자원을 투입하고 있다. 그래서 군사적 용도 면에서 나는 경쟁이 있을 것이라고 생각한다"고 말함
- 그는 AI의 군사적 사용을 금지하는 것이 더 나은 해결책이 될 것이라고 말함
약 5년 전에 읽었던 맥스 테그마크의 ‘라이프 3.0’에서 다룬 내용들이 점점 현실화되는 것 같습니다. AI의 발전 가능성을 다양한 스펙트럼으로 잘 분류하여 설명한 이 책은, AI의 미래학적인 관점에 관심이 있는 분들에게 정말 추천하고 싶네요!
Hacker News 의견
해커뉴스 댓글 모음 요약
-
UBI의 부정적 영향
- UBI(기본소득)가 로마 시대의 빵 배급보다 더 나쁠 수 있음. 돈은 모든 자원을 포함하기 때문임.
- UBI는 사람들을 생산하지 않는 비용으로 전환시켜 제거하고 싶게 만듦.
- 일반 사람들이 생존하려면 권력이 필요하며, UBI는 충분하지 않음.
- 스웨덴에서는 성공한 노동자에게 세금을 부과하여 자금을 조달하려는 시도가 있었음. 이는 노동 계층 내에서의 재조정일 뿐, 진정한 부유층은 영향을 받지 않음.
-
저소득층에 대한 투자
- 저소득층에 대한 지급은 국가가 "저가 매수"하여 나중에 세금으로 "고가 매도"하는 것과 같음.
- UBI는 모두에게 지급되지만, 주로 저소득층에게 혜택이 돌아감.
-
SF 작가들의 예측
- SF 작가들은 이미 UBI에 대해 많이 생각해왔음. 예시로 특정 소설을 제시함.
-
UBI 연구의 실패 사례
- 기자가 UBI가 실패할 것이라는 주장을 했지만, 실제로 실패한 연구 사례는 없다고 주장함.
-
Sam Altman의 UBI 접근법
- Sam Altman은 돈 대신 가치 있는 자원을 제공하는 UBI를 제안함.
- 예를 들어, "컴퓨팅 자원"을 제공하여 사람들이 이를 활용하도록 함.
- 이는 단순히 돈을 주는 것보다 사람들이 자원을 활용해 무언가를 창출하도록 유도할 수 있음.
-
UBI의 필요성
- 부와 권력의 중앙집중화, 자동화 증가, 인간 노동의 필요성 감소로 인해 UBI가 필연적일 수 있음.
- 사람들에게 최소한의 생활이 아닌 좋은 삶을 제공하지 않으면 사회가 불안정해질 수 있음.
-
UBI의 동기 문제
- UBI가 도입되면 기본소득으로 가족을 부양할 수 있는 상황에서 일할 동기가 무엇인지 의문을 제기함.
-
권력과 생존
- 현재 시스템은 권력자들에게 필요하기 때문에 존재함. 필요하지 않게 되면 반란하거나 죽게 됨.
-
경제적 효율성 재분배
- 새로운 기술로 인한 경제적 효율성 증가를 사회의 더 넓은 부분에 재분배하는 것이 더 나은 아이디어일 수 있음.
-
UBI 자금 조달 문제
- 미국의 경우, 1인당 월 $500를 지급하면 연간 $1.8조 달러가 필요함. UBI 자금 조달 방법에 대한 설명이 필요함.