▲

“하지만 그렇게 되었다.” - Eric Schmidt의 졸업식 연설에 대한 Casey Muratori의 코멘트

 (youtu.be)
1P by GN⁺ | ★ favorite | 댓글 1개
  • Eric Schmidt 연설의 핵심은 AI 야유보다 인터넷의 부작용을 인정하면서도 책임의 위치를 흐리는 표현에 있음
  • Google 경영진 재임기는 광고, 데이터 수집, 행동 조작, A/B 테스트 같은 인터넷 비즈니스 모델이 굳어진 시기와 겹침
  • “같은 도구”가 좋은 일과 나쁜 일에 모두 쓰였다는 틀은 어두운 패턴을 설계된 구조가 아닌 부산물처럼 보이게 만듦
  • 학생들에게 AI 결정의 방에 들어가라고 권하면서도, 이전 기술에서 무엇이 잘못됐는지에 대한 실패 분석은 빠져 있음
  • AI가 인터넷과 같은 길을 가지 않으려면 과거의 나쁜 부분이 저절로 생긴 게 아니라 사람들이 구축한 결과였음을 인정해야 함

졸업식 연설에서 흐려진 책임

  • Eric Schmidt의 University of Arizona 졸업식 연설은 AI 발언이 야유받은 장면으로 알려졌지만, 더 중요한 대목은 인터넷의 부작용을 인정한 첫 절반에 있음
  • Schmidt는 지구상의 모든 사람을 연결하고 세계의 정보를 제공하는 일이 지식의 민주화, 빈곤 완화, 더 지혜롭고 친절한 사회로 이어질 것이라고 믿었다고 말함
  • 동시에 같은 도구가 사람들을 고립시키고, 모두에게 목소리를 준 플랫폼이 공론장을 훼손했으며, 분노를 보상하고 최악의 본능을 증폭해 서로 말하고 대하는 방식을 거칠게 만들었다고 인정함
  • 민주주의를 양극화하고 젊은 세대를 불안하게 만드는 기술을 만들려 한 사람은 없었으며, “그것은 우리의 계획이 아니었지만, 그렇게 되었다”는 식으로 표현함
  • 좋은 결과를 기대한 부분은 능동적으로 말하면서, 나쁜 결과는 “일어났다”는 수동 표현으로 처리해 책임이 어디에 있는지 흐려짐

Google 경영진으로서의 위치

  • Schmidt는 2001년부터 2017년까지 Google CEO와 다른 경영 역할을 맡았고, 이 시기는 인터넷 비즈니스의 어두운 패턴이 개발되고 업계에 자리 잡은 시기와 겹침
  • Google은 광고, 데이터 수집, 사용자 행동 조작, 모든 것을 A/B 테스트하는 방식 같은 인터넷 비즈니스 모델을 주도한 회사로 다뤄짐
  • Steve Wozniak이 초기 Apple 컴퓨터를 만들던 시절을 두고 닫힌 생태계나 기기 통제를 의도하지 않았다고 말한다면 진정성 있게 들릴 수 있지만, Schmidt에게 같은 거리감을 적용하기는 어려움
  • Schmidt가 스스로를 검색엔진이라는 “도구”를 만든 사람으로만 보고, 광고 회사·데이터 수집 회사·행동 수정과 어두운 패턴의 층과 분리해 생각하는 태도가 문제로 제기됨
  • “같은 도구”가 긍정적 X에도 쓰이고 부정적 Y에도 쓰였다는 틀은, 나쁜 결과를 설계·구축된 구조가 아니라 고귀한 목적의 부산물처럼 보이게 만듦

AI 발언과 학생들의 야유

  • 연설 후반부에서 Schmidt는 학생들에게 AI 관련 결정이 내려지는 방에 들어가 목소리를 내고, 인간적인 가치와 판단을 가져가라고 말함
  • 기술은 그 자체로는 단지 도구이며, 무엇을 최적화할지는 사람이 결정해야 하고, 학생들의 생애에는 그 “누군가”가 학생들이 될 것이라고 말함
  • “자유”, “열린 토론”, “의견이 다른 사람들과 함께 사는 느리고 지저분하지만 아름다운 프로젝트”, “평등”, “다양한 관점”을 선택하라는 메시지가 이어짐
  • 학생들은 이전 세대처럼 기술의 다른 모습을 경험한 적이 없고, 소유하지 못하며 데이터가 타인에게 보관되고 행동이 추적되며 데이터가 팔리고 광고 대상으로 지정되는 어두운 패턴의 기술만 알고 있음
  • 그런 학생들에게 과거의 핵심 의사결정자가 다음 기술 물결에 열정적으로 참여하라고 말하는 장면은, 단순히 AI를 싫어해서 야유한 사건보다 더 복잡한 의미를 가짐

빠진 것은 사과와 실패 분석

  • Schmidt는 과거의 나쁜 결과가 자신의 재임 기간과 의사결정 공간에서 벌어졌다고 인정하면서도, 왜 실패했는지에 대한 성찰을 내놓지 않음
  • 유용한 도구 위에 나쁜 기술적·사업적 층이 만들어지는 것을 왜 허용했는지, 왜 막지 못했는지, 어느 부분에서 책임을 져야 하는지에 대한 설명이 빠져 있음
  • 학생들에게 실제로 가치 있는 조언은 새 기술의 방에 들어가라는 말이 아니라, 이전 기술에서 무엇이 잘못됐고 어떤 결정이 그런 결과를 만들었는지에 대한 구체적인 분석이었음
  • AI에 대한 두려움은 추상적인 기술 자체가 아니라, Silicon Valley 의사결정자들이 이전의 새 기술을 맡았을 때 어두운 패턴 버전을 구축했다는 기억에서 나옴
  • 과거에 대한 사과, 책임 인정, 반복을 피하는 방법 없이 “그렇게 되었다”는 수동 표현만 남으면, AI도 인터넷과 같은 방향으로 갈 것이라는 불신이 커짐

다음 반복을 막기 위한 조건

  • 인터넷의 나쁜 부분은 도구가 대중에게 풀린 뒤 저절로 생긴 것이 아니라, 사람들이 실제로 나쁜 부분을 구축한 결과로 정리됨
  • AI가 인터넷과 같은 길을 가지 않게 하려면, 왜 그런 일이 벌어졌는지와 어떤 의사결정이 그런 결과로 이어졌는지 인정해야 함
  • 다음 세대의 Schmidt들뿐 아니라 현재도 Silicon Valley와 Washington DC에서 영향력을 가진 Schmidt 같은 인물들에게, 과거 결정이 현재의 기술 환경을 만들었다는 점을 납득시켜야 함
  • 책임 있는 사람들의 인정과 성찰 없이는 다음 기술에서도 같은 사업 모델과 어두운 패턴이 반복될 위험이 있음
  • 다음번에는 더 잘해야 한다는 결론은 기술 낙관론이 아니라, 과거의 실패를 책임 있게 다루는 방식에서 출발함

함께 보면 좋은 글 β

▲
GN⁺   [-]
Lobste.rs 의견들

  • 글로 읽고 싶은 사람들을 위한 전사본이 있음

  • 볼 만했음. Casey는 원래도 똑똑한 사람이지만, 이번 주제는 그가 평소 다루던 기술 이야기보다 훨씬 무거운 주제였음

    • 동의함. 뭘 기대해야 할지 몰랐는데, 꽤 강한 논점들을 제시함
      Schmidt가 학생들에게 “기술에 대한 결정이 내려지는 방 안에 인간성을 들여오라”는 식으로 말하는데, 듣기에는 그럴듯함. 하지만 지금 돌아가는 모습을 보면 AI처럼 모두에게 영향을 주는 기술 결정을 다른 사람들이 내리고 있고, 정작 나머지 사람들은 그 방 안에 전혀 없는 것처럼 보임

  • 글에서 짚은 것처럼, 갑자기 말투가 완전히 수동태로 바뀌는 대목이 핵심임. “우리가 이걸 만들었고, 나쁜 결과가 나왔으며, 그건 우리 잘못이었다”거나 “우리가 끔찍한 실수를 했다”거나 “우리가 이렇게 실패했다”라고 말하지 않음
    Joseph Weizenbaum도 1976년 『Computer Power And Human Reason』에서 이미 같은 문제를 지적했음. 고위 관리자들조차 자신을 자기가 책임지지도 이해하지도 않는 기술의 무고한 피해자로 묘사하고, “비극에는 행위는 있었지만 행위자는 없었다”는 식으로 책임이 사라짐. 기술적·정치적·사회적 필연성이라는 신화는 양심을 마비시키고, 실제로 존재하는 행위자들의 어깨에서 책임을 덜어내는 강력한 진정제처럼 작동함
    “시스템이 책임진다, 사람이 아니라”는 식의 표현이 반복되고, 우리가 그런 미래를 원하는지 묻는 질문조차 사라짐. 그저 다가오는 것이고, 막을 수 없으며, 되돌릴 수도 없다는 태도만 남음

  • 섬뜩하지만 내 우려를 잘 잡아냈음. 나는 이 시대 인터넷의 자식 중 하나라서, 이 영상이 그 감각에 이름을 붙여준 느낌임

  • Casey가 스스로를 너무 낮게 평가했음. 아주 잘 만든 영상이고, 내가 그 연설의 주요 장면들을 보며 느꼈던 반응과도 잘 맞음
    그리고 I Think You Should Leave를 인용한 것도 웃겼음. 여기에는 “우린 모두 이 일을 저지른 사람이 누군지 찾고 있어요” 같은 분위기가 너무 많음

  • “우리는 더 나은 세상을 만들고 싶었을 뿐인데 어쩌다 보니 나쁜 일들이 생겼다”는 식의 태도는 정말 많은 걸 드러냄. Eric Schmidt는 말 그대로 위선적이고, 행동으로 해를 끼친 많은 사람들처럼 자기 행동을 합리화하고 있음
    또 중요한 축은 세대 문제임. Schmidt 세대는 정치적·경제적 권력을 과도하게 쥐고 있음. 오늘날 젊은 사람들은 멍청하지 않고, 무슨 일이 벌어지는지 보고 있음. 자기 삶이 나이 든 사람들에게 통제되고, 그들은 젊은 세대에게 고용 불안, 경제적 고난, 디스토피아적 기술, 환경 위기를 감당해야 한다고 말함. 그러면서 그 모든 일이 “그냥 일어났다”고 말하지만, 모두가 그 사람들이 그 상황을 만들어냈다는 걸 알고 있음. 학생들이 야유하는 것도 당연함. 나라도 그랬을 것임

답변달기