모든 것이 거짓으로 가득한 미래, 이제 우리는 어디로 가야 하는가

• 대규모 언어 모델과 기계학습이 사회 구조를 재편하며, 자동차가 도시를 바꾼 것처럼 인간의 삶 전반을 변화시키고 있음
• 이미 AI가 생성한 허위 정보와 자동화된 콘텐츠가 검색, 이메일, 고객 서비스 등 일상 영역에 깊이 침투함
• AI 도구 사용 중단과 인간 중심의 사고 복원이 필요하며, 스스로 글을 쓰고 인간의 언어로 사고해야 함
• 개인은 AI 의존 거부, 노동조합 결성, 정치적 규제 요구 등 구체적 행동을 통해 기술 확산 속도를 늦출 수 있음
• 이러한 선택은 법적·사회적 부작용 완화와 윤리적 평화 확보로 이어질 수 있으며, 잘못된 판단이라면 다시 시작할 수 있음

---

인공지능 시대 이후의 선택

• 대규모 언어 모델(LLM) 과 기계학습(ML) 의 발전이 사회 전반에 미치는 영향을 자동차의 역사적 변화에 비유
  • 자동차가 도시 구조, 교통, 환경, 사회적 관계를 근본적으로 바꾼 것처럼, 인공지능도 인간의 삶과 산업 구조를 재편할 가능성 제시
  • 기술의 속도나 편리함보다 도시의 형태와 인간의 삶이 어떻게 변할지에 초점을 둠
• 이미 AI 기반 허위 정보와 자동화된 콘텐츠가 일상에 깊이 침투
  • 검색 결과, 고객 서비스, 이메일, 웹사이트 등에서 LLM이 생성한 부정확하거나 거짓된 정보가 확산
  • 데이터센터 전력 소비 증가로 인한 요금 인상과 환경적 부담이 발생
  • 개인의 업무, 예술, 인간관계까지 AI에 위임하는 현상이 확산 중
• AI 도구 사용 중단 필요성을 강조
  • ML 보조는 인간의 학습 능력과 이론적 사고력을 약화시키며, James C. Scott의 ‘metis’(숙련된 실천적 지식) 을 잃게 함
  • 스스로 글을 쓰고 문제를 직접 해결하며, 인간과의 대화를 통해 사고를 유지해야 함
  • AI 생성물 소비를 최소화하고, 인간이 만든 콘텐츠를 찾아 읽을 것을 권장
• 개인과 사회가 취할 실천적 행동 제시
  • 자신의 언어로 글을 쓰고, AI 생성물에 의존하지 말 것을 촉구
  • 직장 내 AI 도입 강요에 저항, 노동조합 결성, 정치적 규제 요구를 제안
  • AI 기업의 탄소·디지털 배출 책임 강화, 데이터센터 세금 감면 반대, 윤리적 이유로 퇴사 고려 등의 구체적 행동 제시
• 이러한 저항이 AI 발전을 완전히 멈추지는 못하더라도 속도를 늦출 수 있음
  • 기술·산업·정부가 적응할 시간을 벌고, 법적·사회적 부작용을 완화할 수 있음
  • AI 생성 아동착취물(CSAM), 사기, 보안 취약점 등 문제에 대응할 여유 확보
  • 윤리적 선택을 통해 양심의 평화 확보, 잘못된 판단이라면 “나중에 다시 만들면 된다”는 결론으로 마무리

그리고도 남는 유혹

• AI에 대한 혐오와 동시에 실용적 유혹이 공존
  • 예시로, 색이 변하는 조명을 제어하기 위한 LLM 코드 생성 활용 가능성을 언급
  • 보안 위험이 낮고 결과를 직접 검증할 수 있는 제한된 상황에서는 AI 사용의 유용성을 인정
  • 그러나 “무슨 해가 있겠는가?”라는 질문으로 끝맺으며, AI 사용의 경계와 자기 모순을 드러냄

집필 과정

• 본 글은 Vim에서 수작업으로 작성, Pandoc으로 조판, 두 차례 종이 교정을 거침
  • 초안은 친구들에게 공유되어 피드백을 받았으며, 모든 오류와 견해는 저자 본인의 책임으로 명시
  • 글쓰기와 편집 전 과정이 AI의 도움 없이 인간의 손으로 이루어졌음을 강조

[GN⁺]

Hacker News 의견들

• 나는 읽기·사고·글쓰기 같은 핵심 능력이 대형 언어모델의 영향권 안에 들어가고 있다고 느낌
  인류 대부분의 생애 동안 이 능력들은 사회적 상승을 가능하게 하는 귀한 기술이었음
  하지만 역사적으로 보면, 1800년 이전에는 이런 능력이 농부에게 별로 쓸모가 없었음
  2차 세계대전 이후에야 ‘똑똑한 사람’을 위한 일자리가 수요를 초과하기 시작했고, 그때가 사회적 이동의 황금기였음
  이전에는 육체적 강인함과 정직, 혈통, 출생 순서 같은 요소가 더 중요했음
  AI가 사고를 대신하는 시대가 오면, 다시 그런 가치들이 중심이 될지도 모름

  • 이런 전망은 너무 암울함
    과거의 장자상속제나 성차별을 ‘핵심 가치’로 되돌릴 필요는 없음
    ‘지능’이 귀했던 시대가 특이한 게 아니라, 오히려 그게 인간 발전의 결과였음
    우리는 역사의 포로가 아니며, 데이터센터나 운영체제를 가진 소수의 지배자 밑으로 되돌아갈 필요는 없음
  • 전반적인 의견에는 동의하지만, 창의성·문제해결력·충동 억제 같은 능력은 언제나 중요했음
    똑똑한 농부라도 그런 능력 덕분에 더 효율적인 농장을 운영할 수 있었음
  • 수학적 사고가 Colossus 시절에도 위협받았다고 하지만, 지금의 LLM은 아직 너무 미약함
    수조 개의 파라미터를 가진 모델도 좌우 구분조차 못함
    인간의 사고가 끝난 게 아니라, 증기기관이 말의 시대를 완전히 끝내지 못했던 것처럼 아직 갈 길이 멂
  • 인간의 핵심 가치에는 규율과 장기적 사고도 포함되어야 함
    농업이 시작된 이후에도 계획과 자원 관리 능력은 늘 중요했음
  • 요즘 “우리는 단지 예외적인 시대를 살았을 뿐, 이제 과거로 돌아간다”는 식의 AI 비관론이 많음
    하지만 1800년대가 인류의 정상 상태였다는 생각은 이상함
    ‘부유한 너드’의 존재 여부로 사회 변화를 설명하는 것도 비약임

• Kyle의 글은 꼭 읽어볼 만한 시리즈임
  자동차의 도입과 AI의 확산을 비교한 점이 인상적임
  기술이 유용하다고 해서 사회에 긍정적 영향만 주는 건 아님
  나는 LLM을 제한된 환경에서, 위험을 통제할 수 있을 때만 쓰는 게 맞다고 생각함
  1920년대에 “차를 타지 말라”고 말하기보다, 부정적 영향을 예측하고 정책으로 완화하려는 태도가 필요했음
  기술의 한계를 이해한 전문가들이 책임감 있게 개입해야 함

  • 자동차는 부정적 영향도 있지만, 전체적으로는 순이익이 큰 기술이라고 생각함
  • 요즘 도심에서 자동차를 금지하는 흐름이 늘고 있음
    마치 학교에서 스마트폰을 금지해 자발적 인간 교류를 회복하려는 시도와 비슷함
  • 영국에서는 이 글들이 Online Safety Act 때문에 차단되어 읽을 수 없음
  • AI는 멈출 수 없는 도구이며, 교육이 해법임
    기술을 막는 대신 사람들을 가르쳐야 함
    AI의 발전은 물리 시뮬레이션, 단백질 접힘 등에도 응용될 수 있음

• 나는 이 기술이 0.001%의 엘리트에게 완벽히 맞춰져 있다고 느낌
  그들에게는 인구 감소와 사회 통제가 오히려 이득임
  미래 세대에 대한 책임이 없다면 개인적 생존만 고민하면 되지만, 책임이 있다면 전 지구적 혁명이 필요함

  • AI는 아직 이메일 폴더도 제대로 못 다루는 수준임
    인간을 대체한다는 말은 과장이며, 자동화는 오히려 새로운 일자리를 만들어낼 것임
    CEO들이 노동 대체를 말하는 건 해고를 정당화하려는 핑계임
  • 만약 AI가 99.999%를 대체할 만큼 똑똑하다면, 0.001%도 대체할 수 있을 것임
  • 이미 생태적 책임을 포기한 시점에서 미래 세대 운운하는 건 쓴웃음만 나옴
  • 대중의 저항과 규제 요구가 커지면 AI는 통제될 수 있음
    문제는 너무 많은 사람들이 AI를 사랑한다는 점임
  • 경제 시스템을 무너뜨리자는 게 아니라, 총파업과 은행 인출로 협상력을 보여줘야 함
    안정된 직업을 가진 사람일수록 먼저 행동해야 함

• Neal Stephenson의 『In the Beginning Was the Command Line』의 결말이 떠오름
  인생이 하나의 운영체제처럼 기본값으로 제공되고, 사람들은 ‘LIVE’ 버튼을 누르기만 하는 세상
  불만을 제기하면 “다음 업데이트에서 나아질 것”이라는 답변만 듣게 됨
  결국 진짜 엔지니어는 이렇게 말할 것임 — “삶은 본래 복잡하며, 선택을 직접 해야 함”

• 이 시리즈의 주요 글들을 정리함

  • ML promises to be profoundly weird
  • Culture 편
  • Annoyances 편
  • Safety 편
  • Work 편
  • New Jobs 편
    반복을 피하려는 HN의 원칙 때문에 보통 시리즈 글은 가중치를 낮추지만, 이번엔 예외였음
  • 잘 알려지지 않은 Dynamics·Information Ecology·Psychological Hazards 편도 추천함
  • 시리즈가 곧 반복을 의미하는 건 아님
    예를 들어 고대 기계 복원 시리즈라면 각 편이 전혀 다른 주제를 다룰 수 있음
  • 영국에서는 이 도메인 전체가 차단되어 접근 불가함

• 미래에 대해 단정적으로 예언하는 건 두려움을 잠재우는 방식일 뿐임
  아무도 AI의 향방을 모름
  자동차처럼 될지, 전혀 다른 길을 갈지 알 수 없음
  그러니 “Anthropic 엔지니어는 당장 퇴사해야 한다”는 식의 주장은 성급한 판단임

• 대학 시절을 떠올리면, 시행착오를 통해 얻은 근육 기억과 이론적 깊이가 지금의 나를 만들었음
  지금 대학생이라면 LLM의 유혹을 뿌리치기 어려울 것 같음
  마감과 시험, 친구들과의 시간 사이에서 결국 AI를 쓰게 될 것임

  • 내 아이들은 고등학생인데, 그 세대는 미래에 대한 실존적 불안 속에서 자람
    기후 악화, 경제 불평등, 제도 불신, AI로 인한 직업 불안이 겹쳐 있음
    딸이 대학 전공을 고민할 때, 나는 어떤 조언도 확신 있게 못하겠음
  • 대학원 시절 수학 문제를 붙잡고 씨름하던 시간들이 진짜 배움이었음
    AI가 대신해주는 순간, 그 경험적 학습이 사라짐
    어려움을 견디며 쌓은 맥락이 있어야 AI의 답변도 제대로 이해할 수 있음
  • 그래서 나는 엔지니어로서 크게 걱정하지 않음
    수천 시간의 수작업 경험이 직관적 코드 감각을 만들어줬음
    신입 세대가 그걸 AI로 대체하기는 어려움
  • 문제는 개인의 의지가 아니라, 노력할수록 불리해지는 구조임
    깊이 배우려는 사람이 오히려 경쟁에서 밀리는 인센티브가 생김

• 사회 구조가 변할 건 분명하지만, 참여하지 않는 선택은 현실적으로 어렵다고 느낌

  • 나도 팀에서 AI 사용을 최소화하려 하지만, 직업적 생존을 위해선 쓸 수밖에 없음
  • 시장 경쟁은 강제적임
    AI를 쓰지 않으면 뒤처지고, HR은 경험을 요구함
    개인에게 손해가 되는 선택을 누가 하겠음

• 우리는 한 번의 기술적 돌파만으로 AGI에 도달할 수도 있음
  예를 들어 실온 초전도체가 발견된다면, THz 속도의 칩과 즉시 충전되는 배터리가 가능해질 것임
  AI는 지금 1980년대 컴퓨터처럼 폭발 직전의 단계에 있음
  최근 6개월 사이에 나도 완전히 낙관적으로 바뀌었음
  기술이 계속 발전하면, 안전한 직업은 하나도 남지 않을 것임

  • 하지만 초전도체가 있다고 해서 THz 칩이 자동으로 생기진 않음
    이미 냉각된 초전도체로도 그런 칩을 만들 수 있었다면 진작 했을 것임

• 저자는 LLM을 쓰지 않겠다고 하지만, 그건 능력이 있기 때문임
  대부분의 사람은 그렇게 할 수 없음
  이미 테스트 코드조차 안 쓰는 개발자들이 많은데, 그들에게 AI는 생존 수단임
  기본기를 다시 배우기엔 시간이 없고, LLM 트렌드까지 따라가야 함
  결국 진짜 엔지니어보다 ‘마녀’가 더 많아지는 시대가 올 것임

  • 하지만 사람은 성공을 위해 필요한 걸 배움
    새 세대의 개발자들도 경쟁에서 이기기 위해 성능 좋은 소프트웨어를 만들 줄 알게 될 것임
    AI로 코딩하든 아니든, 결과가 좋으면 그게 실력임
    인류는 늘 종말론적 비관을 해왔지만, 결국엔 잘 적응해왔음