▲

LLM Inevitabilism (필연성주의/불가피론)

 (tomrenner.com)
14P by GN⁺ 1일전 | ★ favorite | 댓글 1개
  • 필연성주의(Inevitabilism) 는 특정 미래가 반드시 올 것이라는 식으로 담론의 방향을 결정하는 강력한 프레이밍
  • AI 및 LLM의 미래에 대해 주류 인사들이 “이런 미래가 불가피하다”고 주장하며, 이에 맞춰 적응하라는 압박을 가함
  • 이러한 프레이밍은 이견이나 저항을 ‘비현실적’으로 취급하며, 실제로 선택권을 빼앗는 심리적 효과를 동반함
  • 저자는 LLM이나 AI가 원하는 미래인지에 대해 의문을 제기하며, 우리가 어떤 미래를 원하고 어떤 기술을 선택할지 스스로 결정해야 함을 강조함
  • 필연성의 프레임에 휩쓸리지 말고, 각자가 원하는 미래를 적극적으로 고민하고 실천해야 함을 촉구함

필연성 프레이밍의 힘

  • 토론을 매우 잘하는 사람과 논쟁할 때, 예상치 못한 포인트에 계속 휘둘리게 됨
    • 내 논지의 약한 부분만 방어하다가, 핵심은 흐름 속에 묻힘
    • 결국 흐름과 자신감을 잃고, 논쟁에서 밀리게 되는 구조
  • 대학 시절 국제 토론 대회에서 우승한 친구가 강조한 전략은 프레임을 먼저 설정하는 것 이었음
    • 즉, 자신의 용어와 논리로 대화의 틀을 설정하는 것. 프레임을 장악하면, 논쟁의 결과는 이미 정해진 상태가 되는 셈

Surveillance Capitalism과 ‘필연성주의’

  • Shoshana Zuboff의 『The Age of Surveillance Capitalism』 을 읽으면서 ‘Inevitabilism(필연성주의, 불가피론))’라는 개념을 알게 됨
    • 개념에 이름을 붙이는 것만으로도 논쟁을 조직화하고, 문제의식을 공유하는 데 큰 힘이 생김
  • ‘필연성주의’란, 특정 미래가 반드시 실현될 것이라 주장하며, 대응책 준비만이 합리적 선택인 것처럼 보이게 하는 사고방식임
  • 이 방식은 반대 의견을 ‘현실을 무시하는 자’로 몰아가며, 이미 프레임을 수용한 논의만 인정하게 만듦

AI 필연성 프레이밍의 실제 사례

“우리는 AI와 공존하는 세상에 진입하게 될 것임” — Mark Zuckerberg
“AI는 새로운 전기임” — Andrew Ng
“AI가 인간을 대체하는 것이 아니라, AI를 쓰는 사람이 안 쓰는 사람을 대체하게 될 것임” — Ginni Rometty

  • 이런 발언들은 AI 시대가 이미 결정된 미래라는 분위기를 조성함
  • 논의의 초점이 “원하는 미래인가?”가 아니라 “** 불가피한 미래에 어떻게 적응할 것인가?**”로 이동함
  • 위협적인 뉘앙스도 포함되어 있어, “거부하면 손해를 본다”거나 이견을 내는 것이 “어리석다”는 심리를 유도함

선택과 주체성

"나는 LLM이 진정 미래의 모습인지, 그 미래가 내가 바라는 것인지 확신하지 못함"

  • 하지만 우리 각자에게는 미래의 모습과 기술의 활용 방식을 선택할 권리가 있음
  • 필연성주의 프레임이 우리의 선택을 빼앗지 못하도록 주의해야 함
  • 각자가 원하는 미래에 대해 고민하고, 그 미래를 위해 싸우는 자세가 필요함

결론

  • 기술과 미래를 바라볼 때, 불가피함이라는 프레임에 수동적으로 휩쓸리지 말 것
  • 각자가 생각하는 더 나은 미래에 대해 적극적으로 상상하고 실천하는 자세가 필요함
▲
GN⁺ 1일전  [-]
Hacker News 의견

  • 두 가지 사실이 동시에 성립될 수 있다고 생각함.

    1. LLM은 새로운 기술이고, 이제는 되돌리기 어려운 지니와 같음. 그것이 가져올 시간 절약 효과나 사회적 문제를 감안할 때 앞으로 어떤 형태로든 존재하게 될 미래가 충분히 상상됨
    2. 거의 3년이 지난 지금, LLM에 투자한 기업들은 엄청난 훈련과 호스팅 비용을 정당화할 비즈니스 모델을 아직 찾지 못하고 있음. 대부분의 소비자 사용이 무료 티어에 집중되어 있고, 업계에서는 처음으로 투자를 줄이려는 조짐도 보임. 모델 기능 또한 전반적으로 정체 상태에 도달했고, 많은 이들이 결과물이 진부하고 소비하기 불쾌하다는 데 동의하고 있음
      초음속 여객기와 같이 ‘불가피해 보이던 기술’이 충분한 비즈니스 수익이 없으면 사라지거나, 전자레인지처럼 특정 사례로 자리잡는 경우가 많음. 충분히 수익성 있는 모델이 없을 때, LLM은 현재와 비교해 덜 특별하고 덜 거슬리는 위치에 안착할 것 같음. 억지로 모든 곳에 LLM을 넣는 시도는 별로 좋은 평을 받지 못하고 있음

    • 초음속 여객기를 예로 든 비유가 AI나 심지어 컴퓨터 및 인터넷 전체에도 해당된다고 생각함.
      예전에는 초음속 여객기 기술이 경이롭고 필연적으로 확장될 것처럼 느껴졌지만, 그 이면에는 해당 시대의 기술로 해결할 수 없는 문제와 수익성 부재가 감춰져 있었음.
      컴퓨터와 인터넷이 항공우주산업과 비슷한 흐름을 탈 수도 있다는 생각이 듦. 우리는 이미 기술의 정점에 거의 다다른 것일 수 있음.
      1970년대에 타임머신을 타고 가서 50년 후인 2025년엔 초음속 여객기가 사라지고, 항공산업이 변한 것 없이 더 짜증나는 형태로만 남았다고 해도, 아무도 믿지 않았을 것임.
      그래서 2075년에는 LLM을 주제로 한 다큐멘터리를 보면서, 왜 그렇게 유망해 보였던 기술이 거의 사라졌는지 회상하고 있을지도 모름

    • “대부분의 사람들이 LLM 결과물이 진부하고 소비하기 불쾌하다고 동의한다”는 주장에는 크게 동의하지 않음. 실제로 사람들은 LLM의 결과물을 상당히 좋아해서 ChatGPT가 역대 가장 빠르게 성장한 앱임. Perplexity 같은 AI 앱도 Google의 검색 지배력을 위협하기 시작함.
      물론 대중이 ChatGPT가 쓴 소설이나 시집을 일부러 구입하진 않을 테지만, 그 결과물이 읽기 어렵거나 반감만 주는 건 아님. 명확하고 읽기 쉬운 요약과 설명을 만들어내는 것도 부정하기 어려운 사실임

    • 당신의 두 번째 주장에 혼란을 느낌. LLM 회사들이 지금 모델에서 수익을 못 내고 있다는 게 맞는지 모르겠음. OpenAI는 연간 100억 달러의 ARR과 1억 MAU를 기록함. 물론 지금은 손해를 보고 있지만, 이는 모델 개선을 위한 출혈임. 만약 오늘 당장 모델 개선을 멈추고, 운영비 최적화와 대규모 사용자 기반 수익화에 집중한다면 성공적인 비즈니스 모델이 없다고 말할 수 있을지 의문임. 이미 사람들은 매일 이 도구를 사용하고 있음. 이것은 필연적임

    • 본문의 논지는 기본적으로 “AI를 일반 기술로 보는 관점”의 주장과 같음
      AI as Normal Technology
      참고 토론 링크

    • “필연적이라 여겨지는 기술이 결국 비즈니스 수익성 부족으로 퇴보한 사례가 많다”는 부분에서, 120개 이상의 케이블 TV 채널도 출시 당시에는 좋은 아이디어처럼 보였겠지만, 실제로는 LLM과 비슷하게 대다수의 콘텐츠가 아무도 관심을 가지지 않는 것이었음

  • 현대 세속적 시대의 부정적 결과 중 하나는, 매우 지적이고 사려 깊은 사람들이 수천 년 간의 철학과 종교적 사유를 구시대적이거나 더 이상 쓸모없다고 치부하며 쉽게 무시하는 경향임. (참고로, <A Secular Age>라는 책을 매우 추천함.)
    이런 태도는 사람들이 세상과 미래에 관한 반복되는 심리 패턴을 인식하지 못하게 만들고, 그 인식을 바탕으로 자신의 입장을 조정하지도 않게 만듦
    예를 들어, AI 필연론(inevitabilism)은 종교개혁 시기의 예정설(predestination)과 크게 다르지 않음. 역사가 미리 정해진 경로를 따라간다는 생각은 신에서 기술로 주체만 바뀐 심리적 동일선상임. 이는 자유와 책임을 모호하고 강력한 힘(이제는 기술)에 떠넘기는 심리 구조임

    • AGI가 곧 대세가 될 거란 주장에는 회의적이지만, 성장기에 신학 서적을 많이 읽어 본 입장에서 LessWrong 같은 인기 에세이를 종교적이라거나, 독서량이 부족한 사람의 글이라고 생각하지 않음. “그들에게 새 신이 생겼다!”는 관점은 흔한 논점 흐리기임. 물론, AGI 필연파 중 일부에게는 맞는 비유일 수도 있겠으나, 가장 약한 주장에만 초점을 맞추는 건 의미 없다고 봄

    • 테크노 칼빈주의자(Techno Calvinists) 대 러다이트 개혁주의자(Luddite Reformists)라는 이미지가 떠오름
      이런 경향이 거대담론이나 이데올로기 부재에서 기인한다고 생각함. 철학/종교적 사유에 무관심하지만 뭔가 새롭게 만들고 싶어하는 똑똑한 테크 인구가 많음
      이들은 점점 더 많은 돈을 쫓으며, 결국은 돈을 좇는 행위가 허무하다는 걸 일부 깨달음. 하지만 스스로가 이 인류 보편 문제 위에 있다고 착각함
      이런 왜곡 속에서, 기존의 예술을 재활용하고, 시간이 갈수록 더 나빠지는 앱을 만들고, 인류 개선이라는 본래의 창작의 기쁨을 외면하며 부의 쟁취에만 집중하게 됨
      LLM과 AI는 지니를 병 밖으로 꺼낸 것과 같으나, 실상은 전기보다 선형 원근법이나 인쇄기에 더 가깝게 자리잡을 것 같음. 오늘날 문화 속에서는 레오나르도 다 빈치가 평생 선형 원근법 튜토리얼만 팔던 셈임

    • 이건 완전히 새로운 현상이 아니며, 예정론자들이 자신들의 논지를 뒷받침할 새로운 ‘공포의 대상’이 추가된 것임
      내 목적은 그저 이런 현상을 지적하는 것임. 사람들은 물리나 종교에서 나오는 예정론은 거부하면서도, "AI는 불가피하다"는 주장에는 여전히 감탄하는 경향이 있음

    • 기사에서 주장하는 핵심은 '필연론(inevitabilism)'이란 자신에게 유리하게 대화를 이끄는 수사적 전략일 뿐, 비판을 “현실 부정”이라 치부하고 논외로 만드는 도구임. 종교개혁 이데올로기와의 비교는 별 의미가 없다고 봄
      또, 여기서 제시하는 '세속적 예정론' 비유에도 아이러니함이 있음.
      프로테스탄트 예정설은 자유와 책임 회피와는 다름. 예정설의 핵심은 신의 은총은 ‘받는 것’이지 ‘얻는 것’이 아니며, 이를 이유로 무위도식하는 것도 아님. 오히려 자신의 선행을 통해 구원의 증거를 확인하고자 노력하게 됨.
      이는 “당장의 보상을 바라지 않는 근면성”으로 연결되고, Max Weber의 저서에서 초기 자본주의의 구동 원인으로도 분석됨
      따라서 예정론과 “기술 필연론”은 실제로는 아주 다른 개념임

    • 역사주의(예: 헤겔의 ‘역사의 필연적 법칙’)에서도 이와 비슷한 논의를 찾을 수 있음

  • 자녀 세대나 손주 세대에는 미국이 서비스와 정보 경제가 모든 제조업을 해외에 넘겨주고, 엄청난 기술력이 소수에게 집중되어 있는 사회가 될 것이란 예감을 가짐
    공익을 대표하는 누구도 기술 문제를 이해하지 못하고, 사람들이 자신만의 의제를 세우거나 권력자를 비판할 지식도 잃음
    사람들은 크리스털을 쥐고 점성술에 의존하며, 비판적 사고력은 쇠퇴하고, 기분 좋음과 진실의 경계조차 흐려진 채 거의 눈치채지 못한 채로 미신과 어둠 속으로 미끄러져 들어갈 것임

    • 이 인용문이 여기에 적합하지는 않다고 생각하지만, 출처에 관심 있는 사람을 위해 밝히자면, The Demon-Haunted World에서 가져온 것임

    • 이 글귀를 읽으니 목소리까지 귀에 들리는 듯함
      남들이 아무리 따라하고 흉내 내도 결코 진부해지지 않는 독특한 어투가 있음

  • 2009년에 스마트폰의 지배가 불가피하다고 주장했다면, 본인이 이미 스마트폰을 써보고 그 파워를 직접 체험했기 때문이지, 무슨 의도를 가지고 자유의지를 왜곡하려 했던 것은 아님
    2025년에는 진짜로 AI를 활용해서 실질적 업무를 해 본다면, 이 기술의 대규모 도입이 피할 수 없음을 부정할 수 없을 것임. AI가 역사상 어느 때보다 빠르고 강하게 다가오고 있음. 두렵다는 이유만으로 이를 외면할 수는 없을 것임

    • 80년대에 AI가 필연적이라고 주장하고 투자했거나, 10년 전에 VR이 대세가 될 것이라고 믿었던 사람들은 결과가 어떻게 됐는지 보면 알 수 있음. Zuck이 아직도 수십억 달러를 태우는 중이고, Apple도 수요 예측을 완전히 빗나감.
      AR이 VR의 구원책이 될 수 있지만, 소비자 시장 입성은 멀었고, VR용으로 쌓인 대부분 기술은 AR과 직접적 연관이 없을 것임
      Tesla의 자율주행 Robo-taxi 신화 역시 10년 째지만, 실제로 주인 없는 상태에서 수익을 내는 Tesla는 전혀 없음
      돌이켜 보면 이미 성공한 기술만 예로 드는 건 어리석음. 성공하지 못한 기술도 수두룩했고, 투자 및 산업 거품도 많았음

    • 이 논법이 바로 본문에서 언급된 수사 전략임
      아주 혁신적이고 필연적이라 여겨진 이동수단이 있다고 떠들던 시절을 떠올려보자. 하이프, 비밀 회의, 엄청난 기대… 결국 그 결과는 세그웨이였음

    • 일종의 자기 성취적 예언처럼 느껴짐. 대형 IT 기업들이 'AI'를 모든 제품에 억지로 넣으면서 “봐라, 이렇게 널리 쓰이고 있으니 필연적이다!”라고 주장함
      AI가 필연적이라고 나도 생각은 하지만, 현재는 너무 집단사고가 심해서, 모든 게 말풍선 기반의 에이전트 UI로 표현되고 있음
      곧 모두가 이것을 지나치고 나면, 그다음을 발견해서 기대되는 마음임

    • 1950년에 누군가 스마트폰이 주류가 될 거라고 말한다면 대부분 쉽게 믿었을 것임. SF 소설이나 영화에도 그런 미래가 자주 등장함
      하지만 소셜 미디어 이야기는 반응이 달랐을 것임. 어떤 이는 멋지다고 생각해도, 누구는 디스토피아라고 봤을 것임
      실제로 이 세 가지(스마트폰, 소셜 미디어, AI)는 50년대 이전부터 사람들의 상상력을 자극했음
      실제로 AI는 고도화된 커뮤니케이션 기기라기보다는, 상상 속의 소셜 미디어에 좀 더 가까움

    • 1950년대에는 핵 기술 또한 필연적이라 여겨졌음. 심지어 우라늄 유리로 만든 식기도 팔렸고, 아직도 집 안 선반 어딘가에서 빛나고 있거나 이미 깨졌을 수도 있음

  • “LLM 겨울”이 다가올 수도 있음
    사람들이 LLM이 실제로 무언가를 ‘할 수 없다’는 사실을 깨달을 때 그렇겠음
    기업들이 LLM의 실수 책임을 소비자에게 떠넘기려는 움직임이 나타날 것임
    “모르겠다”, “이 작업을 할 수 없다”와 같은 출력을 솔직하게 내놓는 시스템이 필요함
    이미 프로그래머들에게 LLM 사용이 오히려 부정적인 가치를 준다는 보고도 나오고 있음
    LLM이 남긴 흔적을 처리하는 데 너무 많은 시간이 듦

    • LLM의 실수 책임을 소비자에게 넘기는 건 기업만의 일이 아님
      이 포럼의 열성 사용자들(또는 어쩌면 사이버 홍보꾼)도 이런 태도를 보임
      LLM에서 가치를 끌어내려면 어느 정도의 지식과 '프롬프트 엔지니어링'(이제는 '컨텍스트 엔지니어링'이란 이름까지 얻음) 역량이 필요하다고 주장함
      결국 이 도구가 시간 낭비라고 느끼는 사람과, 큰 생산성 향상을 느끼는 사람을 나누는 기준이 오로지 사용자의 실력이라는 식임
      이런 내러티브는 블로그, 포럼, 심지어 최근 METR 연구 결과의 오해 해석까지 곳곳에 녹아있음
      물론 어떤 도구든 완전히 활용하려면 일정 수준의 숙련도가 필요함
      하지만 LLM을 쓰고도 이득을 보지 못하는 사람이 능력이 없어서 그렇다고 싸잡아 말하는 건 모욕적임
      LLM은 특별한 엔지니어링 전문성이 필요한 외계 기술이 아님
      올바른 질문을 던지고 도구와 개념을 조금만 익히면 누구든 익힐 수 있음
      이런 식으로 주장하는 사람들은 결국 LLM을 팔려 하거나, 기술의 과대효과를 부풀리려는 목적임

    • 사람 자체도 믿을 수 없기에 가드레일, 점검, 감시, 감사를 둠
      소프트웨어에서는 코드 리뷰, 테스트, 모니터링 등 베스트 프랙티스가 있는 이유임
      그래서 LLM이 소프트웨어 개발 분야에서 가장 빠르게 뿌리내릴 수 있었음
      이미 신뢰할 수 없는 인간 ‘작업자’를 위한 대처법이 있고, 그 경험을 LLM에게 응용하면 됨
      궁극적으로 성공적인 LLM 응용을 위한 핵심은, 비즈니스에 특화된 가드레일을 걸고 유사시 인간이介入하는 시스템을 구축하는 것임

    • LLM의 행동을 강제로 올바르게 만드는 시스템에 넣는 것이 필요함
      예를 들어 LLM이 문서나 man 페이지를 참고하도록 하고, 특정 라인 출력만 하라고 시킴
      그러면 시스템이 실제로 해당 줄을 찾아 인용하고, LLM이 임의로 인용을 만들어낼 수 없음
      LLM이 아직 타입 시스템과 통합된 사례는 없음
      강력한 타입 시스템(예: 종속 타입)은 "이 함수는 항상 정렬된 리스트를 반환한다"는 것을 컴파일 단계에서 보장할 수 있음
      증명 코드를 직접 많이 써야 하지만, 만약 LLM이 그 증명을 대신 써 준다면, 컴파일이 되는 한 올바르다고 믿을 수 있음
      물론 메모리가 부족하거나 정전 등의 예외는 존재함

    • 이 ‘품질 낮은 결과물 찍어내기’ 열풍이 빨리 끝나길 바람
      그러나 품질에는 아예 관심 없는 사기꾼, 스패머, 클릭베이트 블로거, 선거에 개입하려는 이들, 저질 앱/음악/영상/“예술”로 광고수익 노리는 사람들에게는 지금의 Gen AI가 완벽한 제품임
      품질을 중시하는 사람들이 AI가 쓸데없다는 걸 깨달아도 이미 인터넷은 죽었을 것임
      그 땐 이미 ‘탈진실’, ‘탈예술’, ‘탈기술’, ‘탈민주주의’ 시대이고, 크게 이득을 본 건 캘리포니아 억만장자 몇 명뿐임
      똑똑한 사람들이 사회적 가치를 망치는 잡쓰레기를 만드는 데 재능을 쓰는 모습을 보는 것만큼 우울한 일도 없음

  • 90년대에 친구에게 인터넷을 처음 들었고, 대학에 다니는 누군가가 인터넷을 보여줄 수 있다는 말을 듣고 1시간 뒤 대학 컴퓨터 앞에 앉음
    링크를 클릭하고, 읽을 수 없을 정도로 빠른 속도로 쏟아지는 텍스트, 멋진 레이아웃, 이미지, 다른 웹페이지로의 링크까지. 인쇄, 배송, 기다림 없이 바로 확인하는 모습에 충격을 받음. 이것이 미래라고 확신했고, 그냥 불가피해 보였음
    어제는 큰 라이브러리 기반으로 프로그램을 통째로 다시 써야 해서, 긴 문서 읽거나 코드를 직접 뜯어보아야 할 상황이었음
    대신 GPT 4.1에 프로그램과 라이브러리 전체를 복붙해서 다시 써 달라고 했더니, 한 번에 성공했고, 15분 만에 전체 변경 사항을 읽고 몇 가지 스타일만 수정해서 끝냄. 몇 시간은 절약함. 이것이 미래라고 느꼈고, 역시 불가피해 보였음
    P.S. 많은 답글이 내 경험을 LLM과 대화하며 점진적으로 코드를 변경하는 방식(‘agentic coding’)과 비교하는데, 내가 하는 방식은 "한 번에 한 파일, 코드는 건들지 않음"임. 자세한 내용은 여기 참고

    • 완전히 동의하지만, 사실은 IDE로 프로그래밍을 하는 것이 미래라고 주장하는 것과 다를 바 없다고 생각함
      필연론의 핵심은 새롭고 강력한 개발 도구가 몇 시간씩 생산성을 올려준다는 점이 아니라, 지식의 브로커가 누구냐, 지식노동이 어떻게 정의되고, 고용주와 고용인의 관계, 감시 수단 등 사회 시스템의 작동이 어떻게 바뀌냐에 있음
      필연론을 유포하는 이들은 완고한 개발자를 설득하려는 게 아니라, 자신에게 유리한 새로운 '게임판'을 만들려는 것임. 여기서 규칙을 싫어하거나 반대하면 "할 수 없어, 이건 불가피해, 원래 그런 거야"라는 논리로 일축함

    • LLM의 문제는 창의적 사고나 사유에 쓸 때임
      실제로 많은 맥락(특히 코딩)에서 유용하지만, 그렇다고 해서 LLM이 ‘모든 것을 바꿀’ 기술은 아님
      “AI는 새로운 전기”라는 주장도 과장임(AI는 전기처럼 되지 않을 것이라는 점을 강조한 Andrew Ng의 발언 인용)
      오히려 “AI는 새로운 VBA”에 가깝다고 봄. 그 때도 “이제 모두가 프로그래밍 가능!”이라며 들떴지만, 실제로는 자질구레한 자동화에만 크게 파급력이 있었음. 물론 지금은 훨씬 더 빠르고, 하이프도 훨씬 크지만 본질은 비슷함

    • LLM이 항상 잘 동작하는 게 아님
      예를 들어 최근 VirtualBox VM이 Windows 10에서 4배 느려지는 이상현상이 있었음
      AI의 도움을 받아 여러 해결책을 따라갔지만 소용 없었음
      결국 Windows Features의 "Virtual Machine Platform" 체크박스가 갑자기 해제된 걸 찾아냄
      AI에게 이걸 언급하자, 해당 옵션은 필요 없고 상태가 '해제'된 게 더 낫다고 우겼음
      하지만 실제로는 그 문제였고, 옵션을 체크하고 재부팅하니 정상화됨
      AI는 기본 상식을 바탕으로 깊은 추론을 해야 할 때뿐 아니라, 단순한 연상 기억조차 뻔히 틀림
      웹검색 대용으로 쓸 거면 반드시 사실 확인이 필요함
      LLM 기반 AI에는 ‘사실’ 개념이 없음. 토큰 예측일 뿐이고, 입력/학습 데이터에 따라 우연히 정답일 확률이 높은 출력을 산출할 뿐임

    • LLM 불가피론에는 전적으로 동의함. 묘사처럼 모든 사람이 매일 쓸 미래가 필연이라고 생각함. 스마트폰처럼 말임
      하지만 AGI 불가피론에는 동의하지 않음. “모델이 계속 발전하니까 AGI는 불가피하다”는 주장은 결과로부터 논리를 비약하는 것임

    • 코드가 정말 제대로 동작하는지 확신 있나?
      만약 AI만 써서 코드를 읽는 법을 배우지 못했다면?
      직접 코드를 읽어서 검증하는 능력이 훨씬 더 중요하다고 봄
      예전 직장에서, 항공기 회사의 플랩 제어 펌웨어 버그를 찾아내고, 문제 설명을 위해 직접 비행기를 타고 가는 길에, 바로 그 문제 펌웨어가 쓰인 비행기를 타고 있었다는 일화를 들었음

  • 이 필연론 논리의 가장 어려운 부분은, “불가피하다”고 주장하는 사람들이 실제로 수억 달러를 개발·활용·광고에 쏟아붓는 이들이기도 하다는 점임
    여우들이 닭장에 문을 만들면서 “여우가 들어가는 건 막을 수 없어. 그렇다면 모두를 위한 시스템이 되게 만드는 게 낫다”고 말하는 셈임

    • “말보다 행동으로 보여라(put your money where your mouth is)”는 전략 자체는 괜찮다고 생각함

    • 그들이 ‘문’을 만들고 있는 것일까, 아니면 이미 문이 있으니 우리(자기들)가 첫 번째로 들어가려는 걸까 하는 의문이 있음

    • 동의함. 우리는 여우를 돕지 말고, 오히려 여우를 쫓아내야 함

  • 두 가지가 아주 분명함

    1. LLM은 기존 컴퓨팅 기술로 할 수 없는 많은 일을 할 수 있고, 이 역량을 가장 잘 활용할 방법을 찾는 데 시간이 필요함
    2. 엄청난 영향력을 지닌 많은 이들이 실제 결과와 무관하게 하이프에 편승할 동기가 큼
      기사에서 말하는 대로, CEO들이 짜놓은 틀 안에서 논쟁하는 것은 무의미하다고 봄. 그들은 주로 시장을 상대로 얘기하는 것이고, 우리는 기술의 작동 원리를 아는 사람들이니, 더 객관적으로 LLM을 평가하고 자체적인 프레임을 만들어야 함
      내 기준에서 LLM은 소프트웨어 도구의 한 진화 단계임. LLM이 쉽게 제대로 된 코드를 써 주는 게 신기하고 위협적으로 느껴질 수 있지만, 수십 년간 반복적인 CRUD와 비즈니스 로직이 끝없이 요구되었고, 그 다양한 사례로부터 거대 확률 생성기가 충분한 맥락과 프롬프트만 주어지면 새 조합을 만드는 데 성공하는 것은 놀라운 일도 아님
      나는 기술자로서 LLM이 내 목표에 어떻게 도움이 될지 이해하고 싶음. 원치 않으면 안 쓰면 되고, 변화하는 역량을 꾸준히 확인해줘야 내린 결정이 현명할 것임
      거대한 하이프를 앞두고 과거에 대한 향수나 바람직함에 집착해 쓸데없는 십자군 전쟁은 하지 않을 것임
    • 나도 이런 식으로 도구를 대하고 있음. 건강한 접근법이라고 생각하지만, 내가 그저 투덜거리는 사람일지도 모름

  • 사람들은 자연어로 소통하는 걸 좋아함
    LLM은 기존의 논리언어나 컴퓨터와 소통하는 복잡한 인터페이스에서 벗어나, 인터넷 초창기의 컴퓨팅 방식을 끝내는 첫걸음임
    불가피론이 여기서 나오는데, 사실 대부분의 사람은 컴퓨터 사용법을 배우고 싶어하지 않고, 마치 살아 있는 존재처럼 그냥 말로 대화하고 싶어함
    (컴퓨터를 진심으로 좋아하는 건 5% 미만일 거라 가정함)

    • 사람들은 또한 신뢰할 수 있고 결정적인 반응을 기대함. 버튼을 누르면 거의 항상 같은 결과가 나타나길 원하고, 10% 확률로 엉뚱한 일이 발생하는 건 원하지 않음
      LLM이 과연 이런 안정성까지 도달할 수 있을지는 아직 불명확함

    • “논리 언어에서 벗어난 첫걸음”이라니… 논리 언어는 기본적으로 결정적 구현을 가능하게 만들어 추상화 구축에 큰 도약이었음
      자연어는 그 목표와 너무 동떨어져서 쉽게 설명할 수조차 없음
      “사람도 언어로 추상화를 달성하지 않나?”라는 생각은, 실제 법률 문서(예: 하원 법안 전문)을 한 번이라도 읽어보면 달라질 것임

    • 자연어 UI의 실현이 생각보다 크게 환영받지 못하는 게 오히려 의아함
      자연어 UI는 컴퓨터공학의 오랜 미완의 꿈이었고, 이제는 너무 당연하게 된 느낌임
      LLM이 코딩/글쓰기/연구 등에 가장 좋지 않을 수 있지만, 이런 사용자 경험(UX)은 꼭 유지되었으면 함
      문제를 언어로 자유롭게 표현하고, 축약/은어/톤까지 정확히 전달하는 건 정말 놀랍고, 실용성도 큼

    • “일상 언어는 물리학자가 말하려는 만큼 추상적으로 표현하기에는 완전히 부적합하다. 오직 수학과 수리 논리만이 물리학자의 의도만큼 함축적으로 표현할 수 있다.”

      • 버트런드 러셀, The Scientific Outlook (1931)
        우리가 수학에서 더 이상 자연어를 쓰지 않는 이유가 있음. 자연어는 너무 장황하고, 매우 부정확함

    • 자연어로 계약을 설명할 수 있는 방법이 있었으면, 변호사들이 벌써 찾았을 것임.
      계약서 해석 차이로 GDP의 상당 부분을 낭비하고 있음

  • 이 개념은 티모시 스나이더(Timothy Snyder)가 언급한 ‘불가피성의 정치’와 밀접하게 관련됨
    “불가피성의 정치는 미래가 단지 현재의 연장선이고, 진보의 법칙이 이미 알려져 있고, 대안은 없으며, 따라서 우리가 할 일은 아무것도 없다”는 일종의 세계관임
    본문 기사는 이 개념을 상업적 영역에 적용하지만, 본질적으로는 ‘주체성(Agency)’을 박탈시키는 언어를 다루고 있음
    관련 기사 링크

답변달기