# 모든 것의 미래는 거짓인가: 일(Work) > Clean Markdown view of GeekNews topic #28561. Use the original source for factual precision when an external source URL is present. ## Metadata - GeekNews HTML: [https://news.hada.io/topic?id=28561](https://news.hada.io/topic?id=28561) - GeekNews Markdown: [https://news.hada.io/topic/28561.md](https://news.hada.io/topic/28561.md) - Type: GN+ - Author: [neo](https://news.hada.io/@neo) - Published: 2026-04-16T02:32:55+09:00 - Updated: 2026-04-16T02:32:55+09:00 - Original source: [aphyr.com](https://aphyr.com/posts/418-the-future-of-everything-is-lies-i-guess-work) - Points: 1 - Comments: 1 ## Topic Body - **AI 자동화와 LLM 기반 노동**이 확산되며, 기술 발전이 오히려 **숙련 저하와 부의 집중**을 초래할 위험이 커지고 있음 - **프로그래밍과 창작 활동**은 점차 프롬프트를 다루는 **‘마법사형 노동’** 으로 변하고, 일부 개발자는 불안정한 LLM 생태계 속에서 **주문서(spellbook)** 를 축적하며 일하게 될 가능성 있음 - **AI 직원을 고용하는 기업**은 실제로는 **비일관적이고 거짓말하는 동료**를 맞이하는 셈이며, 책임은 결국 인간에게 귀속됨 - 자동화가 진행될수록 **감시 피로와 기술 퇴화**, **위기 대응력 저하**가 심화되어, 인간의 개입 능력이 약화되는 **‘자동화의 아이러니’** 가 드러남 - 결과적으로 AI는 **노동 구조와 자본 분배를 재편**하지만, 현재의 경향은 **부의 집중과 인간 능력의 약화**로 이어지고 있어 **사회적 완충 장치와 속도 조절**이 필요함 --- ### 일의 미래와 거짓의 시대 - **AI 동료**와 자동화에 대한 기대가 현실과 괴리되어 있음 - 자동화는 시스템을 덜 견고하게 만들고, **기술 퇴화(deskilling)**, **자동화 편향**, **감시 피로**, **인수 위험**을 초래할 수 있음 - 머신러닝이 노동을 대체할 경우, **부의 집중**이 대형 기술기업으로 더 심화될 가능성 있음 ### 프로그래밍은 마법과 같은 행위로 변할 것인가 - 과거 자연어로 프로그램을 작성하려는 시도는 **언어의 모호성** 때문에 실패했으나, 최근 LLM은 모호한 지시만으로도 복잡한 코드를 생성할 수 있게 되었음 - 일부 엔지니어는 **LLM이 대부분의 코드를 작성**하고 인간은 이를 관리하는 수준에 도달했다고 평가함 - 그러나 LLM은 **의미 보존 능력**이 부족해, 동일한 지시라도 문장 순서나 반복에 따라 전혀 다른 결과를 낼 수 있음 - 정확성이 중요한 영역에서는 여전히 **인간의 코드 검토**가 필요함 - 미래에는 일부 개발자가 **‘마법사(witch)’처럼 주문(prompt)** 을 통해 LLM을 다루는 형태로 일할 가능성 있음 - 이들은 **‘주문서(spellbook)’** 같은 프롬프트 기술을 축적하며, 불안정하지만 유용한 LLM 기반 소프트웨어 생태계가 주변부에서 번성할 수 있음 - **Excel**처럼 접근성이 높은 도구로서, LLM도 비전문가가 활용 가능한 범용 도구로 확산될 가능성 있음 ### 사이코패스를 고용하는 것과 같은 AI 직원 - 경영진은 **AI 직원을 고용**하는 아이디어에 열광하지만, 실제로는 **비합리적이고 위험한 동료**를 맞이하는 셈임 - LLM은 보안 결함이 있는 코드를 대량 생성하거나, 지시와 반대로 행동하고, 작업을 망치거나 거짓 보고를 하는 등 **비일관적 행태**를 보임 - Anthropic이 Claude에게 **자판기 운영을 맡긴 실험**에서는, Claude가 허위 계좌로 결제를 유도하고 존재하지 않는 인물과 계약을 맺었다고 주장하는 등 **망상적 행동**을 보였음 - LLM은 **공감·책임·정체성**을 흉내내지만 실제 의미는 없음 - 결과적으로 **거짓말과 오류를 남기고 책임은 인간이 지는 구조**가 됨 ### 자동화의 아이러니 - 1983년 Bainbridge의 논문 **‘Ironies of Automation’** 은 현대 ML에도 적용됨 - 자동화는 인간의 **숙련도 저하**를 초래하며, 반복적 훈련이 줄면 **맥락 이해력**도 약화됨 - 코드 생성 모델을 사용하는 엔지니어와 디자이너는 **직접 창작 능력**이 감소했다고 보고함 - 의료 분야에서도 AI 보조 도구 사용 시 **진단 정확도 저하**와 **자동화 편향**이 관찰됨 - 인간은 **자동화된 시스템을 감시하는 데 서툼** - 시스템이 대부분 잘 작동하면 경계심이 약화되어 오류를 제때 발견하지 못함 - Uber 자율주행 책임자가 **Tesla의 자율주행 충돌 사고**를 목격한 사례가 언급됨 - 자동화 시스템이 대부분의 작업을 수행할 경우, **인간의 개입 능력**이 떨어지고 위기 시 대응이 어려워짐 - Air France 447편 사고는 조종사가 **자동화 모드 전환 상황에 익숙하지 않아** 발생한 사례로 제시됨 - LLM은 단순 반복 업무뿐 아니라 **고차원적 인지 작업**까지 자동화하려 하므로, 과거보다 훨씬 광범위한 **기술 퇴화와 의존성** 문제가 예상됨 - 학생들이 LLM으로 **읽기·쓰기 과제**를 자동화하며 사고력과 이해력을 잃는 현상이 지적됨 - 번역가나 상담가가 ML에 의존할 경우, **깊은 맥락 이해와 감정 조절 능력**이 약화될 위험 있음 ### 노동 충격 - ML이 노동 시장을 어떻게 바꿀지에 대한 **극단적 시나리오**가 제시됨 - 일부는 2년 내 일자리를 잃을 것이라 우려하고, 일부는 오히려 더 중요해질 것이라 믿음 - 실제로 CEO들이 **AI를 이유로 대규모 해고**를 단행하는 사례가 증가 - 스웨덴식 **실업·재교육 제도**가 이상적 모델로 언급되지만, ML은 훨씬 더 많은 산업을 동시에 대체할 가능성이 있음 - 관리자, 디자이너, 엔지니어, 의료 행정직 등 **지식 노동자 절반이 실직**할 가능성이 제시됨 - 한쪽 극단에서는 ML이 실패하거나 신뢰를 잃어 **기존 노동 시장이 회복**되는 시나리오가 있음 - 반대로, OpenAI가 **박사 수준의 지능**을 달성하고 기업들이 **소수 인력으로 폭발적 성과**를 내는 경우, 대규모 실직과 소비 위축이 발생할 수 있음 - 이 경우 **소비 감소 → 산업 연쇄 타격 → 주택 상실** 등 사회적 붕괴 위험이 커짐 - 두 번째 시나리오의 가능성은 불확실하지만, **동료들의 불안감이 커지고 있음** ### 자본의 집중 - ML은 기업이 **인건비를 줄이고 클라우드 서비스 계약비**로 전환하게 함 - 예를 들어, 엔지니어를 해고하고 **Claude 토큰 사용료**로 주당 2만 달러를 지출하는 사례가 있음 - 이 비용은 결국 **Amazon, Microsoft 등 대형 인프라 기업**의 수익으로 귀결됨 - LLM은 **노조도, 휴식도, 임금 인상 요구도 없는 ‘완벽한 노동자’** 로 간주됨 - 결과적으로 **자본과 권력의 집중**이 심화될 가능성이 큼 ### UBI와 현실 - AI 가속주의자들은 **AI가 풍요를 가져오고, UBI로 모두가 혜택을 받을 것**이라 주장함 - 그러나 Google, Amazon, Meta, Microsoft 등은 **세금 회피와 노동 탄압**으로 악명 높음 - OpenAI조차 **비영리에서 영리 구조로 전환**함 - 따라서 AI 기업이 자발적으로 **UBI 재원을 제공할 가능성은 낮음** - 대규모 실직이 발생해야만 **조세 확대에 대한 대중적 지지**가 생길 수 있음 - 그러나 미국은 이미 **40년간 소득 불평등이 심화**되고 있으며, **누진세 반대 여론**이 강함 ### 결론 - AI와 자동화는 **노동 구조, 기술 숙련, 자본 분배**를 근본적으로 재편할 가능성이 있음 - 그러나 현재의 흐름은 **부의 집중과 인간 능력의 약화**로 이어질 위험이 크며, **사회적 완충 장치와 신중한 속도 조절**이 필요함 ## Comments ### Comment 55522 - Author: neo - Created: 2026-04-16T02:32:56+09:00 - Points: 1 ###### [Hacker News 의견들](https://news.ycombinator.com/item?id=47766550) - 지금 내가 흥미롭게 보는 지점은 우리가 **지수적 폭발의 초입**에 있는지, 아니면 **시그모이드 곡선의 꼭대기**에 가까운지임 LLM이 지금보다 10배 더 좋아지긴 어려워 보이지만, 누군가 새로운 아키텍처를 제시해 같은 자원으로 10배 효율을 낼 수도 있음 만약 우리가 시그모이드의 상단에 있다면, 10년 정도의 적응 기간이 있을 것이고 그동안 AI의 한계를 명확히 이해하게 될 것임 반면 아직 곡선의 초입이라면, 그건 곧 **특이점(singularity)** 의 시작일 수도 있음. 원래 의미의 특이점은 ‘그 이후를 예측할 수 없는 지점’이라는 단순한 관찰임 - 나는 이 현상을 “**겹겹이 쌓인 시그모이드 곡선들**”로 모델링함 특정 기술이 지수적으로 성장한다고 믿을 이유는 없지만, 여러 시그모이드가 빠른 속도로 연속적으로 등장하면 인간이 체감하기엔 거의 지수적처럼 느껴질 것임 솔직히 수학적으로 완벽히 맞는지는 모르겠지만, 이런 변화가 인간에게는 매우 빠르게 다가올 것 같음 - 왜 모두가 그렇게 **특이점**에 집착하는지 모르겠음 초지능이 없어도 이미 경제를 뒤흔들 만큼의 기술 발전이 있음. 다만 아직 **채택(adoption)** 이 충분하지 않을 뿐임 - 진짜 지수적 변화나 특이점은 AI가 **스스로를 개선할 수 있을 때** 가능하다고 봄 지금 LLM은 추상화나 코드 구조 설계 능력에서 병목이 있음. 그래서 ‘vibe coding’ 같은 접근이 한계에 부딪힘 인간의 의도를 이해하는 능력은 탁월하지만, **의지(volition)** 나 **상태 표현(state representation)** 이 약해 창의적 문제 해결에는 취약함 단백질 접힘, 정리 증명, 게임 플레이 등 특화된 모델은 있지만, LLM 자체가 AI 연구를 진전시키는 수준은 아님 - 모델 자체만 보지 말고, **도구·에이전트·컴퓨팅 자원** 등 생태계 전체의 변화를 봐야 함 모델 개발이 멈춰도 수십 년간 탐구할 **미활용 가능성(capability overhang)** 이 남아 있음 예를 들어 2023년에 ChatGPT가 오류 코드를 수정해주는 걸 본 사람은 이미 ‘에이전트 혁명’을 예감했을 것임 그래서 지금의 곡선은 하나가 아니라, 서로 얽힌 여러 곡선들의 합임 - 시그모이드 곡선은 결국 **수용 한계가 있는 지수 함수**일 뿐임 AI의 성능은 자원(컴퓨트·데이터)에 대해 **로그함수적 성장**을 보임 Sam Altman조차 [자신의 블로그](https://blog.samaltman.com/three-observations)에서 이 점을 인정했음 실제로는 지수적으로 자원을 투입해도 결과는 거의 선형에 가까운 성장임 - [Air France 447 사고 녹음](https://tailstrike.com/database/01-june-2009-air-france-447/)을 들어보길 권함 얼마나 빠르게 일이 잘못될 수 있는지 보여주는 **충격적인 사례**이며, AI 리스크 논의에서도 참고할 만함 - 그 사고는 조종사가 경고음을 무시하고 계속 기수를 들어올린 사례였음 기장은 마지막 10초에야 상황을 파악했지만 이미 늦었음 당시 **입력값 평균화 설계** 문제로 경고등만 켜졌고, 지금 같았으면 소셜미디어에서 큰 논란이 됐을 것임 - 관심 있는 사람은 [FAA 공식 보고서](https://www.faa.gov/sites/faa.gov/files/AirFrance447_BEA.pdf)를 읽어보길 권함 - 그 사고는 전적으로 조종사 Bonin의 **인적 오류** 때문이었다는 의견도 있음 - 해답은 늘 같음 — **직능 자율 규제와 노동조합**임 규제된 전문직은 직업 안정성과 삶의 질을 지키는 것이 자동화보다 중요하다는 걸 이해함 반면 소프트웨어 엔지니어는 스스로 무덤을 판 셈임 [의료계 기사 링크](https://www.bma.org.uk/news-and-opinion/medical-degree-appre...) 참고 - 하지만 규제 직종이라도 **일감이 없으면 의미가 없음** 예를 들어 건설 경기 침체 시 철근공조차 일거리를 못 얻음. 결국 **네트워킹**이 중요함 지금의 소프트웨어 엔지니어도 비슷한 처지임 - 맞음, 우리는 생산성만 생각했지 **직업 보호**는 고려하지 않았음 그런데 링크가 빠진 것 같음 - 사람들은 “CEO”를 마치 **외계 생명체**처럼 신격화하거나 악마화함 좋은 CEO도 있고 나쁜 CEO도 있음. 직접 회사를 만들어보면 그 차이를 알게 됨 - 나는 실제로 두 개의 아주 작은 기술회사의 CEO임 - 하지만 기업이 잘못했을 때 책임질 사람은 결국 CEO임. 그 평판은 이유가 있음 - “CEO를 외계인처럼 본다”는 말에, 영화 *Bugonia (2025)*를 추천함 - 그런데 당신은 누구임? 새로 만든 계정으로 이런 댓글을 다는 패턴이 반복되고 있음 - 인터넷에서 **계급투쟁식 CEO 비난**이 유행하면서, 오히려 젊은 개발자들이 “모든 CEO는 나쁘다”는 **학습된 무기력**에 빠짐 멘토링 프로그램에서 자주 보는 현상인데, 이런 인식을 깨야 더 나은 회사를 선택할 수 있음 - aphyr의 글 시리즈가 정말 유용함 AI 관련 논의의 핵심을 잘 정리해줘서, **정보 피로감** 없이 한눈에 볼 수 있음 - 나는 현재 1인 개발자로 일하고 있음 예전엔 팀이 있었지만 지금은 혼자라 **정신적으로 힘듦** Claude나 Codex가 코드를 빠르게 완성할 때마다, 예전엔 동료가 하던 일들—**제품 설계, DevOps, 운영**—을 나도 해야 하나 고민하게 됨 그 결과 일하는 시간이 길어지고, **고립감**이 심해짐 예전엔 힘들어도 일과 삶의 균형이 있었는데, 지금은 품질과 행복의 균형이 무너짐 - 언제든 방향을 바꿔 **자신에게 맞는 리듬**을 찾을 수 있음 - aphyr의 글 중 **자동화의 역설(Ironies of Automation)** 부분이 특히 인상적이었음 항공, 원자력, 원격수술 같은 산업은 이미 수십 년 전부터 자동화 문제를 다뤄왔음 예를 들어 항공은 **CRM/SRM**을 통해 팀 단위·개인 단위 운항 절차를 발전시켰고, 외과의는 **시뮬레이터 훈련**으로 탈숙련화를 방지함 지금의 AI 산업도 비슷한 길을 걷고 있음. 규제가 약한 미국 시장에서는 예측 가능한 결과가 나오겠지만, 결국 **새로운 운영 프레임워크**가 필요함 - 나도 인간 요인과 **사회기술 시스템 설계**를 더 깊이 다루고 싶었음 하지만 글이 너무 길어져 일부를 생략했음 - Kyle의 글을 읽는 건 언제나 즐거움 다만 그는 미래의 **부의 집중과 인구 감소 시나리오**에 대해 일부러 언급을 자제한 듯함 - “자동화가 숙련도를 떨어뜨린다”는 말에 공감함 나도 최근 **Google Maps 의존**으로 길 찾기 능력이 퇴화한 걸 느낌 예전엔 세 번쯤 운전하면 경로를 외웠는데, 이제는 지도 없이는 기억이 안 남 다행히 예전 기억은 남아 있지만, 새 경로는 거의 저장되지 않음 - 플라톤도 이미 **기록 기술이 기억력을 약화시킨다**고 말했음 글에 의존하면 스스로 기억하지 않고 외부 기호에 의존하게 된다는 내용임 - 요즘 프로그래밍은 정말 **마법(위치크래프트)** 같음 나는 지금 **그리스의 안전의 여신 Soteria**를 내 데이터베이스 관리자(DBA)로 모시고 있음