17P by GN⁺ 1일전 | ★ favorite | 댓글 1개
  • "Software is Changing (Again)"
  • 소프트웨어 패러다임은 70년 만에 본질적으로 변화하며, 최근 몇 년간 Software 1.0(전통적 코드), 2.0(신경망 가중치), 3.0(LLM과 자연어 프롬프트) 로 급속하게 진화함
  • LLM은 단순 도구가 아닌 새로운 운영체제(Operating System)와 유사한 소프트웨어 생태계로 자리잡고 있으며, 누구나 영어 등 자연어로 컴퓨터를 프로그래밍할 수 있는 시대가 열림
  • AI 도구·에이전트와의 협업, '부분적 자율성(Partial Autonomy)'이 미래 소프트웨어 제품의 핵심이 되고, 인간의 빠른 검증과 통제가 병행되어야 신뢰할 수 있음
  • AI와 LLM은 ‘사람 같은 영혼(people spirits)’의 특성을 가지며, 엄청난 기억력·지식력과 동시에 헐루시네이션, 맥락 상실, 보안 위험 등 고유의 한계를 내포
  • 향후 소프트웨어·문서·인프라는 ‘에이전트 친화적(Llms-friendly)’으로 재설계되어야 하며, LLM이 쉽게 이해·행동할 수 있도록 구조와 표현 방식이 변화함

소프트웨어 1.0 → 2.0 → 3.0 : 패러다임의 진화

  • Software 1.0: 사람이 직접 작성한 전통적인 소스코드
  • Software 2.0: 신경망의 가중치(파라미터)를 데이터셋과 옵티마이저로 튜닝해 만드는 모델
  • Software 3.0: 대형 언어 모델(LLM) 기반, 영어 등 자연어 프롬프트로 프로그램(명령) 생성
  • 최근 GitHub에서 코드는 영어와 코드가 혼합된 형태로 진화하며, 프로그래밍 언어로서의 영어가 빠르게 확산
  • Hugging Face 등은 Software 2.0의 ‘GitHub’ 역할을 하며, 오픈소스 모델 생태계를 주도함

LLM은 새로운 운영체제(OS)다

  • LLM은 단순 API·유틸리티를 넘어 운영체제처럼 다양한 소프트웨어가 돌아가는 플랫폼으로 진화 중
  • 현재는 1960년대 메인프레임 시대와 유사하게, 클라우드 중심의 중앙집중 구조에서 LLM 활용이 이루어짐
  • 장기적으로는 개인용 LLM 시대(분산·로컬 활용)가 도래할 가능성도 언급
  • LLM 활용 환경은 전통적인 터미널·명령줄 인터페이스와 유사하지만, 아직 범용 GUI는 충분히 발달하지 않음

LLM의 능력과 한계

  • LLM은 거대한 기억력과 지식 습득 능력을 갖추었으나, 헐루시네이션(허위 정보), 맥락 기억 상실, 보안 취약성 등 고유의 결함 존재
  • LLM의 ‘작업 맥락(working memory)’은 사람이 명시적으로 관리해야 하며, 장기적 맥락 학습은 아직 미흡
  • 보안·프롬프트 인젝션 등 실질적 위험 요소가 있으므로 활용 시 주의 필요

부분적 자율성(Partial Autonomy)과 인간-LLM 협업

  • Cursor, Perplexity 등 LLM 기반 앱은 전통적 수동 조작과 LLM 자동화의 결합, ‘자율성 슬라이더’(사용자 통제/AI 위임 정도 조절) 개념으로 진화
  • GUI를 통한 감사(audit)와 빠른 검증 루프, ‘AI를 짧게 묶어 통제하는 방법론’이 실무에 필수적
  • 소프트웨어, 제품, 서비스 모두 점진적으로 ‘부분적 자율화’가 강화될 것으로 예측

실제 사례와 ‘Vibecoding’ 문화

  • 누구나 영어로 직접 LLM을 통해 앱을 만들어보는 ‘Vibecoding’ 문화가 확산
  • Karpathy도 코딩 경험 없는 언어(Swift)로 단 하루 만에 iOS 앱을 만들고, 실제 서비스로 확장하는 경험 공유
  • 실제 프로토타입 개발은 LLM이 쉽게 해주지만, 실제 서비스화(인증, 결제, 배포 등)는 여전히 수작업과 DevOps가 병목
  • 앞으로는 사람이 직접 클릭·설정해야 하는 부분을 ‘에이전트’가 대행할 수 있도록 ‘에이전트 친화적 소프트웨어/문서’ 설계가 핵심 과제

문서·인프라의 변화와 에이전트 친화성

  • 기존 인간 중심 문서(클릭, 순서 등)는 LLM·에이전트가 바로 활용하기 어렵기 때문에, Markdown·명령어 기반으로 재구성 필요
  • Versell, Stripe 등은 에이전트 친화적 문서 전환(예: curl 명령 등) 을 시작
  • 다양한 도구(GitHub Ingest, DeepWiki 등)는 코드 리포지터리·문서를 LLM이 바로 활용 가능한 형태로 변환해줌

결론 및 전망

  • 지금은 수많은 코드를 새롭게 쓰고, 재작성해야 하는 최고의 시기
  • LLM은 ‘보조적 도구(Iron Man 슈트)’로써 인간 개발자와 협업하며, 완전 자율화로 나아가는 점진적 혁신이 진행될 것
  • 향후 10년간 ‘자율성 슬라이더’를 단계적으로 높이는 과정이 핵심 트렌드가 될 전망
  • 개발자와 조직은 LLM·에이전트에 최적화된 소프트웨어·문서·인프라 재설계를 서둘러야 함
Hacker News 의견
  • Karpathy의 비유와 현실을 정확하게 바라보는 시선이 정말 좋다는 감상 전달
  • 전통적인 코딩, 신경망 가중치, 프롬프트를 병렬 비교하는 것이 흥미롭다는 의견 제시, 예를 들어 자율주행 모듈에서 직접 작성한 코드 대신 대상을 잘 대변하는 데이터셋에 맞춰 신경망을 최적화하는 방식이 실제로 꽤 유용하다는 설명 포함, 하지만 많은 환경에서 하드웨어 제약 때문에 "software 2.0"이나 "software 3.0"이 불러올 적용 범위가 매우 제한적일 것이라는 점도 강조, 기존의 코드와 프롬프트는 서로 보완적으로 활용되는 도구로 남게 되고, 둘 중 하나가 완벽한 해결책이 되는 것이 아니라는 관점 공유
  • Karpathy가 늘 명확하게 사고하는 인재라는 칭찬과 함께 비유가 인상적이라는 언급, Waymo가 2013년에도 이미 중단 없는 자율주행이 가능했음을 보고, 이렇게 빨리 확장하지 못했던 이유가 규제 때문인지, 아니면 운전 최적화의 어려움 때문이었는지 궁금하다는 호기심 표현, 슬라이드 중 하나에 ‘AGI 2027’이라고 표시된 것이 있었다며 ai-2027.com 언급
  • 발표가 예정보다 훨씬 더 빠르게 나와 놀랐다는 짧은 의견 전달
  • 토크가 구식이 되기 전에 YC가 먼저 공유해줘서 고맙다는 인사와 함께 관련 트윗 링크(https://x.com/karpathy/status/1935077692258558443) 제공