우리는 작동 방식을 아는 마지막 세대

 (unix.foo)
5P by GN⁺ | ★ favorite | 댓글 1개
  • 1990년대 컴퓨터 게임은 autoexec.bat, 부팅 디스크, 사운드 카드 인터럽트 같은 기계의 조건을 사용자가 직접 배워야 실행할 수 있었음
  • 모뎀 협상음, 드라이브 점퍼, 잘못 설정한 인터럽트처럼 컴퓨터는 사용자를 밀어냈고, 그 저항을 겪는 과정이 작동 방식을 아는 통로였음
  • AI assistant는 설정 파일이나 조건을 요구하기보다 사용자의 문장에 맞춰 스스로를 재배치하는 순응적인 도구에 가까움
  • 핵심 손실은 기술 역량보다 친숙함의 상실임; 기계와 싸우고 실패한 뒤 다시 시도하며 생기는 관계가 사라지고 있음
  • 앞으로 우리는 어느 때보다 기계에 더 의존하지만, 동시에 그 기계를 덜 알게 되는 상태에 놓일 수 있음

어려움이 지식이던 컴퓨터 경험

  • 1990년대에 컴퓨터 게임을 하려면 먼저 컴퓨터가 어떻게 작동하는지 조금은 알아야 했음
    • autoexec.bat 같은 파일을 열어 읽었음
    • 특정 게임 하나를 실행하기 위해 전용 부팅 디스크를 만들기도 했음
    • 기계가 허락하지 않으면 게임을 할 수 없었고, 사용자는 기계의 조건을 배워야 했음
  • 당시의 컴퓨터와 주변기기에는 사용자가 직접 맞서야 하는 마찰이 있었음
    • 모뎀은 연결 협상을 소리로 들려줬고, 반복해서 들으면 통화가 끊길 조짐도 알아차릴 수 있었음
    • 드라이브에는 손톱으로 작은 점퍼를 설정했음
    • 사운드 카드가 어떤 인터럽트에 응답하는지 알아야 했고, 틀리면 아무것도 작동하지 않았음
  • “어려움이 곧 지식”이라는 감각이 당시의 컴퓨터 경험을 관통함
    • 사용자는 자신을 밀어내는 대상을 통해 기계를 알게 됨
    • “질 수 있는 대상만 알 수 있다”는 문장이 이 경험을 압축함

순응적인 AI와 사라지는 친숙함

  • 오늘날의 AI assistant는 마지막 편의성처럼 보이며, 사용자가 원하는 것을 말하면 결과가 나타나는 방식으로 작동함
    • 설정 파일을 읽게 하지 않음
    • 조건을 내걸지 않음
    • 사용자의 문장에 맞춰 스스로를 바꾸고, 사용자가 불만을 보이면 사과한 뒤 다시 시도함
  • 도전하지 않는 기계는 알기 어렵고, 주로 사용의 대상이 됨
    • 역량이 사라진다는 이야기가 핵심은 아님
    • AI 모델은 사람이 읽지 않는 매뉴얼까지 읽었고, 기계가 어떻게 작동하는지 말할 수 있음
    • 계산 능력이나 기술 지식만 놓고 보면 지식은 더 안전해졌다고 볼 수 있음
  • 사라지는 것은 특정 기계와 부딪히며 생기는 친숙함임
    • 어떤 기계와 싸우고, 실패하고, 다시 시도해 마침내 작동시키는 경험이 줄어듦
    • 사람들은 이전보다 더 기계에 의존하게 되지만, 동시에 그 기계를 덜 알게 됨
  • 다음 세대는 이를 상실로 느끼지 않을 수 있음
    • 한 번도 맺어 본 적 없는 관계는 그리워할 수 없음
    • 그들은 모든 것을 해 주고 아무것도 요구하지 않는 도구를 전등 스위치처럼 자연스럽게 쓸 수 있음
  • 모뎀 연결음 녹음을 현대 컴퓨터가 즉시 완벽하게 재생하는 장면은 이 대비를 보여줌
    • 과거의 모뎀 소리는 마음속에 남아 있음
    • 그 소리를 재생한 현대의 기계는 같은 방식으로 알 수 없음
    • 현대의 기계는 사용자가 그렇게 알 필요가 없도록 만들어졌고, 그것이 우리가 원했던 결과임

함께 보면 좋은 글 β

GN⁺   [-]
Hacker News 의견들

  • Pangram이 이 글을 AI 작성으로 표시한다니 아쉬움
    https://www.pangram.com/history/c0a9cde2-7a5c-4588-83a3-0269...

    • 내가 저자라서 보장하는데, 나는 실제 사람이고 이건 AI가 아님
      순수 AI 글이 늘어나는 건 분명하지만, 이런 식으로 콘텐츠를 “분석”한다는 서비스는 득보다 해가 더 크다고 봄
    • 애초에 LLM보다도 이런 AI 판별기를 더 못 믿겠음
    • 풍자적으로 훌륭한 Genius AI detector는 제대로 AI가 아니라고 판정함
      https://geniusaidetector.com/
    • LLM이나 이른바 “AI”가 존재하기 훨씬 전 대학원 때 쓴 논문 몇 편을 넣어봤더니, 약 70% AI라고 표시됐음
    • 이런 판별기는 그냥 헛소리에 가깝다고 봄

  • 문제는 이게 어떻게 작동하는지 모른다는 데 있음
    대체로 우리는 태어날 때부터 접한 추상화 계층은 이해하고, 그보다 한두 단계 아래도 어느 정도 알 수 있지만 아래로 갈수록 이해가 줄어듦
    나이를 먹으며 이 과정을 직접 봤고, 한때는 희귀한 지식으로 엄청난 수요가 있었지만 이제 젊은 사람들이 가진 희귀 지식 대부분은 내가 별로 신경 쓰지 않는 것들이며, 내게는 이미 대부분 추상화로 사라진 문제를 푸는 정교한 기술만 남아 있음

    • 현재 추상화 계층의 큰 도약에서 특히 다른 점은 결정성의 상실이라고 봄
      이건 의미 있게 다른 변화임
    • 그 말이 꼭 맞는지는 모르겠고, 너무 일반화한 것 같음
      여기 있는 사람들 중 모래를 실리콘으로 바꾸는 공정이나 리소그래피용 고급 렌즈를 손으로 연마하는 전문성을 아는 사람은 많지 않겠지만, 그런 것들이 필요하다는 점과 대략적인 철학적 개념은 알고 있음
      위험은 저수준 인프라 작업을 너무 완전히 자동화해서, 미래 세대가 자신들이 쓰는 기술이 어떻게 만들어지는지에 대한 개념적 틀조차 갖지 못하게 될 때 생김
    • 동의하지만, 추상화는 시스템 안의 지식을 넓게 적용할 수 있게 해줌
      AI가 생성한 시스템에서는 이 장점이 문밖으로 나가버림. 극도로 조심하지 않으면 새 코드베이스에 일관성이 없고, LLM과 프롬프터 눈에는 “작동했기 때문에” 새로운 패러다임이 여기저기 도입됨
      같은 패턴이 37번씩 조금씩 다르게 반복돼도 상관없었던 셈이라, 이제 지식의 이식성이 떨어짐
      예전에는 코드를 보고 “왜?”라고 물으면 대개 과거 경험이나 실험을 통해 “x, y, z를 해봤는데 안 됐다” 같은 답이 있었음. 하지만 LLM은 요청한 일을 한다는 이유만으로 복잡한 것을 넣음
      유효한 출처에서 문자열을 바이트 단위로 읽다가 \0을 만날 때까지 가는 건 작동하겠지만, API 문서가 X라고 말한다면 왜 그게 맞는지 다시 검사하고 있는지 한 발 물러서서 생각해야 함
    • 이런 식의 향수화는 별 도움이 안 된다고 봄
      나도 아주 늙은 편은 아니지만 C++로 시작했고, 수동 메모리 관리와 프로그래밍 언어 설계를 배웠으며, 당시에도 꽤 난해했던 어셈블리 수업도 들었음
      어셈블리에 능숙하지도 않고 그럴 생각도 없지만, 고수준 코드가 저수준 어셈블리/기계어 명령으로 어떻게 컴파일되는지 이해하는 건 성능을 조작하는 감각을 얻는 데 매우 가치 있음. 루프 펼치기처럼 “어리석어 보이는” 일이 명령어 수를 줄이는 데 얼마나 큰 영향을 주는지도 알게 됨
      뉴턴/샤르트르의 베르나르가 말했듯 우리는 거인의 어깨 위에 서서 더 멀리 보지만, 발밑 땅의 세부는 잃음. 현대인은 트랜지스터로 컴퓨터를 직접 만들며 얻는 폭넓은 전문성을 더는 갖기 어렵지만, 학문적으로 배워 여전히 중요한 지식 조각을 얻어야 함
      이런 고도로 특화된 분야의 전문가가 다른 사람을 세부 정보로 압도하지 않으면서 관련 내용을 공유할 수 있는 소통 능력을 갖추면 엄청나게 유용함
    • “태어날 때부터 접한 추상화 계층은 안다”는 말은 대체로 한 시대의 일자리 대부분이 비슷한 추상화 수준을 다루기 때문에 사람들이 그 수준에 머무른다는 뜻으로는 맞음
      하지만 나는 이걸 기술 부채를 안고 태어나는 것으로 보고, 이전 세대가 무엇을 만들었는지와 내가 어느 방향에서 일하는 게 맞는지를 이해하는 것이 엔지니어로서의 의무라고 봄

  • 얻는 속도만큼 거의 빠르게 무언가를 잃고 있다는 점을 말로 표현한 건 작은 일이 아님
    글의 향수 어린 분위기 아래에는 통제력 상실과 매일 커지는 불안이 깔려 있음
    아주 어린 사람들이 터치 인터페이스와 앱만 배워서 좁은 의미의 컴퓨터 사용을 못 하는 모습을 보면 이미 꽤 충격적임. 큐레이션된 콘텐츠와 인터페이스, 시장의 최저공약수를 만족시키기 위해 수천 번의 반복으로 어려움이 다림질된 환경임
    그래도 오늘날 가장 많이 만들고, 좋은 것과 작동하는 것과 유지보수 가능한 것을 만드는 사람들은 도구를 얻었지만 우리가 쓰는 매체에 대한 지식은 잃지 않은 사람들이라고 봄

    • 모든 것을 금융화하는 흐름이 많은 것을 망치고 있음
      컴퓨터와 인터넷 영역에는 이것저것 만지고, 직접 PC를 조립하고, 악성코드 때문에 C 드라이브를 포맷하고, 포럼이나 Myspace 페이지를 꾸미려고 “스니펫”을 찾던 따뜻한 향수가 있음
      하지만 결국 돈의 유인이 지배하게 됨. 재미와 지식을 위한 만지작거림은 수익성이 없고, 돈과 자본에 최적화한 사람들이 돈과 자본을 다 집어삼키면 각자의 돈과 자본에 대한 태도는 점점 덜 중요해짐
      지금 벌어지는 일 중 가장 걱정스러운 건 부의 격차이고, 그와 밀접하게 연결된 “탈진실”도 뒤따름. 사람들은 상업적이거나 이념적인 목적을 향해 믿고 싶은 것을 기꺼이 믿고, 자신이 잘 안 풀릴 때 이웃을 미워하고 탓하기 쉬워짐
    • 평균적으로는 통제력을 잃고 있지만, 개인은 통제력을 잃을지 말지 선택할 수 있음
      프로그래밍 언어, UNIX, 디버거는 사라지지 않음. 컴퓨팅에는 상사가 요구하는 것과 기술 포럼에서 유행하는 것보다 훨씬 많은 것이 있음
      오히려 인디/핸드메이드 장면은 취미 수준으로라도 크게 성장하거나 붐을 이룰 것 같음. 기계에게 시키면 됐을 일을 피땀으로 직접 만들었다는 사실은 더 큰 찬사와 즐거움을 끌어낼 수 있음
    • “아주 어린 사람들이 이른바 자동차의 기계식 조작만 배워서 좁은 의미의 차량 사용을 못 한다는 게 충격적이다”라고도 계속 말할 수 있음

  • 몇십 년 동안 컴퓨터 기술에는 취미가들이 비용 부담 없이 실험하고, 초기 컴퓨팅 분야의 한계를 밀어붙일 수 있는 스위트 스폿이 있었음
    유전적 방산처럼 많은 틈새가 생기고 빠르게 채워졌고, 이제 컴퓨팅 생태계는 한때 유일한 상호작용 수단이던 저수준 추상화가 아니라 우리가 가능한 가장 높은 추상화인 이른바 “자연어”에서 움직이는 수준까지 진화함
    “어려움은 지식이었다. 저항하는 것을 알게 되듯 기계를 알게 됐다. 저항 자체가 매체였다. 잃어볼 수 있는 것만 알게 된다.”
    그 시대를 지나온 우리는 직접 만지는 엔지니어의 지식을 형성했고, 추상화 계층이 최전선에서 발전하는 과정을 경험과 실습으로 배웠음. 요즘에는 쉬운 답이 넘치는 세계로 들어온 사람이 많지만, 그 답이 맞는지는 별개이고 정확성을 얼마나 중요하게 여길지 스스로 가늠해야 함

    • 이건 확실히 맞고, 비슷한 무언가가 다시 필요함
      아이들에게 Python을 가르치려고 “The Farmer Was Replaced”라는 게임을 출발점으로 쓰고 있는데, 생각할수록 예전 Apple //e처럼 스스로 충분히 실수할 수 있는 하드웨어 패키지가 필요하다는 생각이 듦
      당시에는 그런 시스템에서 어셈블러까지도 많이 배우기 쉬웠고, 시계를 그 지점으로 되감아 경험을 갈라낸 뒤 새 세대 아이들이 무엇을 만들어낼지 보는 데 가치가 있을 것 같음

  • 2400 보드 모뎀 협상음 순서가 뉴런에 새겨진 늙은 축에 속함
    한동안 내 시스템들 사이에 WireGuard 연결을 설정하려 했지만, 일과 가족으로 바빠 지금은 Tailscale에 맡겨둠
    네트워크 경로, 방화벽 규칙, 키 쌍, systemd 유닛 등을 포함해 여러 호스트에서 직접 설정할 수도 있었겠지만, “싸고 쉬운” 대안이 바로 거기 있었고 작동했음. 재인증을 강제로 요구할 때만 빼고
    LLM 에이전트로 기존 네트워크를 손쉽게 분석하고, 내가 원하는 작업에 맞춘 스크립트를 만들 수 있었음. 내가 할 일은 보안 문제 등을 검토하는 것뿐이었고, 내 네트워크 토폴로지 때문에 라우팅 규칙에 필요한 구체적 수정이 3~4개 보였음
    직접 매뉴얼 몇 개를 읽고 한두 시간 만지작거리며 스크립트를 반복 수정해도 도달했겠지만, 에이전트의 가용성과 효과는 너무 유혹적임
    이게 내 기술 역량에 무엇을 의미하는지, 이제 그게 중요하기나 한지 잘 모르겠음. 그래도 머리가 제대로 돌아가는 한 매뉴얼을 읽고 이런 걸 스스로 알아낼 수는 있을 거라 꽤 확신함. 이 속도라면 내 아이들도 같은 능력을 갖게 될지는 의문이고, 그게 얼마나 중요할지도 모르겠음
    어쨌든 아이들이 LLM에 과도하게 의존하지 않고 “옛 방식”으로 문제를 풀도록 돕고 있음. AI가 얼마나 유능해지든 문제 해결 능력을 기르지 못하면 삶에서 불리해질 뿐이라는 건 꽤 확실함

    • 모두가 AI가 우리의 주의와 이해를 빼앗는다고 불평하지만, LLM은 더 깊이 이해하기 위한 도구로도 쉽게 쓸 수 있음
      다만 대부분의 기본 경로가 “야 고철아, 이거 해”이지 “안녕 고철아, 그게 어떻게 작동하는지 알려줘”가 아닐 뿐임
      후자 방식도 조금 해봤는데, 특히 혼자 배우는 사람에게는 교육 도구로서 놀라울 정도로 저평가돼 있음
    • 300 보드에서 2400 보드로 넘어간 건 마법처럼 느껴졌음

  • autoexec.bat을 편집하거나 부팅용 플로피를 넣을 줄 알던 1990년대 컴퓨터 사용자가 의미 있는 수준에서 “컴퓨터가 어떻게 작동하는지 알았다”고 볼 수 있는지 확신이 안 듦
    지금은 추상화 스택이 더 깊어졌고, 앞으로도 계속 깊어질 것 같지만 1990년대에도 이미 추상화는 꽤 깊었음
    여기서 흔한 오류는 인구집단 착각이라고 봄. 컴퓨터 너드들은 재미로 추상화를 뚫고 들어가고, 그건 웹 브라우저가 커널 작성자를 없애지 못했던 것처럼 멈추지 않을 것임
    오히려 저수준 코드는 예전보다 더 많이 쓰고 있음. 필요한 지식에 대한 접근이 예전보다 덜 게이트키핑되기 때문임

    • 이 말은 더 자주 나와야 함
      지금 HN에서 가장 목소리가 큰 집단은 너드가 아니라, 발 디딜 곳을 찾으려는 창업가와 사기꾼들에 가까움
      그들은 “AI”의 영향력을 계속 과장하고, 이제는 팔로워들에게 가장 향수 어린 순간을 떠올리게 한 뒤, 그 시절 모두가 자신들처럼 더듬고 혼란스러워했다고 가정하게 하고, 나머지 역사는 무시하게 함

  • “지식은 위험하지 않다. 사실 그 어느 때보다 안전하다. AI 모델은 인간이 읽지 않는 모든 매뉴얼을 읽었다”는 말에는 동의하지 않음
    모델에 매뉴얼을 요청했을 때 학습 데이터의 매뉴얼을 그대로 토해낸다면 그건 과적합임. 실제 매뉴얼처럼 보이는 무언가나, 매뉴얼에 관한 질의에 맞는 무언가를 토해낼 것임
    오류를 발견하면 때로는 반박해야 하는데, 무엇을 찾아야 하고 무엇을 기대해야 하는지 이미 알아야만 오류를 발견할 수 있음. 아니면 출력은 무시하고 링크만 가져와야 하는데, 그 링크도 낡았거나 지어낸 것일 수 있음. 검증하기 전에는 알 수 없음
    그리고 이건 압축과 시간에 따라 열화됨
    왕도는 없음. 직접 해보고 좌절하고 이해하려고 애쓰는 과정이 엄청난 보상을 준다는 데 동의함. “모든 것을 빠르게, 지금 당장”이라는 시대에도 그 과정은 여전히 가치 있고 크게 저평가돼 있음

  • “어릴 때는 부모님 컴퓨터를 고쳤고, 나이 들어서는 아이들 컴퓨터를 고친다. 우리가 컴퓨터가 어떻게 작동하는지 아는 유일한 세대인가?”
    https://x.com/ryancbriggs/status/1847391612428517844
    https://xcancel.com/ryancbriggs/status/1847391612428517844

    • 아님. 그 사람 가족 안에서만 그가 컴퓨터가 어떻게 작동하는지 아는 유일한 사람일 뿐임
      더 나이 든 세대와 더 어린 세대 모두에 컴퓨터를 아는 사람은 많고, 다만 그의 부모나 아이들이 아닐 뿐임. 오늘날 가장 인상적인 어셈블리를 쓰는 사람들 중에는 20세 미만도 있음. 괜찮을 것임
    • 다른 각도에서 보면, 교육을 많이 받지 못한 노동계급 아버지는 80~90년대 컴퓨터 잡지를 보며 즐겁게 프로그래밍을 조금 독학했고, 명령 프롬프트도 어떻게든 다룰 수 있었음
      나는 컴퓨터과학을 전공하고 학부 수업을 가르쳤는데, 이미 10년쯤 전부터 부팅 가능한 Linux USB를 건네받은 컴퓨터과학 학생들이 시스템 설정을 못 하는 걸 봤음
      단지 지식 부족이 아니라, 2분 안에 안 되면 “안 됐는데 뭘 해야 하죠?”라는 메일을 보내는 완전한 무기력이 문제였음. ChatGPT 같은 것에 의존하는 가장 큰 문제도 그쪽임
      젊은 세대는 더 안 좋은 위치에 있는 것 같음. 컴퓨터가 어떻게 작동하는지 모를 뿐 아니라, 우리 부모 세대가 가졌던 기본적인 DIY 문제 해결 태도조차 없는 경우가 있음

  • 점퍼를 손으로 맞추고, 사운드 카드 인터럽트를 다루고, autoexec.bat을 만지던 예시들이 모두 와닿음
    동시에 LLM과 에이전트도 잘 쓰고 있음. 이 글은 잃어버린 것이 무엇인지 잘 포착했고, 다른 분야에서도 이미 오래전에 잃었거나 애초에 없었던 것들—예컨대 현대 자동차와 Model T의 차이—과 닮아 있음
    돌아가고 싶지는 않지만 상실감은 여전히 느낄 수 있음. 글도 아름다움

  • 모딩 커뮤니티는 여전히 살아 있음
    아이들은 아직도 Minecraft 서버를 호스팅하거나, 요즘 유행하는 무언가를 가지고 놀고 있을 것임. DIY 8비트 컴퓨터도 인기를 얻고 있음
    어떤 것이 아주 주류가 됐다고 해서 모두에게 물타기됐다는 뜻은 아니라고 봄. 호기심과 열정의 수준이 다른 사람들은 언제나 있음

    • 인간의 호기심은 꺼뜨릴 수 없다고 봄
      인센티브를 줄일 수는 있어도 없앨 수는 없음. 너드는 언제나 너드임
답변달기