AI가 우리의 능력을 망치고 있는가? 초기 연구 결과는 부정적

 (nature.com)
7P by GN⁺ | ★ favorite | 댓글 3개
  • 업무 현장에서 AI 도구 의존이 커지면서, 의료·컴퓨터과학 등 숙련이 중요한 분야에서 사람이 쌓은 역량이 약해질 수 있다는 초기 근거가 나오고 있음
  • 폴란드 내시경 전문의 대상 연구에서 AI 미사용 시 선종 발견율이 28.4%에서 22.4%로 하락
  • Anthropic의 무작위 대조 실험에서 AI 보조를 받은 엔지니어의 퀴즈 평균 점수가 50%로, 미사용 그룹 67%보다 저조
  • 미국 의료 종사자 조사에서 간호사 70%, 의사 77%가 AI 과의존으로 인한 역량 상실을 우려
  • 과거 GPS가 길찾기 능력을 약화시킨 것처럼, 생성형 AI는 사고·해석 같은 인지 능력 자체를 자동화하는 첫 기술로서 인간 전문성 보존이 중요한 과제

AI 디스킬링(deskilling) 현상의 부상

  • 전문직 종사자가 업무에서 AI 도구에 의존하면서 힘들게 익힌 기술이 위축될 수 있다는 우려가 의료 전문가, 컴퓨터 과학자 등에서 확산
  • Wolters Kluwer가 이번 달 발표한 미국 의료 종사자 조사에서 간호사 70%, 의사 77%가 AI 시스템 과의존에 따른 역량 상실을 우려
  • 의료·컴퓨터 과학 등 여러 분야에서 AI에 의한 '디스킬링' 이 시작되고 있다는 증거가 제시되며, AI 시대에 인간 전문성을 어떻게 보존할지 연구자들이 논의 중
  • Syracuse University 정보과학자 Kevin Crowston "이 현상의 존재를 인지하는 것만으로도, 어떤 기술을 유지하고 어떤 기술을 AI에 외주화할지 자기 성찰을 유발할 수 있음"

의료 분야 — 내시경 전문의 연구

  • 연구 설계

    • 폴란드의 내시경 전문의 대상 연구로, 참여 의사들은 모두 경력 중 대장내시경을 최소 2,000회 이상 수행한 사람들
    • 이들에게 실시간으로 대장내시경 영상을 분석해 전암성 장 병변인 선종(adenoma)을 표시하는 AI 시스템을 제공
    • 해당 도구는 특정 날에는 사용 가능, 다른 날에는 사용 불가하도록 운영

  • 결과

    • 의사들이 AI를 사용하기 시작한 후, 시스템을 사용할 수 없을 때 성과가 유의미하게 하락
    • AI 도입 전 3개월간 전문의들은 대장내시경의 28.4%에서 선종을 최소 1개 발견
    • AI 도입 후 3개월간 AI 보조 없이 수행한 대장내시경의 선종 발견율은 22.4%로 감소
    • 해당 결과는 지난 10월 The Lancet Gastroenterology and Hepatology에 게재

  • 전문가 해석

    • University of California, San Francisco의 의사 Robert Wachter "고도로 숙련된 전문가조차 AI 의존도가 높아지면 업무에 필요한 작업 수행 능력이 저하될 수 있음"
    • 연구 저자들 "이런 도구에 지속 노출되면 임상의가 AI 없이 인지적 결정을 내릴 때 덜 동기부여되고, 덜 집중하며, 덜 책임감 있게 될 수 있음"
    • University of Oslo 의사·연구자이자 공동 저자 Yuichi Mori "현상 확인을 위해 더 많은 연구가 필요하나, AI 사용자는 일부 기술 상실 위험을 인지해야 함"
      • "현재 디스킬링에 대한 확립된 해법은 없으며, 향후 10년간 매우 중요한 연구 주제가 되어야 함"

컴퓨터 과학 분야 — Anthropic 코딩 실험

  • 컴퓨터 과학 분야의 기술 상실 여부를 조사하기 위해, San Francisco의 AI 기업 Anthropic 연구진이 소프트웨어 엔지니어 52명 대상 무작위 대조 실험을 설계
    • 참가자 52명 전원은 기본 코딩 작업 중 웹 검색과 작업 방법 안내 접근이 가능
    • 절반은 추가로 AI 어시스턴트 사용을 권유받음
  • 작업 후 학습 내용에 대한 퀴즈에서 AI 사용 그룹 평균 50%, 미사용 그룹 67%로 격차 발생
    • AI 보조 참가자는 특히 코드 오류 진단 문항에서 부진해, 방금 작성한 코드의 개념을 학습하지 못한 것으로 나타남
    • 해당 연구는 동료 심사 전 프리프린트 서버 arXiv에 게시
  • Crowston "이제 수행 능력과 학습 사이에 기묘한 단절이 존재함"
    • "사람들이 꽤 높은 수준으로 수행할 수 있는 것은 기본적으로 AI에서 기술을 빌려오기 때문이며, 스스로 그 기술을 발전시키지는 못함"
    • 이 결과는 특히 해당 분야의 학생과 젊은 전문가에게 우려되는 사안

인지의 외주화 — 과거 기술과의 비교

  • University of Queensland 정보시스템 연구자 Tapani Rinta-Kahila "과거에도 GPS 내비게이션이 길찾기 능력을 약화시키는 등 특정 기술을 쓸모없게 만든 기술이 존재"
    • 다만 생성형 AI는 "오랫동안 인간 고유의 기술로 여겨진 사고와 해석 관련 인지 능력을 자동화하는 첫 기술"

  • 회계사 사례

    • 2018년 발표 연구에서, 10년 이상 자동화된 비(非)AI 회계 시스템을 계속 사용한 회계사 그룹을 조사
    • 도구가 사라지자 회계사들이 여러 일상 업무 수행 방법을 잊은 것으로 확인
    • "차세대 프로그래머는 실습 경험이 부족하면 코딩의 기초를 제대로 이해하지 못할 수 있음"
    • "회계, 법률 등 다른 지식 집약적 직군에도 동일하게 적용됨"

  • 기술 침식 예방책

    • 생성형 AI에 얼마나 많은 작업을 위임하고 있는지 인지해야 함
    • 생성형 AI 모델의 작동 방식과 한계를 정확히 이해하고, 검증 없이 AI 출력을 신뢰하지 말아야 함
    • "생성형 AI 의존과 의식적 경계 유지 사이의 경쟁적 역학을 관리해야 함"

함께 보면 좋은 글 β

emptybynature   [-]

시대가 요구하는 지능의 종류가 바뀌는거지 AI가 사람을 멍청하게 만든다는건 선뜻 동의하기 어렵네요. 암기력이 능력의 지능의 일반적인 척도인 세상이 AI가 지식 창고의 역할을 해주면서 사람은 이제 추론능력과 메타 인지력을 더 발전시켜야 하는 쪽으로 바뀌지 않을까 조심스레 예측해 봅니다

답변달기
shakespeares   [-]

휴대폰 없으면 사람이 직접 손으로 계산해야하는데..
요즘은 휴대폰으로 다 계산하죠. 암산력이 떨어지는 건 당연합니다.
주산 시절에는 주산으로 계산을 도왔구요.
암산을 잘 하는 사람은 여전히 대단하다는 소리를 듣겠지만, 보통의 경우에는 더 좋은 도구인 AI를 도구 삼아서 사용하는 것이 맞다고 생각합니다.

답변달기
GN⁺   [-]
Hacker News 의견들

  • 우리는 너무 편하게 지냈음. 에어컨 나오는 사무실의 Herman Miller 의자에 앉아 컴퓨터를 배우며 높은 연봉을 받았는데, 이제 지능을 합성하는 방법을 발견하고도 우리가 떠올린 일은 대부분이 꿈꿀 수 있었던 가장 재미있는 커리어를 망치는 것뿐임
    물론 지금은 더 생산적이지만, 그중 얼마나 많은 부분이 예전의 수작업으로 쌓은 지능 위에 AI를 얹어 활용한 덕분인지 모르겠음
    36개월 뒤에는 시스템 지식이 퇴화해서 전반적으로 더 나쁜 개발자가 되어 있지 않다고 누가 장담할 수 있나
    AI를 쓰지 말자는 얘기는 아님. 기능을 직접 쓰는 동안 GitHub Workflows를 설정하거나, VPS의 에이전트로 인터넷 작업을 맡기는 등 유용한 부업무에는 항상 씀. 약간의 합성 지능은 좋음
    하지만 자기 지능을 대체 보강하는 건 좋지 않음. 스테로이드를 먹으면 몸을 망치면서도 근육질이 될 수 있는 것처럼, 이득은 바로 그 작업 안에 있다고 봄. 지름길이야말로 가장 위험한 길일 때가 많음

    • “우리가 더 생산적이다”라는 질문보다, AI 시대가 우리를 더 많이, 더 빨리 생산하는 방향으로만 더 깊이 밀어 넣고 있다는 점을 묻고 싶음. 도대체 무엇을 위해서인가
      소프트웨어 엔지니어가 된 이유는 코드를 쓰고, 복잡한 문제를 생각하고 풀고, 손으로 만든 것이 처음 동작하는 보상을 느끼는 게 재미있었기 때문임
      코드 대신 에이전트 군단을 관리하는 일이 정말 재미있나? 아니면 혼자서는 불가능할 정도로 빠르게 뭔가를 만들어내는 속도감만 즐기는 건가. 빨리 움직이는 것 자체는 내게 재미의 핵심이 아니었음
      반복 작업이나 상용구를 줄이는 데 AI를 쓰는 건 이해하지만, 에이전트 기반 개발에 완전히 올인한 사람들을 보면 정말 의문이 듦
    • 많은 개발자에게는 36개월 뒤 더 나쁜 개발자가 되는 것이 오히려 최선의 경우일 수 있음. 노동시장은 이미 생산성 증가분을 흡수하도록 변하고 있고, 일자리를 지키려면 모두가 더 많이 생산하도록 강요받게 됨
      수요가 생산성 증가를 즉시 따라잡을 수는 없으니 회사가 그냥 더 많이 팔 수 있는 것도 아니고, 결국 해고가 생김. 더 적은 일자리를 놓고 더 많은 사람이 경쟁하면 남은 사람들의 임금도 낮아짐. 기본적인 수요·공급 문제임
      2024년에 “내 일은 너무 복잡하거나 전문적이라 영향받지 않는다”고 했던 사람들 중 지금도 같은 말을 할 사람이 얼마나 줄었을지 궁금함
      회사들은 점점 비싸지는 토큰당 가격을 감수하고 인건비를 줄이거나, 그 절충이 가치 없다고 보고 인간 지능에 다시 베팅해야 함. 앞으로 몇 달 동안 업계의 경제성이 우리 대신 결정을 내릴 것 같음
    • AI를 잘못 쓰고 있거나, 일하는 곳이 별로인 것 같음. 나는 AI와 코딩하는 게 아주 재미있음
      LLM과 그 도구들은 시스템을 설계할 때 맞춰야 하는 새로운 제약 조건 같고, 잘 다루면 이전보다 더 크고 좋은 것을 만들 수 있음. 프로그래밍 스킬 트리의 완전히 새로운 가지를 배우는 느낌임
      물론 Claude가 애플리케이션의 RBAC를 완전히 망쳐서 지난 이틀 동안 다시 만들고 난 뒤에 하는 말임
    • “우리”라고 말하지 않았으면 함. 많은 사람은 이 모델이나 회사를 원하지도, 기여하지도 않았음. 기여라면 코드·데이터·지식재산을 도둑맞은 것 정도임
      많은 사람이 자발적으로 AI 사용에 가입한 게 아니라 고용주에게 사실상 강요받았음. AI 덕분에 모두가 더 생산적인 것도 아니고, 절약한 시간만큼 AI가 만든 코드를 검토하느라 보내는 사람도 많음
    • 회사에서 LLM 사용을 강제받으면서 “이해하려 하지 말고, 작동만 하게 하라”는 말을 들었음. 그 문장의 부조리가 명백하지 않은 것처럼 말함
      그 뒤로 이 직장, 어쩌면 이 커리어에서 빠져나갈 방법을 찾고 있음
      결국 신경 쓰는 사람들은 걸러지거나 스스로 떠나고, 이 분야 전체가 더닝 크루거식 AI 극대주의자들로 채워질 것임. “AI가 엔지니어를 대체한다”는 말은 맞지만, 그 주장을 하는 사람들이 생각하는 이유와 방식과는 전혀 다를 것임

  • 매우 부유하거나 아주 고위직인 임원들에게도 같은 효과가 있는지 궁금함. 그런 사람들은 예전부터 생각을 ‘외주’ 줄 수 있는 사람들이 많았고, 업무 위임, 조사·요약 요청, 작업 배정 등을 해왔음
    그런 일을 사람에게 넘기는 것도 같은 방식으로 역량을 망가뜨리나? 아니면 AI는 근본적으로 다른가? 다르다면 왜인가. 모든 것을 위임하지 말아야 한다는 도덕적·사회적 압력이 없어서인가

    • 그렇다. 일상적인 실무 개발에서 관리직으로 옮기는 순간부터 기술은 퇴화하기 시작함. 설령 마법처럼 퇴화하지 않더라도, 새로운 발전을 따라가며 연습하는 것은 아님
      매니저 역할을 제대로 한다면 가능한 커리어 중 가장 무서운 길임. 몇 년이 지나면 낮은 보수의 실무 개발자로 현실적으로 되돌아갈 길이 없음. 직접 하는 것이 아니라 남들이 하도록 돕는 일이 직무임
      물론 중간 지대는 있고, 연구개발이나 사이드 프로젝트로 기술을 조금씩 갈고닦으려 하지만 매일 하는 생산 현장의 실무와는 다름
      출발점의 기술 수준은 사람마다 다르지만, 시간이 지나며 받는 영향은 대체로 비슷함
      숙련된 엔지니어가 관리 트랙으로 옮기고 싶다고 말할 때 내가 가장 크게 경고하는 지점이 바로 이것임. 가볍게 결정할 일이 아님
    • 그렇다. 교수나 대학 학장에게도 일어남
      그래서 Noam Shazeer가 OpenAI에 합류한 일도 맥락 속에서 봐야 한다고 생각함. 좋은 영입인 것은 맞지만, 그가 아직도 다른 사람들이 더 최신 형태로 갖지 못한 비밀스러운 마법을 가져온다고 믿을 고유한 이유는 없음
    • 소유 계급은 실제로 일을 하지 않음. 그들이 위임하는 고수준 계획은 소프트웨어 공학 같은 작업보다 AI 에이전트가 수행하기 쉬운 편임. 그렇게 정밀하거나 실행 가능할 필요가 없기 때문임
      다만 범위가 매우 넓고 역할의 위험이 크기 때문에, 인간을 제거해도 충분히 ‘안전’하게 만들려면 Fable 5나 Fable 6 수준의 비전 언어 모델이 필요할 수 있음
      2027년에 폭발적으로 늘어날 것은 자동화된 AI 회사들이고, 인간 CEO와 소유주는 이런 AI 운영 회사와 경쟁할 수 없게 될 것임
    • 지적 작업, 더 넓게는 올라가거나 내려갈 수 있는 스킬 트리가 있는 모든 분야는 연습하지 않으면 시간이 지나며 퇴화함. 한동안 달리지 않으면 다시 뛰기 시작했을 때 예전 개인 기록을 바로 낼 수 없는 것과 같음
      한동안 떠났다가 따라잡는 것은 처음부터 기술을 개발하지 않았거나 타고난 재능이 없는 경우보다는 쉽지만, 운동하지 않으면 분명히 퇴화함. 순수 관리·전략직으로 올라가 실무 기술을 유지하지 않은 리더들은 결국 이해 속도가 꽤 느려졌음
      이 연구가 이루어진 것은 좋음. AI와 인간 복지의 역상관은 우리 시대의 큰 과제 중 하나라고 봄. 하지만 이 결론 자체는 꽤 당연해 보임
    • 몇 년 관리직을 하다 보니 fizzbuzz도 간신히 하는 전직 프로그래머 매니저들을 꽤 봤음. 그래서 상당히 비슷하다고 봄
      뇌의 많은 부분은 “쓰지 않으면 잃는다”에 가깝고, 그런 위임은 쓰지 않는 것임
      다만 LLM은 인간에게 위임하는 것보다 훨씬 더 나쁠 여지가 충분함. 부분적으로는 반복 주기가 너무 빨라서 엄청난 부자가 아니어도 인간에게서는 살 수 없는 속도를 얻기 때문임

  • 1년 넘게 코드 함수 하나를 처음부터 끝까지 직접 쓰지 않았음. 대신 아키텍처와 시스템 특성에 대해 훨씬 더 많은 시간을 생각하고 있음
    그래서 매우 낮은 수준의 기술은 어느 정도 잃었다고 느낌. 하지만 더 높은 수준의 기술에 시간을 더 쓸 수 있게 된 것일 수도 있음. 의사들이 이미지는 더 못 보게 되었지만 환자의 맥락을 생각할 인지 자원이 늘어난 것일 수도 있지 않을까
    확실하지는 않음
    그래도 이제 AI 없이 코드를 직접 쓰게 몸을 움직일 수가 없음. 너무 느리고 거의 고통스럽게 느껴짐

    • 새로 들어오는 사람이 예를 들어 자료구조와 낮은 수준의 알고리즘을 실제 애플리케이션에서 손으로 씨름해본 정신적 훈련 없이도 그런 유용하고 생산적인 사고방식을 얻을 수 있을지 궁금함
      디자인 학교에 다닐 때 작업의 상당 부분은 흑연, 자른 종이, 물감, 목탄 같은 물리 매체였고, 훌륭한 커닝과 디지털 도구 사용 경험도 함께 연습했음. 디지털에서도 개별 획을 만들고 적절한 도구를 골라야 했지만, 순수 디지털 배경에서 온 사람들에게는 분명히 빠져 있는 과정 인식이 있었음
      사진 참고만 해본 사람이 실물 드로잉을 시도하는 것과 비슷함. 이미 2D인 것을 그릴 때는 인지 과정의 한 부분 전체가 쓰이지 않음. 배울 수는 있지만 강제되지 않으면 계속 사진을 찍고 그것을 그릴 가능성이 큼
      이미지 생성은 매우 세밀한 인페인팅이 있어도 너무 달라서 비교하기도 어려움. 고급 이미지 생성 경험이 많은 사람이 그림을 배우기 시작했을 때 완전 초보보다 훨씬 앞서 있다고 말하기는 망설여짐. 사진 참고 작가에게는 그렇지 않고, 태블릿으로 실물 드로잉을 해온 순수 디지털 작가에게는 더더욱 그렇지 않음
      밀레니얼 세대가 늘 기술에 접근할 수 있었지만 전화접속 시대의 컴퓨터 사용도 겪어서, 디렉터리 구조도 탐색 못 하는 전형적인 “iPad kid”보다 대체로 기술에 밝은 것과 비슷함
    • 집중할 수 있는 상위 수준 기술이 무엇으로 남을지가 문제임
      프로젝트 관리나 아키텍처 같은 작업에서 AI가 본질적으로 더 못한다고 확신하지 못하겠음
    • AI를 쓰면 생각의 여분이 생겨 더 높은 것들을 생각할 인지 용량이 freed된다는 AI 사제들의 말이 맞다고 해도, 그 여분을 상사는 어떻게 쓰게 할까? 사용자에게 더 높은 수준의 인지 능력을 개발하게 둘까? 그럴 것 같지 않음
      기사 속 의사들이 AI 이후 더 나쁜 성과를 냈다고 해보자. AI 덕분에 예전에는 10건 하던 시간에 100건의 검사를 할 수 있게 되었다면, 고용주는 그 남는 노동 시간을 어떻게 쓸까? 당연히 더 많은 검사를 시키고, 이제 필요 없어진 일부 의사를 해고할 것임
      살아남은 의사들은 탈숙련된 채 같거나 더 많은 일을 하고, 사회는 더 낮은 품질의 의료를 받게 됨. 그래도 고용주는 인건비를 아끼고 주주는 행복하겠지
    • 우리는 IBM 천공카드 사용법을 배우지 않았음. 현대 언어에서 함수를 손으로 쓰는 일도 빠르게 시대착오적 작업이 되어가고 있음
    • 많은 CEO의 눈에는 당신이 서서히 쓸모없어지고 있음

  • 이건 새롭고, 특히 범위가 새로움. 개인의 “기술” 몇 가지가 아니라 거의 전부가 걸려 있음. 깊고 넓고 끈질기게 생각하는 능력의 가장 근본이 도전받고 있음. 이런 일은 예전에 이런 방식으로 일어난 적이 없음
    에이전트가 작동하는 모습을 보면 때로는 놀랍고 숨이 막힐 정도임. 반대로 바로 그 힘 때문에 우리는 그 유혹과 무력화에 같은 범위로 취약해짐. 장기적 심리 효과의 잠재력은 거의 강한 마약에 가까움

    • 깊고 넓고 끈질기게 생각하는 능력이 도전받는다는 면에서는 소셜 미디어와 콘텐츠 알고리즘이 먼저 떠오름. AI 시대에 들어서기 전 끔찍한 현 상태를 만든 초기 물결이었음
      요즘은 반향실에 빠지기는 너무 쉽고, 사일로에서 벗어나기는 매우 어려움
      양날의 검일 수는 있음. 대부분의 사람이 전지전능한 신탁처럼 믿는 AI가, 소셜 미디어나 Youtube, TikTok을 스크롤하다 수동적으로 받아들인 입장에 대해 우리가 만나는 유일한 반박을 제공할 수도 있음
      예를 들어 Claude, ChatGPT, Grok에게 Marjorie Taylor Greene 같은 사람들이 소셜 미디어에서 띄운 2018년 Hawaii 산불의 “우주 레이저”에 대해 물으면, 빠르게 헛소리라고 반박함
      결국 모두가 듣고 싶은 말만 해주는 자기 AI를 갖게 될 수도 있음. 하지만 지금까지는 Grok이 주장을 기각해서 Twitter에서 논쟁을 포기하는 사람들을 봤음. 그래서 약간의 희망은 있어 보임
    • “이런 일은 예전에 없었다”고 하기 전에 라디오와 텔레비전의 발명에 대해 사람들이 뭐라고 했는지 읽어볼 필요가 있음
      에이전트가 작동하는 모습이 숨 막히게 놀라운 것은 마술도 마찬가지임. 그것이 전부 제대로 이해하지 못한 착각일 수 있다는 불편한 가능성은 사람들에게 별로 부담이 되지 않는 듯함
      장기적 심리 효과가 강한 마약 같다는 점은, 이 제품의 소유자들이 그것을 어떻게 마케팅하고 배포하기로 선택했는지와 더 관련 있을 수 있음. 덮개를 조금만 걷어내면 도취감이 공포로 바뀔지도 모름. Upton Sinclair식 순간이 다가오고 있음
    • 인간의 정신은 몸만큼이나 도전이 필요함. 성장하려면, 아니 높은 인지 수준을 유지하려면 그게 유일한 방법임
      간호사, 의사, 가족들은 사람이 갑자기 침대에 묶이고 자극과 할 수 있는 도전이 최소로 줄어들면 삶의 궤적이 얼마나 급격히 떨어지는지 잘 앎
      LLM은 도전을 제거하거나 최소화함. 고용주의 비용 절감 외에 엔지니어에게 어떤 부가가치가 있는지 상상하기 어려움. 물론 예전보다 10배 한다는 사람들이 나오고 실제로 그런 사람도 있겠지만, 거기에도 의심이 있음. 나머지 대부분에게는 좋지 않고, 대부분의 시장에서 가격 때문에 못 쓰게 되지 않는 한 나아지지도 않을 것임

  • 40살에 상상도 못 한 속도로 새로운 것들을 배우고 있음. 새로운 스포츠, 새로운 사업, 새로운 학문적 관심사들임
    기술은 지렛대이고 AI는 우리가 가진 가장 큰 지렛대임. 게으름을 가능하게도 하고, 엄청난 생산성을 가능하게도 함. 앞으로의 길은 스스로 선택하면 됨

    • 당신에게 해당되는지는 모르겠지만, 자신이 과학의 최전선을 탐험한다고 믿게 된 친구들을 몇 명 봤고, 결국 항상 이상한 양자·형이상학식 횡설수설로 대화가 소용돌이쳤음
      LLM은 아첨꾼이고, 긴 대화에서 그 아첨은 양의 되먹임 루프를 만듦. 맥락 창에 잘못된 해석이나 비유에 대한 긍정이 들어가면, 챗봇은 이전 텍스트의 가장 그럴듯한 완성이기 때문에 계속 그 길로 감
      어느새 우주의 숨은 직물을 발견하고 있는데, 그건 항상 Minkowski 프랙털 시공간 텐서 격자 다양체와 부분조화 DNA 나노튜브 같은 것이 됨
      그러니 배우는 것을 평가하고, 실제로 배우고 있는지 확인할 튼튼한 방법이 없다면 조심하는 편이 좋음
    • 배우고 있는 게 아님. 배움에는 직접 수행이 포함됨
      이건 오래전부터 알려져 있음. 수학책을 읽기만 하고 문제를 반복해서 풀지 않으면 학생은 시험을 통과하지 못함
      최선의 경우라도 그냥 무언가를 읽고 있는 것임. 코딩 에이전트 사용자들은 그마저도 하지 않음
    • 배우는 게 아님. 설명을 듣고 있고, 보통 이하의 기술 수준으로 그것들을 활용할 망치를 받은 것에 가까움
      배움에는 엄청난 시간 투자가 필요함. LLM을 쓴다고 그 시간이 줄어들지는 않음
    • AI가 스포츠에 정확히 어떻게 도움이 되나? 더 나은 운동선수가 되었나? 예를 들어 코치 관점에서 각 스포츠의 전략을 더 배웠나? 자세히 말해줄 수 있나
    • 실제로 동의함. LLM으로 개념을 배우고 탐구할 수 있다고 분명히 느낌. 하지만 애초에 나는 독학 성향이 강하고 동기가 높은 사람이었음
      내가 아는 기술적인 모든 것은 스스로 노력해서 배운 것들임. 그래서 이 도구들이 더 많은 일을 하게 하는 모델이 아니라, 더 나은 일을 하게 돕는 모델로 광고되길 바람
      지금은 사람들의 역량을 끌어올리기보다 대규모 해고의 핑계로 쓰이고 있음. 당연히 자신의 실제 능력을 부풀려 보이기 위해 쓰는 사람들도 대거 불러들였음

  • 도구 사용은 보통 이런 곡선을 따름. 어떤 기술을 보존하고 싶다면 실제로 보존해야 함
    이것 자체가 본질적으로 나쁜 것은 아님. 도구는 도구 없이 할 수 있는 것보다 훨씬 많은 것을 가능하게 하고, 어떤 기술이 도구가 대신해줄 때도 본질적으로 중요한지에 대해서는 논쟁의 여지가 있음

    • 여기서 어려운 점은 우리가 퇴화시키려는 기술 집합이 사실상 무한한 범위라는 것임
      계산기처럼 문제 영역이 잘 정해진 특수 도구가 아님. 실제로는 많은 사람이 코딩이나 시각 디자인처럼 전문 영역에 AI를 쓰고 있지만, 원칙적으로는 지금 일하는 추상화 수준 자체도 AI에 넘기지 못할 이유가 없음
    • 이 경우의 큰 문제는 이 도구를 잘 쓰기 위해서도 기초 기술이 개발되고 보존되어 있어야 한다는 점임. 전동 드릴과는 매우 다름
    • 괜찮은지의 차이는 도구가 얼마나 신뢰할 만한가에 달려 있음. 계산기나 컴파일러라면 괜찮음. 기사 속 예시인 기계학습 이미지 분류도 괜찮아 보이지만 확신은 못 하겠음
      LLM 출력은 신뢰할 수 없으니 여전히 판단이 필요함. 코드를 판단할 수 있으려면 어느 정도 직접 다뤄봤어야 함. 그러니 신뢰할 수 없는 도구는 그 불확실성을 받아들이지 않는 한 별 도움이 되지 않음
    • 맞음. 하지만 그 도구를 소유하지 못하고, 중앙집중적이고 심지어 정치·국가 인접적인 집단의 손에 있다면 “컴퓨터가 안 된다고 합니다”가 되는 순간 크게 곤란해짐

  • Staff+ 엔지니어를 생각하면 놀랍지 않음. 그들의 일은 AI에게 명령하는 것과 꽤 비슷함. 대부분은 노력, 뛰어난 엔지니어링 실력, 소프트 스킬, 약간의 운으로 사다리를 올라감. 하지만 회사가 커질수록 코딩, 디버깅, 깊은 설계에 쓰는 시간은 점점 줄어듦
    대신 매우 기술적인 제품 관리자처럼 행동함. VP들이 고수준 제품 요구사항을 계획하고 쓰는 것을 돕고, 거기에 기술 용어를 조금 뿌림. 화이트보드에 박스를 그리고 예쁜 슬라이드를 만들며, 리더십이 만족할 polished 문서를 씀. 회의 중이거나 다음 회의로 가는 중이고, 기술 아이디어가 있으면 팀을 보내 검증하게 함
    당연히 여전히 자신이 깊이 기술적이라고 느끼지만, 운영 장애를 해결하거나 기술 면접을 통과하거나 많은 코드를 써야 하는 날이 오면 기술이 녹슬었다는 것을 깨닫게 됨
    비판하려는 게 아니라 진짜 커리어 과제를 강조하려는 것임. 엔지니어로서는 기술 역량을 갈고닦고 싶지만, 조직 사다리를 오르려면 더 많은 조직 업무를 맡아야 함. 떠오르는 유일한 해법은 연구자나 교수에 가까워지는 것임. 좋은 교수들은 시간이 지나며 논문을 쓰거나 공식을 유도하는 시간은 줄지만, 통찰이 깊어 박사과정 학생들을 지도해 훌륭한 결과를 냄. 다만 그 길은 말처럼 쉽지 않음

  • 내가 보는 가장 큰 부정적 효과는 사람들이 자신이 던져 넣는 것을 평가하기에 너무 빠르게 움직인다는 점임. 너무 빠르게 움직이면 취향을 기르거나 같은 문제에 대한 여러 접근의 뉘앙스를 이해할 시간을 갖지 못함
    나도 LLM을 꽤 많이 쓰지만, 뽑혀 나온 코드를 붙잡고 앉아 있는 시간이 동료들보다 평균적으로 훨씬 긴 것 같음. 처음 나온 것은 “동작”하지만, 머릿속에서 좀 가라앉힌 뒤 실제로 병합해도 된다고 느끼기까지 보통 원래 아이디어를 2~3번 더 반복하게 됨
    그래서 모두 합산해보면 실제로 중요한 설계 수준의 관심사에서는 생산성이 크게 높아졌다고 느끼지 않음

  • 먼저 내시경 연구의 가치가 궁금함. AI로 인한 잠재적 탈숙련 전후에 발견된 선종 수를 비교하려면 선종 발생률이 일정하다고 가정해야 하는데, 그 가정이 꼭 안전해 보이지 않음
    연구 자체의 문제인지 요약의 문제인지는 모르겠지만, 참여자들이 기준 분석과 비교해 얼마나 잘했는지를 측정하는 편이 훨씬 나은 연구 설계였을 것이고, 실제 기술 변화가 있었다는 확신도 더 줬을 것임
    또한 판독 시간이 줄었거나, AI가 빠르게 읽어냈기 때문에 예전 방식으로 스캔을 읽을 때 더 큰 압박을 느꼈는지도 궁금함. 이는 잠재적 교란 요인임
    둘째, AI 때문에 측정 가능한 탈숙련이 나타난다는 점은 놀랍지 않음. 하지만 예전에도 맞춤법 검사기와 계산기 때문에 탈숙련을 찾을 수 있었을 것임. 그렇다고 오늘날 워드프로세서를 쓰지 말고 손가락·발가락으로 세거나 긴 나눗셈을 해야 한다고 말하는 사람은 없음
    어떤 기술과 지식이 전문가에게 정말 중요한지, 무엇을 기술에 외주 줄 수 있는지에는 항상 절충이 있음. 지금은 기술이 새로울 뿐 아니라 너무 빠르게 변하기 때문에 전환기임. 몇 년 뒤 도입 곡선의 더 위로 올라가고 일부 영역에서 변화 속도가 안정되면, 코딩과 의료 같은 분야에서 지식과 기술의 조합이 필요한 AI 사용 방식에 안착할 것임. 그리고 오늘날에는 직무의 핵심으로 여겨지는 것들을 사람들이 더 이상 알거나 직접 하지 않아도 되는 데 익숙해질 것이라 봄

  • AI가 사라져서 잃어버린 기술을 후회하는 상황이 될까? 최악이어도 최첨단 대신 오픈 가중치 모델을 쓰게 되는 정도일 테니 큰 문제는 아니라고 봄
    계산기가 발명된 뒤 사람들이 산술을 더 못하게 되었을 것이라고 확신함

    • 진짜 위협은 개인 수준이 아니라 사회적 수준에 있다고 봄
      시간이 지나며 기술을 쌓으면 통찰이 생기고, 그 통찰이 혁신으로 이어짐
      AI는 흥미로운 일을 많이 하지만 아직 혁신하지는 못함
      진짜 위협은 우리가 모두 기술을 잃고 AI 접근권도 잃는 것이 아님. 그런 일은 가능성은 있지만 접근 상실은 낮아 보임. 더 큰 위험은 AI가 대략 현재 수준에 머무르는 동안 우리가 그것에 의존해 기술을 무디게 만들고, 생각을 너무 많이 비혁신적 기계에 넘겨 혁신이 정체되는 것임
      반드시 그렇게 된다는 말은 아니지만, 충분히 가능한 결과처럼 보임
    • 2023년 이전 컴퓨팅의 전체 역사가 사라진 건가? 정말 그렇게 망한 상태인가
    • “계산기 발명 후 사람들이 산술을 더 못하게 됐다”는 문장에서, LLM에 대해서는 “산술”을 변수 X로 바꿔볼 수 있음
      “LLM 발명 후 사람들은 X를 더 못하게 됐다”
      문제는 X 기술이 퇴화한다는 것 자체만이 아님
      LLM에서 X가 사실상 모든 지식과 의사소통 기술이라는 점이 문제임
      사회가 사실상 모든 지식과 의사소통 기술이 퇴화하는 상태를 정말 감당할 수 있나
    • 최악의 경우 인지적 위축을 겪음. 더 멍청하고 게을러짐
답변달기