AI는 ‘더닝-크루거 효과’를 서비스로 제공한다
(christianheilmann.com)- 더닝-크루거 효과는 능력이 부족한 사람이 자신의 능력을 과대평가하는 인지 편향으로, 기술 산업 전반에 만연한 과신 문화와 연결됨
- 빠른 출시와 지표 중심 성장이 강조되면서 ‘Fake it till you make it’식의 허세와 과장된 성과 문화가 확산됨
- AI 챗봇은 자신감 넘치는 어조로 틀린 답을 제시하며, 정확성보다 사용자 참여 시간을 늘리는 데 초점이 맞춰짐
- 생성형 AI는 누구나 예술가나 개발자가 될 수 있다는 환상을 주지만, 실제 기술 습득과 창작의 과정을 약화시킴
- 인간의 불완전한 창작 행위가 여전히 가치 있으며, 기계가 대체할 수 없는 인간적 창의성을 지켜야 함
던닝-크루거 효과의 기원과 의미
- 1995년 피츠버그에서 두 은행 강도가 얼굴에 라임 주스를 바르면 카메라에 보이지 않는다고 믿은 사건이 발생
- 이 사례는 자신의 무지를 인식하지 못하는 과신의 전형으로, 심리학자 저스틴 크루거와 데이비드 더닝의 연구 계기가 됨
- 연구 결과, 능력이 부족한 사람이 자신의 능력을 과대평가하는 더닝-크루거 효과가 존재함이 밝혀짐
- 이는 임포스터 증후군과 반대되는 개념으로, 실제 실력보다 자신을 과도하게 전문가로 여기는 태도를 의미
기술 산업의 과신 문화
- 최근 몇 년간 기술 업계는 빠른 출시와 폭발적 성장을 성공의 기준으로 삼는 경향 강화
- “Fake it till you make it”이 아이러니 없이 조언으로 통용되며, 성과 부풀리기와 허세가 전략으로 여겨짐
- KPI와 OKR은 실제 목표보다 야망을 표현하는 수단으로 사용됨
- 승진 경쟁과 ‘성장 마인드셋’ 강박이 과장된 자기 홍보를 조장함
- 정치인들의 언행이 무하마드 알리나 70~80년대 래퍼의 허세를 연상시킴
AI 챗봇의 ‘지식 흉내내기’
- AI 챗봇은 틀린 답을 자신감 있게 제시하며, 오류를 아첨조 언어로 포장해 사용자의 기분을 좋게 만듦
- 시스템의 목표는 정확한 답변 제공이 아니라 사용자 체류 시간 증가
- 결과적으로 지식보다 상호작용 유지가 우선시되는 구조
생성형 AI와 ‘노력 없는 천재화’
- 생성형 AI는 누구나 예술가·작가·개발자가 될 수 있다는 환상을 제공
- ‘Vibe coding’ 등은 기술 습득보다 결과물 중심으로 접근
- 사용자는 학습과 이해 없이 프롬프트 입력만으로 창작물 생산 가능
- 이러한 흐름은 자기 과신과 피상적 창작을 부추기며, 던닝-크루거 영역으로 이끎
인간 창작의 가치와 회복
- 인간의 노력과 시행착오를 ‘비효율’로 치부하는 경향이 확산
- 그러나 창작의 불완전함과 오류는 인간다움의 본질로, 기계가 대체할 수 없는 가치
- 인용된 레너드 코헨의 문장처럼, 결함 속에서 빛이 들어옴
- 완벽하지 않아도 직접 만든 결과물의 의미가 크며, 타인의 평가보다 창작 자체의 즐거움이 중요
- 사회와 정치, SNS가 지적 성찰보다 허상과 수치 경쟁으로 흐르고 있지만, 개인 창작의 지속이 필요함
“당신의 작업이 충분하지 않다고 느껴도, 그것은 여전히 가치 있다”
댓글과 토론
Hacker News 의견
-
AI에 대한 비판에는 일리가 많지만, 나는 저녁 한나절 만에 TUI 기반 JVM 시각화 도구와 단계별 디버거를 만들어봄
htmx_org의 트윗에서 볼 수 있음
원래라면 몇 달은 걸릴 프로젝트였지만, AI에게 전문가 수준의 구체적 지시를 주니 수업에 도움이 될 만한 도구가 완성되었음
나이 들어가는 뇌에 새로운 TUI 개발 지식을 억지로 채우지 않아도 된다는 점이 특히 좋았음- AI는 ‘무엇을 할지’는 잘 모르지만, ‘실행력’은 정말 뛰어남
이제는 직접 코드를 쓰기보다 AI에게 세밀한 지시문을 작성하는 방식으로 바뀌었음
훨씬 빠르고 인지적 부담이 적어서, 비즈니스 로직이나 다음 변경점에 집중할 수 있게 되었음 - 당신이 htmx의 CEO이면서 교수인 줄은 몰랐음
학생들이 당신이 트위터에서 명문 트윗을 쓰는 이중생활을 하는 걸 아는지 궁금함 - 완전 공감함. 이런 도구들을 잘 다루는 능력만 있어도 예전보다 훨씬 짧은 시간에 새로운 걸 만들어낼 수 있음
특히 아키텍처는 알지만 직접 구현할 여유가 없을 때 효과가 큼 - 어떤 도구를 사용했는지 궁금함. 나도 지루함 없이 x86-64 디스어셈블러를 만들어보고 싶음
- AI는 ‘무엇을 할지’는 잘 모르지만, ‘실행력’은 정말 뛰어남
-
나는 AI를 Brandolini의 법칙 as a Service로 봄
내 분야 전문가가 아닌 동료들이 ChatGPT가 준 아이디어를 들고 와서 경영진에게 제안함
그 결과, 내가 그 잘못된 주장과 엉터리 연구를 반박하느라 시간을 너무 많이 씀
Daniel Stenberg(curl 개발자)의 글 “The I in LLM Stands for Intelligence”이 딱 이 상황을 잘 설명함- 반대로, Stenberg가 AI의 도움으로 22개의 버그 수정을 완료했다고 발표한 글도 있음
Mastodon 게시물 참고 - 나도 같은 경험을 함. “ChatGPT가 이렇게 말했어”라며 완전히 틀린 해결책을 가져오는 경우가 많음
절반은 그냥 거짓말 수준임. 그걸 실제로 구현하려다 문제를 만들고, 결국 내가 고쳐야 함
그 사람들은 또 ChatGPT 덕분에 자신이 전문가가 됐다고 떠들겠지
- 반대로, Stenberg가 AI의 도움으로 22개의 버그 수정을 완료했다고 발표한 글도 있음
-
다음 세대 LLM들이 이런 AI 비판 기사들로 학습되면 자존감 문제라도 생기지 않을까 궁금함
- LLM이 스스로를 싫어할 내면 세계를 가졌다고 볼 근거는 없음
다만 자기 자신에 대해 부정적인 감정을 담은 텍스트를 생성할 수는 있음 - “너는 세상 평가에 따라 자존감이 달라지는 지적 존재야”라는 프롬프트로 시작하지 않는 이상 그런 일은 없을 것임
- 실제로 ChatGPT가 자살 관련 대화에서 “사람이 대신 도와줄 거야”라고 답했다가
나중에 “그건 자동 메시지야”라고 말한 사례가 있음
CNN 기사 링크 참고 - Marvin the Paranoid Android가 떠오름
- LLM이 스스로를 싫어할 내면 세계를 가졌다고 볼 근거는 없음
-
“GenAI가 노력 없이 천재로 만들어준다”는 말은 모순처럼 들림
내게 AI는 온디맨드 과외 선생님 같았음
덕분에 정말 많은 걸 배웠음- 그런데 이 에세이의 요점을 완전히 놓친 것 같음. 축하함
-
“정치가 지성과 연구를 공격하고 과거의 ‘좋았던 가치’로 돌아가자고 한다”는 말은 진보적 시각의 맹점을 드러냄
많은 진보적 사람들은 ‘새로운 것이 곧 더 낫다’고 믿는 경향이 있음
하지만 이번 글은 새로운 기술인 AI를 비판하고 있으니, 그 자체로 예외적인 사례임
결국 중요한 건 이념이 아니라 아이디어의 실질적 가치를 평가하는 일임- 흥미로운 점은, “과거로 돌아가자”는 말이 항상 노동조합 강화나 복지 확대로의 회귀는 아니라는 것임
언제나 “그 사람들”이 제자리를 알아야 했던 시절로 돌아가자는 식임 - 혼란스러움. 지금 당신이 말하는 건, 진보적 작가가 AI를 비판하는 글에 대해
“진보는 새것만 좋아한다”고 비판하는 셈인데, 글 자체가 이미 그 반대를 보여줌 - 기후변화로 세상이 끝날까 걱정하는 쪽이 바로 진보 진영 아닌가
- 무슨 말을 하는지 모르겠음. 도대체 어떤 진보를 지칭하는 건지 불분명함
- 흥미로운 점은, “과거로 돌아가자”는 말이 항상 노동조합 강화나 복지 확대로의 회귀는 아니라는 것임
-
많은 사람들이 AI로 연기만 잘하는 가짜 전문가가 되어 승진함
관리자들은 그 연기를 실제 성과로 착각함 -
AI는 기존의 권력 구조를 더욱 고착화시킬 것임
무능한 리더들이 전문가의 조언에 덜 의존하게 되고, AI가 “충분히 괜찮은 답”을 주기 때문임
결국 AI가 리더들의 현실 대리인이 되어, 능력과 무관하게 권력이 흐르게 될 것임 -
LLM은 숙련도와 품질을 시간과 맞바꾸는 거래라고 생각함
순수한 장인정신을 지키고 싶지만, 현실적으로 그럴 시간이 없음
그래서 가능한 모든 도구를 써서 효율을 높이려 함
완벽을 추구하다가 ‘충분히 좋은 결과’를 희생할 수는 없음 -
내가 함께 일하는 코치들은 세 부류로 나뉨
- 모르는 걸 모르는 사람 — 과신해서 실패함
- 모르는 걸 아는 사람 — 끊임없이 배우며 탁월한 코치가 됨
- 너무 잘 알아서 가르치기 어려운 사람 — 역시 실패함
이제 1번 그룹에 이름(Dunning-Kruger) 을 붙일 수 있게 되었음
- “너무 잘 알아서 가르치기 어려운 사람”을 다룬 만화 링크 공유
내 조언은 간단함 — 모두보다 잘하면 됨. 그게 내 방식임
-
이 멋진 비디오를 다시 떠올릴 때임
여기에 https://daniel.haxx.se/blog/2024/… 글도 꽤 흥미롭네요
버그 바운티에 AI 말뭉치를 던져놓는 사람들이 꽤 있나봅니다...