▲

AI가 우리의 사고를 획일화하고 있음

 (newyorker.com)
1P by GN⁺ 13시간전 | ★ favorite | 댓글 1개
  • MIT 연구에서 ChatGPT를 사용한 집단의 뇌 활동이 상대적으로 낮게 나타남
  • 인공지능 활용은 창조성과 다양성 감소, 결과물의 획일화 현상 초래
  • Cornell 대학 연구에서도 문화·개인 차이의 글쓰기마저 AI 사용 시 서구적, 평균적 경향으로 수렴함이 확인됨
  • AI가 제시하는 평균적이고 안전한 답변이 문화적 다양성과 개성 약화 유발
  • 대중화된 AI가 가져오는 장기적 영향은 아직 충분히 알려지지 않았으나, 사고의 단순화와 획일화가 주요 우려로 대두되고 있음

실험 및 주요 발견

  • 2023년 MIT에서는 보스턴 인근 대학생 50여 명을 세 그룹으로 나누어 SAT 스타일의 에세이 작성 실험을 진행함
    • 한 그룹은 오로지 자신의 두뇌만을 사용
    • 두 번째 그룹은 Google Search 활용 가능
    • 세 번째 그룹은 ChatGPT를 사용해 에세이 작성
  • 모든 참가자는 뇌파 측정용 헤드셋을 착용했으며, 분석 결과 ChatGPT 사용 집단의 뇌 활동이 가장 저조한 것으로 나타남
    • 해당 집단은 뇌의 여러 부위 간 연결성(알파 및 세타 파동) 이 감소함이 관찰됨
    • 일부 사용자는 자신이 작성한 에세이에 대해 소유감 결여를 보였으며, 대다수는 작성한 내용을 인용조차 하지 못함
    • MIT 연구진은 이를 AI 의존에 의한 인지적 비용이라 명명함

AI가 유발하는 사고의 평균화

  • ChatGPT를 활용한 집단의 에세이는 유사한 단어와 아이디어로 수렴하는 경향을 보여줌
    • 넓은 답변을 유도하는 SAT 프롬프트에도 불구하고 AI 사용 집단은 획일적인 논리 및 어휘 사용을 보임
    • 예를 들어, ‘진정한 행복’에 대한 대답은 모두 경력과 성공 중심, ‘기부의 도덕적 의무’엔 일률적 찬성 입장만 제시함
  • MIT의 Kosmyna 연구원의 표현에 따르면 “모든 것이 평균적으로 모아지는” 현상이 발견됨

대중적·문화적 다양성의 약화

  • Cornell 연구진은 미국과 인도의 사용자가 각자 문화적 배경을 반영해 글을 쓰는 실험을 진행함
    • 일부는 ChatGPT 연동 자동완성 사용, 일부는 비사용
    • 자동완성 사용 시 참가자의 글이 서구적, 평균적 경향으로 수렴하며 서로 유사해짐이 확인됨
    • 음식, 명절 관련 질문에서 피자와 크리스마스가 단골 답변, 지역적 차별화는 희박함
    • 에세이의 세부 묘사와 분위기조차 평범한 어구 위주로 변함

AI 도구의 제안 영향 및 정체성 저하

  • 필자는 AI의 제안 기능이 작가의 자기 목소리를 약화시키는 ‘최면 효과’를 갖고 있다고 설명함
    • 지속적 노출로 인해 글쓰기 자신감 및 정체성 상실 가능성 우려
    • AI의 제안은 사용자 생각뿐만 아니라 사고방식 자체까지 평균화하는 역할을 함
    • 결과적으로 “무엇이 정상이고 바람직한지”에 대한 사회적 인식에도 변화 가능성 내포

산업적 동인과 문화적 표준화

  • OpenAI 및 AI 개발사들은 더 많은 이용자가 일반적이고 평균적인 결과물에 만족하도록 시스템을 설계함
    • 누군가에게 수용 가능한 모델 출력을 제공할수록 더 많은 유료 사용자를 얻을 수 있음
    • 효율성 측면에서 ‘모든 것이 동일할 때 규모의 경제’ 실현 가능

AI와 창의성: 실험적 한계

  • OpenAI CEO Sam Altman 등은 AI로 누구나 창작자가 될 수 있다고 주장

  • 하지만 실험에서는 AI 사용 집단이 원본성 측면에서 오히려 평균적이고 비슷한 아이디어를 내는 경향 파악됨

    • Santa Clara 대학 연구에서 ChatGPT와 기존 창의성 도구(Oblique Strategies)를 비교함
    • ChatGPT 사용자는 아이디어가 의미론적 유사성, 즉 획일화 경향을 보임

  • 실험 분석가 Max Kreminski에 따르면 인간의 원초적 사고가 점차 AI의 평균값 쪽으로 끌려감

    • 반복적으로 AI가 “충분히 괜찮은 답변”을 빠르게 내놓다보니 사용자는 자신의 아이디어보다 AI의 결과물 선별 쪽에 몰입
    • 대화가 길어질수록 AI의 컨텍스트 윈도우 한계로 인해 더 반복적·평균적인 답변이 강화됨

대중화된 AI 환경과 정보의 다양성 부족

  • 연구들은 대부분 소규모 실험이지만 AI의 장기적인 영향은 여전히 미지수
  • Meta의 AI 앱 등에서는 수많은 사람이 만든 과도하게 매끄럽고 일률적인 콘텐츠가 대량 생성됨
    • 자동 이메일, 일상적 요청 등에 획일화된 포맷과 어휘가 난무
    • 실제 프롬프트 예시에서도, AI가 긍정적 미래만 나열하며 부정적 시나리오나 위험성은 배제됨
    • 이는 AI 설계 과정의 친기술적 편향성이 결과물의 다양성 감소로 이어질 수 있음을 시사

결론 및 전망

  • 누군가가 AI가 제시한 정보만 믿으려면 사고를 멈추는 일이 필요함
  • AI가 낳는 사고의 평균화 및 창의성 약화 현상에 대한 사회적·문화적 경계 필요성 대두
▲
GN⁺ 13시간전  [-]
Hacker News 의견

  • 요즘 들어 진정한 "디지털 격차"는 최근 몇 년 사이에 비판적 사고력을 이미 길러왔는지 여부에 따라 갈린다고 생각함. 다양한 독서와 인내심 있는 성찰을 통해 이런 능력을 쌓은 사람한테는 LLM 같은 도구가 거친 정보의 바다에서 웨이브 러너를 타게 열쇠를 쥐어주는 느낌임. 그런데 지금 막 비판적 사고를 배워야 하는 사람들은 LLM을 습관적으로 찾지 않고서는 성찰의 고민을 이겨내기 어려울 것 같음. 모호함을 스스로 견디는 행위, 즉 정보가 지식으로 전환되는 순간이 여기서는 즉각적으로 해소됨. 2023년 전에 이런 능력을 획득한 게 다행이라는 생각이 들지만, 젊은 세대에게 LLM을 무조건적으로 학습 도구로 제공하는 현실이 좀 두려움

    • AI가 모두를 멍청하게 만든다는 비관론은 사실 대다수 사람들이 원래도 비판적 사고력이 뛰어나지 않다는 현실을 과대평가하는 현상이라고 생각함. 20년 가까이 고급 엔지니어링 분야에서 일하면서 복잡한 개념을 진짜로 이해하는 사람은 accomplished한 전문가들 사이에서도 드물었음. 원래부터 비판적으로 생각하지 않았던 대다수 사람들에게 쉬운 답변이 제공된다고 해서 똑똑한 사람들이 손해를 보는 일은 없을 거라 예상함

    • 어릴 적의 나 자신을 생각해보면, 단기적 재미만을 좇았을 때는 아무것도 배우지 못했던 경험이 있음

    • Idiocracy(저능 사회) 시대가 다가오고 있다는 느낌이 듦

  • 모든 연결 기술은 동질성을 촉진하는 힘이라고 생각함. 예를 들어 TV는 지역 사투리의 소멸을 불러온 대표적인 사례임. 무제한의 재미, 오락, 연결성으로 인해 슬프고 지루하며 외로운 세상을 만들어가고 있음

    • 지역 사투리가 없어졌다는 근거가 궁금함. 미국 여기저기 여행하다 보면 여전히 다양한 지역 사투리를 들을 수 있음. 서부, 중서부, 남부, 동부에 친척이 있는데 각 지역마다 확연한 악센트가 남아 있음. 강도의 차이는 있지만 여전히 뚜렷함

    • 이미 소셜 미디어가 우리의 사고방식을 상당히 동질적으로 만들어놓음. 너무 많은 정보와 관점이 한 번에 들어오니, 스스로 의견을 정립하기보다 남의 생각에 영감을 받아야만 견딜 수 있음. 업보트 버튼이 모두가 동의하는 생각을 손쉽게 정해줌

    • 우리는 어떻게 하면 좋을지 고민임. 오프라인 클럽[https://www.theoffline-club.com/] 같은 진지한 시도가 해독제가 될 수 있을지 궁금함. 이런 논의가 최근 Hacker News에서 돌기도 했음. 이른바 'grass touching' 기술에 대한 고민

    • 그래도 지리적 환경이 제공하는 다양성이 일부 경험을 규정함. 물론 요즘 기술의 목적 중 하나가 이런 지리적 특색을 상쇄시키거나 차단하려는 데 있긴 함

    • AI의 경우에 문제는 바로 누가 동질성을 관리하며, 어떤 목적을 갖고 그 일을 하느냐임. IRC나 메신저처럼 역동적인 시스템은 사람들이 자연스레 연결되고 집단을 형성할 수 있도록 해줌. 하지만 AI는 돈 많은 자본가가 자본을 투입해 만든 폐쇄형 관리 도구라서 결국 비즈니스 모델을 보호하고 위험을 줄이기 위한 동질화가 암묵적으로 이루어짐. 진짜 위협은 바로 현실이 특정 목적에 맞게 '저작' 당하는 현상임

  • 스스로 생각하지 않을 경우에만 자신의 생각이 동질화된다는 입장임. 이건 많은 사람들에게 약점일 수 있겠다는 생각

    • "직접 조사한다"는 유형의 사람들끼리 역설적으로 가장 심한 집단사고에 빠지곤 한다는 관찰임

    • 비슷한 구조의 공리 체계를 가진 다수의 개인은 유사한 결론을 도출함. 어떤 이들은 자신이 특정 사상 집단에 속하면서도 스스로 주체적으로 생각한다고 믿음. 공동체 구성원들의 생각이 유사해지는 힘이 클 때가 있음. 반면, 어떤 사람은 미지의 밈 공간에서 새로운 전략이나 아이디어를 발굴하는 '보물찾기 전략'을 구사함. 이런 전략은 위험성이 높고 여러 시도를 해볼 수 있는 자원이 필요하다는 한계도 존재

    • "스스로 생각하지 않으면 동질화된다"는 주장에 공감하면서, 비기술적이거나 기술에 익숙하지 않은 친구나 가족이 ChatGPT를 어떻게 쓰는지 한번쯤 확인해보라고 권장. 실제로 충격적인 사례가 꽤 많음. LLM 도구를 잘 모르는 사람들이 정말로 위험하게 사용하고 있음. 예를 들어, 친구의 매형은 ChatGPT에서 각종 페니주와 잘 알려지지 않은 암호화폐에 대한 엄청난 수익을 보장받는다는 얘기를 듣고 실제 투자까지 함. 어떤 사람은 ChatGPT가 신의 목소리를 전한다고 믿으며 엉뚱한 행동에 나서는 경우도 있음. 상업용 LLM은 충분히 그럴싸하게 작동해서, 이 도구의 작동 원리를 모르는 이들이 현혹되기 쉬움. 본인은 LLM의 결과에서 명백한 오류를 경험했기 때문에 의심하는 태도가 길러졌지만, 객관적 판단이 어려운 이들은 그대로 모든 걸 믿어버릴 위험이 큼

  • MIT Media Lab의 Nataliya Kosmyna가 저술한 연구에서, 보스턴 대학생 50여 명을 세 그룹으로 나눠 실험한 결과 ChatGPT를 사용한 그룹이 다른 집단보다 뇌의 활동, 특히 창의성과 작업 기억과 연관된 알파 및 쎄타 연결성이 현저히 떨어졌다고 함. 그런데 이런 n값이 적은 fMRI 연구가 진짜로 신뢰할 수 있는 과학적 결과인지 의문임. 오히려 확증편향에 의존하는 과시성 결과일 수 있음

  • 요즘 과장된 '파국 예언' 기사들이 사람들의 생각을 너무 통일시키고 있음. 이런 주장에도 분명 일리가 있지만 실제로는 훨씬 미묘한 부분이 많음

  • TV, 소셜 미디어, 인쇄기 등 과거 미디어 기술 변화를 보라며, 유사한 미디어 공포가 반복됐던 역사를 소개함 관련 기사

    • 대중 매체는 우리의 입력(정보 소비)을 동질화시킴. AI가 기존 미디어와 다르다면, 우리의 출력(생산물)까지 직접적으로 동질화시킬 수 있다는 점도 생각해볼 필요가 있음

    • 인쇄술 이전에는 세상 사람들이 80억 개의 서로 다른 대화를 했겠지만, 인쇄술로 인해 다양한 소규모 집단이 점차 커지며 더 넓은 범위에서 똑같은 대화를 나누기 시작함

  • SNS, TV, 할리우드, 그리고 전반적인 대중문화 역시 사회를 동질화시키는 역할을 함

  • 중심극한정리(central limit theorem)는 한결같이 작동한다는 의견임

  • 결국 우리는 동질화된 거인들의 어깨 위에 올라서게 될 운명임

  • 대학에서 인문계 공부할 때 논문 참고해서 내 아이디어로 붙여넣고 연결했던 방식과 지금 AI가 하는 일이 크게 다르지 않다고 생각함. 결국 AI가 자신의 지적 보조기구가 되는지 여부는 각자의 기준과 인식에 달린 문제임

답변달기