▲

AI가 설득 비용을 줄임에 따라 엘리트들이 대중의 선호도를 어떻게 형성할 수 있을까?

 (arxiv.org)
1P by GN⁺ 5일전 | ★ favorite | 댓글 1개
  • AI 기반 설득 기술이 발전하면서, 엘리트가 대중의 정책 선호를 정밀하게 조정할 수 있는 비용이 급격히 낮아짐
  • 연구는 엘리트가 다수결 제약과 설득 비용을 고려해 대중의 의견 분포를 어떻게 재구성하는지를 동태적 모형으로 분석
  • 단일 엘리트 체제에서는 설득 기술이 향상될수록 사회가 극단적 양극화 상태로 수렴하는 경향이 나타남
  • 반대로 서로 대립하는 두 엘리트가 교대로 권력을 잡는 경우, 설득 기술은 사회를 ‘준고착(semi-lock)’ 상태로 유도해 양극화를 완화할 수도 있음
  • 결과적으로 AI가 설득 비용을 낮추면, 양극화는 자발적 현상이 아니라 통치 전략의 도구로 변하며, 민주주의의 안정성에 중대한 함의를 가짐

민주주의에서 설득 기술의 변화

  • 민주주의에서는 정책 시행을 위해 대중의 지지 확보가 필수이며, 엘리트는 이를 위해 대중의 신념을 형성하거나 변화시켜야 함
    • 과거에는 학교 교육, 공영방송, 선전, 후원 네트워크 등 느리고 비효율적인 수단에 의존
    • 이러한 방식은 높은 비용과 낮은 정밀도로 인해 대규모 여론 조작이 어려웠음
  • AI의 확산은 이 제약을 근본적으로 변화시킴
    • 생성형 모델과 에이전트 시스템이 개인 맞춤형 설득 콘텐츠를 실시간으로 대량 생성 가능
    • 설득 비용이 낮아지면서 대중의 선호 분포 자체가 엘리트의 선택 변수로 전환됨

단일 엘리트 모형: ‘양극화 끌림(polarization pull)’

  • 단일 엘리트가 매 시점마다 다수결 규칙 아래에서 정책을 시행하기 위해 대중의 지지를 조정함
    • 설득 비용이 존재할 때, 엘리트는 미래의 불확실성에 대비해 사회를 다소 분열된 상태로 유지하는 것이 유리함
    • 여론이 50:50에 가까울수록, 다음 시점에 정책 방향이 바뀌더라도 지지를 전환하는 비용이 최소화됨
  • 따라서 엘리트는 여론을 합의에서 멀어지게, 즉 극단화 방향으로 이동시키는 경향을 보임
    • 설득 기술이 발전할수록 이러한 양극화 수렴 속도가 빨라짐
  • 수학적 분석 결과, 엘리트는 여론을 중간값(1/2) 근처로 이동시키는 것이 최적이며, 합의로부터 멀어지는 조정만 발생

두 엘리트 경쟁 모형: ‘준고착(semi-lock)’ 효과

  • 두 엘리트가 상반된 정책 선호를 가지고 교대로 권력을 잡는 경우, 설득 기술의 효과가 달라짐
    • 양측 모두 여론을 다수결 임계점 근처로 유지하려 하지만, 극단적 양극화는 상대에게 쉽게 탈환당할 위험을 초래
    • 이에 따라 각 엘리트는 여론을 상대가 뒤집기 어려운 중간 고착 구간으로 이동시키려 함
  • 결과적으로 설득 기술은 환경에 따라 양극화를 강화하거나 완화할 수 있음
    • 경쟁이 치열할수록 사회적 응집력 증가로 이어질 가능성 존재

기존 연구와의 차별점

  • 기존 문헌은 양극화를 소득, 정체성, 미디어 구조 등 외생적 요인의 결과로 분석
  • 본 연구는 양극화를 엘리트가 전략적으로 선택하는 정책 수단으로 모델링
  • 또한 AI 기반 설득 기술의 발전이 장기적으로 정치 균형과 여론 분포를 어떻게 재편하는지를 연결
    • 관련 연구로 LLM 기반 설득 실험(Salvi et al., Schoenegger et al., Tappin 등)과 AI의 정치경제적 영향(Korinek, 2024)을 참조

민주주의 안정성에 대한 함의

  • 설득 비용이 낮아질수록, 양극화는 자연 발생적 현상이 아니라 전략적 통치 수단으로 기능
  • 이는 정치적 불안정성과 정보 조작 위험을 증대시킬 수 있음
  • AI 기술의 발전이 정치적 설득의 구조와 비용을 재편하면서, 민주주의 제도의 지속 가능성에 새로운 도전 과제를 제시함
▲
GN⁺ 5일전  [-]
Hacker News 의견

  • Converse의 에세이를 읽으며 대중이 실제로 의견을 가지고 있는지 의문이 듦
    예를 들어 관세 문제를 보면, 여론조사에서는 긍정이 38% 정도지만, 산업별 이해관계로 보면 훨씬 낮을 것 같음
    소매·서비스·건설업은 관세로 얻는 이익이 없고, 제조업도 수입 원자재 의존 때문에 미묘함
    결국 강하게 찬성하는 건 철강·알루미늄 산업뿐인데 GDP의 2% 수준임
    흥미롭게도, 이 책은 1964년에 출간되어 베트남전과 반문화 운동 등 사회적 불만이 폭발하기 직전 시기를 다룸

    • 관세를 지지하는 사람들은 단순한 감정이 아니라 제조업 복귀와 국가 안보 강화를 위한 합리적 판단을 하는 것임
      외국 의존도를 줄이고 일자리를 늘리려는 비용-편익 분석의 결과로 봄
    • 문제는 대중에게 발언권을 주는 게 아니라, 지식 있는 사람을 뽑지 않는 것임
      사람들은 자신이 많이 안다고 착각하고, 그 의견이 정책 결정에서 동등하게 다뤄져야 한다고 믿음
      서구 사회에서는 서로의 견해를 도전하거나 책임을 묻지 않는 문화가 커서 이런 현상이 심화됨

  • 기사 내용은 AI에 특화된 논의가 아님
    설득의 비용 구조가 핵심이며, AI는 단지 선전물을 싸게 만드는 도구로 언급될 뿐임
    같은 논리는 Facebook 타깃 광고나 러시아 트롤 부대에도 적용 가능함

    • 사람들은 LLM의 결과물을 다른 미디어보다 더 신뢰하는 경향이 있음
      AI가 자신감 있게 말하기 때문에 권위감이 느껴짐
      진짜 문제는 이런 메시지를 통제하는 초부유층의 영향력임
    • AI는 기존 수단보다 훨씬 빠르게 동조 압력(enforced conformity) 을 강화할 수 있음
      이에 대한 생각을 블로그 글에 정리했음
    • AI는 기존 메커니즘을 더 강력하게 활용함
      러시아 트롤이 자동화로 콘텐츠를 10배 더 생산할 수 있고, 자발적 반대 운동은 그만큼 확장되지 못함
    • 설득 비용이 2배 싸지는 건 양적 차이지만, 100배 싸지면 질적 변화가 일어남
    • AI의 약속은 인간 노동이 필요했던 일을 싸게 만드는 것임
      좋은 일도 많아지지만, 나쁜 일도 싸게 가능해지는 게 문제임

  • 엘리트의 여론 조작은 신문과 방송 시절부터 이어져 온 일임
    교과서나 교육 과정도 마찬가지였음
    오히려 LLM은 선전 저항성이 더 높을 수도 있음, 백과사전 다음으로
    상업적 경쟁이 존재하기 때문에, 특정 모델이 편향되면 사용자들이 금방 알아차리고 떠날 것임
    ‘객관적 보도’라는 개념도 사실 상업적 신뢰 확보 전략에서 비롯된 것임

  • ‘자유 사상가’가 된다는 건 종종 ‘이상한 사람’이 되는 것과 같음
    군중이 틀릴 수도 있지만, 혼자 다르게 생각하면 사회적 비용이 큼
    예를 들어 나는 침대 프레임 없이 매트리스만 쓰는 게 더 편하다고 생각하지만, 대부분은 이상하게 봄

    • “모든 생각이 특정 정당의 노선과 일치한다면, 스스로 생각하지 않는 것일 수도 있다”는 말이 떠오름
    • 자유롭게 사는 것 자체가 보상임
      결국 우리는 혼자 태어나고 혼자 죽음, 타인의 인정은 덧없음
    • 매트리스만 쓰면 바닥의 냉기와 습기 문제가 생김
      통풍이 안 되면 곰팡이가 생기고, 노약자에게는 불편함
      후톤(futon) 처럼 바닥용으로 설계된 제품이 더 적합함

  • 이미 대형 AI 모델들은 민감한 주제에 대해 미세 조정(fine-tuning) 을 받고 있음
    기업의 법무·마케팅·거버넌스 팀이 합의한 방향으로 조정되고, 수백만 명이 그 결과를 그대로 사용함

    • 이전에는 검색 엔진이 정보를 필터링했지만, 모델 미세 조정은 훨씬 어렵고 불투명함

  • 나는 AI를 이용해 은행에서 200달러를 돌려받는 데 성공했음
    은행의 PDF 문서를 참고해 AI가 공식 요청서를 작성해줬음
    앞으로 은행이 AI로 이런 요청을 처리하게 되면, AI가 AI를 설득하는 시대가 올 것임
    새로운 LLM 벤치마크: AI-persuasion™ 이 필요함

  • 머신러닝 기반 영향력 조작은 이미 10년 전부터 있었음
    데이터 마이닝과 광고 타깃팅은 성숙한 기술임
    걱정되는 건 즉흥적 설득이 아니라, 어린 시절부터 신념이 조형되는 구조적 영향력임
    ‘iPad 세대’가 그 예시라 무섭게 느껴짐

    • “Grok/Alexa, 이게 사실이야? ” 같은 질문이 권위로 작용함
      사람들은 처음 들은 정보를 진실로 받아들이고, 나중에 반박당하면 감정적으로 반응함
      어릴 때 주입된 ‘사실’은 나중에 바꾸기 어렵고, 자동화된 시스템이 이를 대규모로 수행할 수 있음
      조작의 비용이 거의 0에 수렴하기 때문에 위험함

  • 우리는 사적 감시 사회에 대한 안전장치가 없음
    진짜 해결해야 할 건 교육, 주거, 식량, 생계비 같은 일상적 문제임

    • 하지만 그런 시기는 2차대전 이후~세계화 이전의 짧은 예외기였음
      인류 역사 대부분은 소수 엘리트가 부와 권력을 독점하는 봉건적 구조였음
      지금의 불평등은 시스템이 의도한 결과이며, 앞으로 더 악화될 것임
    • 그래도 인류는 많은 면에서 진보했음
      문해율, 교육 참여율, 영양 상태는 1925년보다 훨씬 개선됨
      다만 주거비와 생활비는 최근 20년간 다시 악화됨
    • 해결책은 단순함: 기기를 끄고, 스스로 배우는 능력을 유지하는 것임

  • 소셜미디어와 AI 덕분에 ‘** 거짓 반복(Big Lie)**’의 비용이 급격히 낮아졌음
    그래서 정부가 물가 하락을 강조하는 식의 메시지를 쉽게 퍼뜨릴 수 있음

    • “비용이 낮아졌다”는 건 선전의 민주화일 수도 있음?
    • 하지만 실제로는 돈이 많다고 CBS 같은 언론을 조작할 수는 없음
      진짜 ‘Big Lie’는 소수의 내부자 침투로 가능하며, CIA가 이미 그 효율성을 보여줬음

  • 거의 한 세기 전 조지 오웰의 1984에서 이미 이런 상황이 예견되었음
    기록을 실시간으로 수정하고, 과거를 지워버리는 정보 통제의 악몽이 묘사됨
    원문 보기

    • 이제 이런 경고를 AI 중심 커뮤니티에서도 진지하게 들어야 할 때임
답변달기