AI가 제도적 기반을 파괴하는 방식

• 민주주의의 핵심 제도인 법치, 대학, 언론은 협력과 안정, 적응을 가능하게 하는 구조로 설명됨
• 이러한 제도는 권위의 위계와 규칙의 틀 안에서 진화와 적응을 지속하며 정당성을 유지함
• 투명성·협력·책임성을 기반으로 한 제도는 개인이 지적 위험을 감수하고 기존 질서를 도전하도록 지원함
• 그러나 AI 시스템의 작동 방식이 이러한 제도적 특성을 약화·소멸시키는 방향으로 작용함
• AI가 전문성 침식, 의사결정 단축, 인간 간 고립을 초래해 시민 제도의 지속 가능성을 위협함

---

시민 제도의 역할과 구조

• 법치, 대학, 자유 언론 등은 민주적 삶의 근간으로 제시됨
  • 복잡한 사회에서 협력과 안정, 변화에 대한 적응을 촉진하는 메커니즘으로 기능
• 제도의 진정한 힘은 권위의 위계와 역할·규칙의 틀 안에서 진화와 적응할 수 있는 능력에 있음
• 투명성·협력·책임성을 중심으로 한 목적 지향적 제도는 개인이 지적 위험을 감수하고 기존 질서를 도전하도록 가능하게 함
  • 이러한 과정은 제도 내 인간관계의 상호작용을 통해 이루어지며, 시야 확장과 공동 목표에 대한 헌신 강화로 이어짐

AI 시스템이 제도에 미치는 영향

• AI 시스템의 기능적 특성(affordances) 이 제도의 핵심 속성을 지속적으로 약화시킴
• AI는 전문성의 침식, 의사결정 과정의 단축, 인간 간의 단절을 초래함
  • 이로 인해 제도의 진화·투명성·협력·책임성이 훼손됨
• 현재의 AI 시스템은 시민 제도에 대한 ‘사형선고’ 로 표현됨
  • 이러한 시스템은 제도의 목적과 지속 가능성을 파괴하는 방향으로 작동함

결론

• AI 시스템은 민주주의를 지탱하는 핵심 시민 제도와 양립 불가능한 구조로 규정됨
• 따라서 AI를 제도적 파괴 요인으로 인식하고 경계해야 함

[GN⁺]

Hacker News 의견들

• 나는 AI가 원인이라기보다 이미 진행 중이던 현상을 가속화하는 메커니즘이라 생각함
  소셜미디어가 이미 사람들을 고립시키고 있었는데, AI 봇이 이를 더 빠르게 만들고 있음. 정치적 목적의 혼란 조성에도 쓰이고, 결과적으로 사람들을 더 극단화시키고 있음
  대학 제도도 이미 돈벌이 수단이 되어 있었고, 인간관계는 여전히 존재함. AI가 그걸 바꾸진 않음
  다만 AI가 비판적 사고의 결여를 초래하고 있음. 사람들은 스스로 탐구하거나 창의적으로 생각하기보다 AI에 의존하고 있음

  • 이 의견에는 동의하지 않음. 타는 낙엽 더미에 휘발유를 붓는다고 해서 내가 불을 ‘시작’한 건 아닐 수 있지만, 그 불길을 걷잡을 수 없게 만든 건 맞음
    AI는 이미 금이 간 구조물에 철퇴를 내리치는 존재처럼 느껴짐
  • “AI는 단지 사회의 기존 문제를 가속화할 뿐”이라는 말은 마치 “헤로인 중독은 사회가 이미 하던 걸 좀 더 빠르게 할 뿐”이라는 말처럼 들림
    촉매 자체가 문제일 때도 있음. 그래서 소셜미디어와 AI 모두에 일정한 가드레일이 필요하다고 생각함
  • “불에 기름을 붓는 것”이 기술적 표현일 듯함. 그건 보통 아주 나쁜 일임
    AI가 상황을 악화시켰다면, 그로 인해 불이 통제 불능이 된 건 AI의 책임임. 작은 불씨가 숲 전체를 태우는 건 결국 기름 때문임
  • 문제의 근본은 자본주의 시스템이라 생각함. 모든 기술은 ‘숫자 상승’을 위해 동원되고, 외부효과는 세금으로 처리되지만 실제로는 정치인을 매수하는 게 더 싸기 때문임
    그래서 영양가 없는 식품, 무의미한 소비, 돈만 빼앗는 학교, 광고로 가득한 SNS가 생김
    앞으로 몇 년 안에 주주 자본주의가 스스로를 삼켜버리는 시점이 올 것이라 봄
  • 만약 봇이 사회 혼란을 조장하고 있다면, 플랫폼이 그걸 막지 않는 건 공범임
    기술적으로 봇 차단은 어렵지 않음. 인간 중심의 활동이 플랫폼 신뢰도와 비용 절감에 유리함에도 방치한다면, 정치 세력과의 결탁을 의심할 수밖에 없음

• “법치, 대학, 언론이 민주주의의 근간”이라는 말은 19세기엔 맞았겠지만 지금은 아님
  언론은 선전으로 가득하고, 법치도 정치적 이해관계에 휘둘림. 대학도 신뢰하기 어려움
  Varsity Blues 스캔들을 보면, 이게 과연 민주주의의 기둥인지 의문임

  • 이런 제도들의 대안이 현재는 소셜미디어인데, 정확성·공정성·호기심 면에서 훨씬 나쁨
    그래서 나는 오히려 AI가 더 나은 대체재가 될 수 있다고 봄. AI와 제도는 공생 관계일 수도 있음
  • 역설적으로 지금의 제도들은 역사상 가장 나은 상태일 수도 있음
    과거엔 몰랐기 때문에 더 신뢰했을 뿐, 지금은 완벽을 추구하다가 ‘좋음’을 잃고 있음
    불신은 우리가 만든 감옥임
  • 언론은 언제나 선전이었음. 다만 과거엔 대안 매체가 없어서 몰랐을 뿐임
    민주주의의 장점은 문제를 공개적으로 논의하고 해결할 수 있는 구조에 있음
  • 만약 이 모든 게 사실이라면, 그렇다면 민주주의의 새로운 근간은 무엇이어야 하는지 묻고 싶음

• 논문 다운로드 링크는 여기임

  • 이 논문은 피어 리뷰되지 않은 초안임. 예시로 든 DOGE나 FDA 사례도 근거가 약함
    특히 FDA의 AI 사용 비판은 잘못된 기사에 기반함. 실제로는 제품 리콜용으로 쓰이고 있음
    결국 이 논문은 의견서에 가까운 글임
  • 맞춤법과 문장 부호 오류가 너무 많아 신뢰하기 어려움
    “AI가 사회에 해롭다”는 주장에는 공감하지만, 대중이 왜 AI를 쓰는지에 대한 이해가 부족함
    의료·교육·언론이 제 역할을 못하니 사람들이 AI로 향하는 건 자연스러운 일임

• 문제는 AI가 아니라 인간 제도의 신뢰 구조임
  대부분의 제도는 ‘사제 집단’처럼 권위를 전제로 유지되어 왔는데, 게임이론 이전 시대의 설계라 조작에 취약함
  이제 사람들은 제도를 신성한 구조물이 아니라 부서질 수 있는 구조물로 대하고 있음
  예로, 최근 ICE의 추방 캠페인은 정치 세력이 미국 민주주의를 Sybil 공격한 결과임
  Sybil attack 설명

  • 그렇다면 이 경우 다수의 가짜 신원은 어디에 있는지 궁금함

• 나는 이런 가설들에 회의적임. 악화는 원인보다 먼저 시작된 경우가 많음
  소셜미디어나 Tinder가 외로움의 원인이라기보다 이미 존재하던 추세를 가속화했을 뿐임
  법치, 언론, 대학 같은 사회적 기술도 오랜 기간 취약점이 노출되고 악용되어 왔음

• “AI가 전문성을 침식시킨다”는 제목이 이상함
  변호사 상담이 30분에 500유로인데 AI가 거의 무료라면, 품질이 80%여도 경제적 선택은 AI임
  AI가 사회를 바꾸는 건 사실이지만, 모든 책임을 AI에 돌리는 건 무리임. 제도 자체가 이미 건강하지 않았음

  • AI가 기존의 지식 구조를 해체하기 때문에 부정적으로 보는 시각이 있음
    과거엔 전문가에게 의존했지만, 이제는 누구나 AI 구독으로 지식을 얻는 시대임
    사회는 최대 엔트로피 상태로 가고 있음. 이런 상황에서 가치와 합의는 어떻게 형성될지 의문임
  • 나는 오히려 중요한 문제일수록 신뢰할 수 있는 조언에 돈을 지불할 것임
    20% 틀린 법률 조언은 없는 것보다 위험함. 문제는 변호사조차 AI에 의존하기 시작할 때임
  • 품질 문제는 실패의 책임이 달라서 생김. 변호사는 잘못된 조언으로 소송당할 수 있지만, AI는 면책됨

• 결국 변호사들이 이제서야 위기의식을 느낀 것 같음. 앞으로 10년은 모든 지식 직군이 AI에 맞서 싸우는 시기가 될 것임

  • 변호사는 단순히 생존이 아니라 법의 본질적 가치를 지키기 위해 AI에 반대할 이유가 있음
    법은 스스로를 성찰하며 발전해야 하지만, AI는 현 상태를 고착화시키는 경향이 있음. 이는 법의 정신과 충돌함
  • “12 Angry Agents”라니, 재치 있는 표현임
  • 기술이 사회를 불안정하게 만든다는 비판을 음모론으로 치부하는 태도는 문제임

• 나는 이미 제도들이 치명상을 입었다고 느낌
  소셜미디어와 무한 콘텐츠 소비가 언론을 약화시키고, 의사결정을 마비시키며, 사람들을 고립시킴

  • “소셜미디어가 사람을 고립시킨다”는 말은 doomscrolling을 말하는 듯함
    사실 SNS는 연결을 만들어주기도 함. 물론 Facebook은 예외일지도 모름

• 왜 치과의사에 대한 제도 불신은 없는가?
  1990년대 이후 치료는 훨씬 편해졌고, 삶의 질을 개선했기 때문임
  반면 다른 전문가들은 “우리 말을 들으면 덜 나빠질 뿐”이라 말함. 신뢰를 얻으려면 삶을 실제로 개선해야 함

  • 하지만 일부는 치과의사도 과잉 진료와 영업 행위로 신뢰를 잃고 있다고 함
    나는 개인 치과를 신뢰하지만, 대형 체인 치과는 믿기 어려움
  • 나도 치과의사를 전혀 신뢰하지 않음. 불필요한 시술로 돈을 벌려는 경우를 겪었음
    결국 시간과 환자를 돈으로 바꾸는 구조가 문제임. 세심한 진료는 부자만의 특권이 되어버림