교황 Leo XIV, AI는 소수 권력자가 아니라 인류를 섬겨야 한다고 말하다
(religionnews.com)- Magnifica Humanitas는 AI를 새로운 산업혁명으로 보며, 불평등 확대와 민주주의 약화, 인간다움 훼손 위험을 경고함
- AI의 무장 해제는 군사뿐 아니라 경제적·인지적 경쟁 논리에서 벗어나, 기술이 인간을 지배하지 못하게 하는 방향을 뜻함
- AI는 이미 자원·전문성·데이터 접근권을 가진 이들의 힘을 키워, 소수가 정보·소비·민주 절차를 좌우할 수 있음
- 인간 존엄과 공동선을 지키려면 설계부터 사용까지 책임이 분명해야 하며, 윤리는 피해 뒤가 아니라 구축 과정에 적용돼야 함
- 군사용 AI에는 엄격한 윤리 제약과 인간 책임, 국제법이 필요하며, 데이터 식민주의와 노동 대체도 사회정의 문제로 다뤄짐
첫 회칙의 핵심: AI의 “무장 해제”
- 교황 Leo XIV의 첫 회칙 “Magnifica Humanitas”는 AI를 새로운 산업혁명으로 규정하며, 불평등 확대와 민주주의 약화, 인간다움 훼손 위험을 중심 의제로 삼음
- AI의 무장 해제는 군사 영역에만 국한되지 않고, 경제적·인지적 경쟁 논리에서 AI를 떼어내 기술이 인간을 지배하지 못하게 하는 방향을 뜻함
- 목표는 기술 포기가 아니라 AI를 “무장 해제되고, 환대적이며, 접근 가능”한 기술로 만드는 데 있음
- AI 기업에는 더 엄격한 국가·국제 규제가 필요하고, 개인과 공동체도 AI의 미래 형성에 폭넓게 참여해야 함
- Leo XIV는 19세기 산업혁명에 대응한 1891년 Leo XIII의 회칙 “Rerum Novarum”을 참조하며, AI 시대의 사회적 질문을 가톨릭 사회교리의 연장선에 놓음
- 회칙은 과학자·엔지니어, 정치 지도자·공직자, 부모·교사와의 경청을 거쳐 나왔으며, AI의 프로그래밍·규제·혜택에 대한 넓은 참여를 요구함
Big Tech와 권력 집중
- Leo XIV는 소수의 부유한 개인이 인류의 미래와 생계를 좌우할 수 있고, 디지털 혁명에 참여하는 사람과 주변부에 남는 사람 사이의 격차가 커질 수 있다고 봄
- AI는 이미 경제적 자원, 전문성, 데이터 접근권을 가진 이들의 힘을 증폭하는 경향이 있음
- 소수의 영향력 있는 집단은 정보와 소비 패턴을 형성하고, 민주적 절차에 영향을 주며, 경제 동학을 자신들에게 유리하게 이끌 수 있음
- 기술은 중립적이지 않고, 그 배후의 이해관계와 이해당사자를 드러냄
- 권력이 소수에게 집중되면 불투명해지고 공적 감시를 피하기 쉬워지며, 새로운 의존·배제·조작·불평등을 낳는 왜곡된 발전으로 이어질 수 있음
- Anthropic 공동창업자 Chris Olah는 AI 개발이 상업적 관심, 지정학적 압박, 자부심과 야망 때문에 “옳은 일을 하는 것”과 충돌할 수 있는 인센티브와 제약 안에서 작동한다고 말함
- Olah는 종교 공동체, 시민사회, 학자, 정부가 AI를 진지하게 바라보고 더 나은 방향으로 밀어야 한다고 봄
인간 존엄, 판단, 노동
- 핵심 원칙은 인간이 AI보다 우선한다는 점이며, 인간의 존엄은 능력·부·사회적 위치·올바른 선택 여부가 아니라 존재 자체에서 나옴
- AI 챗봇 시대의 위험은 사용자가 AI 에이전트를 사람으로 착각하는 데서 그치지 않고, 다른 사람을 찾으려는 욕구 자체를 약하게 만들 수 있음
- 의사결정을 기계에 넘기면 지나친 의존과 즉석 답변 추구가 커지고, 개인의 창의성과 판단력이 약해질 수 있음
- AI 혁신이 인간 사회와 환경 보호에 긍정적 영향을 줄 가능성은 있지만, 그 위험도 함께 다뤄져야 함
- AI가 인간 존엄과 공동선을 존중하려면 설계·개발자부터 사용자와 실제 결정에 의존하는 사람들까지 모든 단계의 책임이 명확해야 함
- 도덕·윤리 원칙은 사회에 피해가 발생한 뒤가 아니라 시스템이 구축되는 과정에서 적용돼야 함
- AI 도입에 신중함, 엄격한 평가, 때로는 느린 속도를 요구하는 태도는 진보 반대가 아니라 인간 가족을 책임 있게 돌보는 행위로 제시됨
- Anthropic 같은 사례의 윤리 헌법형 프레임워크도 소수에 의해 정해진 도덕성만으로는 충분하지 않으며, 공유된 사회정의 기준에 따라 논의돼야 함
- 진실은 민주주의의 필수 요소이며, 특히 청년에게 AI 교육이 필요함
- AI가 노동 부담을 덜어줄 수 있다는 약속과 달리, 실제로는 노동자가 기계의 속도와 요구에 맞추도록 강요되는 경우가 많음
- 네 번째 산업혁명에서 우선순위는 고용 기회 보호와 개인의 대체 불가능한 역할이어야 함
트랜스휴머니즘, 불평등, 데이터 식민주의
- 트랜스휴머니즘과 포스트휴머니즘은 인간 조건을 넘어서는 것을 진보로 보는 전제와 연결됨
- 질병, 장애, 노년, 취약성을 극복해야 할 한계로만 보는 관점과 달리, 인간은 한계에도 불구하고가 아니라 종종 한계를 통해 번성함
- Víctor Manuel Fernández는 인간이 유효기간에 도달해 대체되어야 한다는 관점과 달리, 가톨릭 가르침은 모든 인간에게 무한한 존엄이 있다고 밝힘
- 세계 경제 격차가 커지는 가운데 기술 진보가 구조적 불평등을 만들 수 있음
- 세제는 가장 취약한 사람들의 부담을 덜고 더 많은 자원을 가진 이들에게 더 많은 책임을 요구해야 하며, 혁신의 혜택은 투명하게 공동체 전체와 공유돼야 함
- AI 뒤에는 저작권 자료로 학습하는 모델부터 AI 하드웨어에 쓰이는 희귀 광물 채굴까지 인간·환경 착취의 흔적이 있을 수 있음
- 데이터 식민주의는 건강 흐름, 역학 프로필, 유전 지도, 인구통계 데이터까지 전유하는 새로운 식민주의의 얼굴로 다뤄짐
- 이런 데이터는 “권력의 새로운 희토류”가 되었고, 소수의 이윤 지향 개인이나 집단 손에 있는 AI 기술은 새로운 형태의 식민 지배가 될 수 있음
- 공유 지식이 지배 도구가 아니라 공동선이 되려면, 개인에게 자신을 설명하는 데이터와 그 데이터의 사용 방식·사용 주체·수혜자를 결정할 능력이 돌아가야 함
전쟁, 사회정의, 공동선
- AI의 군사적 사용은 가장 엄격한 윤리적 제약을 받아야 함
- 군사 행동, 특히 치명적 행동에 대한 책임은 기계가 아니라 인간에게 남아 있어야 함
- 전쟁에서 의사결정 과정의 추적 가능성, 인간 감독, 자동화 무기의 사용 증가와 그 결과를 다룰 국제법이 필요함
- 인간 존엄과 공동선을 중심에 둔 사회·경제·정치 생활의 도덕 원칙이 AI 시대에도 적용돼야 함
- 연대와 “이웃” 돌봄은 핵심 축이며, 다음 세대에 대한 책임이 특히 강조됨
- 사회정의는 자원의 더 공정한 분배나 현재 부정의의 교정만이 아니라 회복적 차원을 포함함
- 디지털 영역에서도 침습적 감시, 기본 기술 접근에서 배제된 공동체, 차별을 영속화하는 불투명한 알고리듬 피해를 경계해야 함
- 이주는 오늘날 사회정의의 리트머스 시험지로 다뤄짐
- Babel은 권력과 자기충족 추구를 상징하고, Nehemiah의 예루살렘 재건은 기도와 가족·공동체의 참여를 지향함
- AI 시대에도 Babel의 건설과 예루살렘의 재건은 각자의 내면에서 시작된다는 메시지로 이어짐
댓글과 토론
Hacker News 의견들
-
시대는 여러 면에서 달라졌음. 예를 들면 1) 지금은 AI가 있고, 2) 교황이 미국인이며 양당의 현직 최고 정치인들보다 더 신뢰할 만함
사람들이 교황권의 시대를 그리워한다기보다는, 상식 있는 사람이라면 누구든 찾고 있는 것에 가까움 -
15년 전에는 Benedict 교황이었고, 꽤 다른 인물이었음. 개인적으로는 Francis나 Leo보다 그에게 더 냉소적이었을 것 같음
-
종교 비유를 이어가자면, 그 시절 HN 사용자는 Chrome이 더 이상 예수 재림 취급을 받지 않는다는 데 더 충격받았을 것임