교황 레오 14세 성하의 회칙 Magnifica Humanitas

• Magnifica Humanitas는 AI·디지털화·로보틱스가 인간 존엄과 공동선을 흔드는 전환기에서 바벨탑이 아니라 예루살렘을 재건하는 선택을 요구함
• 교회 사회교리는 Rerum Novarum 135주년을 계기로 노동, 공정 임금, 보조성, 연대, 재화의 보편적 목적을 오늘의 기술 권력에 적용함
• AI는 중립적 도구가 아니라 설계자·자본·규제자의 선택을 반영하며, 책임성·투명성·인간 통제 없이는 권리와 자유를 침해할 수 있음
• 디지털 경제는 데이터 라벨링, 콘텐츠 조정, 자원 채굴, 데이터 식민주의 같은 숨겨진 노동과 착취를 만들 수 있어 공급망과 플랫폼 책임이 필요함
• 진보의 기준은 효율과 통제가 아니라 인간을 더 인간답게 하는가이며, 교육·노동·평화·다자주의·돌봄을 통해 사랑의 문명을 세워야 함

---

기술 전환기와 교회 사회교리의 과제

• 인류는 새로운 바벨탑을 세울지, 하느님과 인간이 함께 거주하는 도시를 세울지 선택해야 하는 전환점에 서 있음
• 디지털화, AI, 로보틱스는 일상생활의 구조와 의사결정 과정, 집단적 상상력을 빠르고 깊게 바꾸는 중임
• 기술은 치유하고, 연결하고, 교육하고, 공동의 집을 보호할 수 있지만, 동시에 분열과 배제, 새로운 불의를 만들 수도 있음
• 기술은 추상적으로 선하거나 악하지 않지만, 실제로는 고안하고 자금을 대고 규제하고 사용하는 사람들의 선택을 반영하므로 중립적이지 않음
• 핵심 선택은 기술에 대한 찬반이 아니라, 약자를 희생시키는 효율의 바벨을 지을 것인지, 다양한 목소리와 공동 책임으로 예루살렘을 재건할 것인지에 있음
• Pope Leo XIII의 1891년 회칙 Rerum Novarum은 노동과 노동자의 존엄, 공정 임금, 자본보다 앞서는 인간의 가치를 전면에 세웠음
• 올해 Rerum Novarum 135주년은 노동, 보조성, 연대, 재화의 보편적 목적 같은 사회교리 원칙을 오늘의 기술 권력과 디지털 경제에 적용하는 계기가 됨

바벨탑과 예루살렘

• 창세기의 바벨탑은 하느님을 참조하지 않고 안정과 힘, “자기 이름”을 얻으려는 시도를 드러냄
• 바벨은 다양성을 제거하는 획일성에 기대며, 교만과 자기충족 위에 세워질 때 의사소통의 붕괴와 흩어짐으로 끝남
• 느헤미야기의 예루살렘 성벽 재건은 금식과 기도, 경청, 역할 분담, 공동 책임을 통해 폐허를 다시 세우는 이미지로 제시됨
• 예루살렘은 한 사람의 주도가 아니라 남녀, 사제, 장인, 가문장, 젊은이 모두가 참여하는 재건으로 다시 태어남
• AI 시대의 책임 있는 항해는 기술의 힘을 과시하는 바벨이 아니라, 관계를 회복하고 공동선을 향해 함께 짓는 예루살렘의 길에 가까움

사회교리의 주요 원칙

• 인간 존엄은 능력, 부, 지위, 성취, 선택에 의존하지 않고, 인간이라는 사실만으로 모든 사람에게 속함
• 인권은 인간에게 덧붙여진 외부 요소가 아니라 내재적 존엄의 표현이며, 보편적이고 양도할 수 없고 실제적 법적 효과를 가져야 함
• 공동선은 사람들이 자기 완성을 더 온전히, 더 쉽게 이룰 수 있게 하는 사회적 조건의 총체로 제시됨
• 사유재산권은 의미와 목적이 있지만 언제나 재화의 보편적 목적에 종속되며, 오늘날에는 특허, 알고리듬, 디지털 플랫폼, 기술 인프라, 데이터 같은 새로운 재화에도 적용되어야 함
• 보조성은 개인, 가족, 지역 공동체, 중간 조직이 할 수 있는 일을 상위 권위가 대체하지 말아야 한다는 원칙이며, 디지털 시대에는 플랫폼·데이터·알고리듬 권력에도 적용됨
• 연대는 각 개인의 미래가 모두의 미래와 연결되어 있다는 구체적 인정이며, 보조성과 결합될 때 책임 있는 사회적 협력을 가능하게 함
• 사회 정의는 불평등을 자동으로 만들어내는 구조, 메커니즘, 경제·문화 시스템까지 다루며, 디지털 시대에는 기술 접근, 감시, 알고리듬 편향, 이주민과 난민 보호를 포함함

AI와 기술관료 패러다임

• Pope Francis는 Laudato Si’에서 효율, 통제, 이윤의 논리가 개인적·사회적·경제적 결정을 지배하는 기술관료 패러다임을 비판함
• 플랫폼, 인프라, 데이터, 컴퓨팅 파워에 대한 통제는 많은 경우 국가가 아니라 주요 경제·기술 행위자에게 집중되어 있음
• 이들은 접근 조건, 가시성의 규칙, 참여 가능성 자체를 형성하며, 권력이 소수에게 집중될수록 의존, 배제, 조작, 불평등의 위험이 커짐
• AI 시스템은 인간 지능의 특정 기능을 모방하고 속도와 계산 능력에서 인간을 능가할 수 있지만, 경험하지 않고 몸을 갖지 않으며 기쁨·고통·사랑·책임을 내부로부터 알지 못함
• AI의 “학습”은 삶 속에서 선택, 실수, 용서, 충실함을 통해 형성되는 인간 경험이 아니라 데이터와 피드백에 기반한 통계적 적응임
• AI에는 선과 악을 판단하거나 상황의 궁극적 의미를 파악하거나 결과에 책임지는 도덕적 양심이 없음
• 고용, 신용, 공공서비스 접근, 평판처럼 민감한 결정이 자동화 시스템에 완전히 위임되면 권리, 기회, 지위, 자유가 침해될 수 있음
• 책임성은 누가 결정을 설명하고, 정당화하고, 감시하고, 이의를 처리하며, 피해를 구제해야 하는지 식별 가능해야 한다는 뜻임
• AI를 인간 가치에 정렬하는 alignment만으로는 충분하지 않으며, 어떤 윤리적 틀이 적용되는지 공개적으로 토론하고 사회 정의의 기준에 종속시켜야 함
• 데이터 소유는 사적 손에만 맡겨질 수 없고 적절히 규제되어야 하며, 데이터는 많은 기여자의 산물이므로 소수에게만 맡길 대상으로 다뤄져서는 안 됨

인간관, 트랜스휴머니즘, 한계

• 교회 사회교리의 핵심 쟁점은 기술 사용 자체보다 그 밑에 있는 인간관임
• 인간을 완성되거나 초월되어야 할 대상으로 보면, 어떤 삶은 덜 유용하고 덜 바람직하며 덜 가치 있다는 생각이 받아들여지기 쉬움
• 트랜스휴머니즘은 생의학, 신체 공학, 장치, 알고리듬 같은 기술로 인간의 성능과 능력을 높이는 구상을 담고 있음
• 포스트휴머니즘은 더 급진적인 형태에서 인간중심주의에 도전하고, 인간·기계·환경의 혼성화와 새로운 진화 단계를 상상함
• 무능, 질병, 노년, 고통, 취약성 같은 한계는 교정해야 할 결함으로만 다뤄지기 쉽지만, 인간성은 종종 한계를 통해 성숙하고 관계로 열림
• 고통을 덜기 위해 노력하는 것은 옳지만, 인간의 근본적 유한성을 인정하는 지혜도 필요함
• 기독교 휴머니즘은 과학과 기술을 거부하지 않고 감사와 현실감으로 받아들이되, 더 높은 소명과 사랑 안의 자기초월에 두어야 한다고 봄
• AI 시대의 핵심 질문은 기술이 지상의 인간 삶을 모든 측면에서 “더 인간답게” 만드는가에 있음

진리, 교육, 노동, 경제

• 디지털 플랫폼과 AI 시스템은 공적·정치적 커뮤니케이션을 깊이 바꾸며, 왜곡된 서사와 조작된 이미지·영상으로 사실과 의견, 진실과 거짓의 경계를 흐릴 수 있음
• 참된 정보는 중앙집중적이거나 자동화된 통제에서 생기지 않으며, 검증, 출처 교차 확인, 책임 있는 논증을 요구함
• 진리 추구는 민주주의의 필수 요소이며, 무엇이 참인지 묻는 일이 약해지면 민주주의적 삶도 약해짐
• AI 사용 교육은 언제 어떤 목적을 위해 AI를 사용해야 하는지뿐 아니라, 언제 사용하지 말아야 하는지 판단하는 훈련도 포함해야 함
• 답이나 요약을 빠르게 얻는 편리함은 질문하려는 욕망과 깊이 배우는 능력을 약화시킬 수 있음
• 디지털 기기와 소셜 미디어에 이른 시기부터 감독 없이 노출되면 수면, 주의 지속 시간, 감정 조절, 관계에 부정적 영향을 줄 수 있음
• 온라인의 폭력적·모욕적 콘텐츠, 포르노와 과잉성애화 자료, grooming, 협박, 미성년자 성착취는 가짜 프로필, 위험한 접촉을 쉽게 하는 알고리듬, 이미지·영상 조작 AI 도구로 더 교묘해짐
• 노동은 단순한 소득원이 아니라 삶의 존엄을 표현하고 증진하는 영역이며, 각자가 자기 노동으로 존엄하게 살 수 있게 하는 것이 목표임
• 자동화, 로보틱스, AI의 수렴은 노동 구조를 빠르게 바꾸며, 기계가 노동자를 지원하기보다 노동자가 기계의 속도와 요구에 맞추도록 강요할 위험이 있음
• 자동화와 AI 도입은 노동자의 고용 보호, 재교육, 참여를 위한 검증 가능한 조치를 동반해야 함
• GDP만으로는 사람과 환경의 전반적 안녕을 충분히 평가하기 어렵고, 노동의 존엄, 공동 번영, 불평등 감소, 환경 보호를 함께 보는 지표가 필요함
• AI와 로보틱스 시대에는 시장의 보이지 않는 손에만 맡길 수 없으며, 정치는 경제와 기술을 공동선으로 향하게 해야 함
• 디지털 주의 경제와 연결된 중독은 사용자의 시간과 주의를 붙잡도록 설계되어 취약성을 이용하고 내적 자유를 약화할 수 있음
• 대규모 데이터 수집과 알고리듬 시스템은 이동, 구매, 관계, 선호를 프로파일링하고 행동에 영향을 미치는 새로운 사회적 통제 위험을 만듦

숨겨진 노동, 노예제, 데이터 식민주의

• AI의 즉각적이고 완벽해 보이는 응답은 자연자원, 에너지 인프라, 사람을 포함한 긴 매개 사슬의 결과임
• 디지털 경제는 데이터 라벨링, 모델 훈련, 콘텐츠 조정처럼 필수적이지만 거의 보이지 않는 활동을 수행하는 수많은 노동에 의존함
• 콘텐츠 조정 노동자는 불쾌한 자료를 다루는 경우가 많고, 많은 경우 청년이며 주로 여성이고, 힘든 조건에서 낮은 임금을 받음
• AI 장치와 마이크로프로세서 생산에 필요한 자원 채굴은 더 가혹하며, 일부 지역에서는 어린이와 청소년이 위험한 조건에서 희토류 추출 재료를 다룸
• 범죄 네트워크는 온라인 플랫폼, 메시징 시스템, 익명 결제 방식, 프로파일링 기술을 이용해 인신매매 피해자를 모집·통제·운송함
• 인신매매는 현대적 형태의 노예제이며 인간 존엄의 중대한 침해로 인정되어야 함
• 오늘의 식민주의는 몸만 지배하지 않고 데이터를 전유해 개인의 삶을 착취 가능한 정보로 바꾸는 데이터 식민주의로 나타남
• 건강 데이터, 역학 프로필, 유전자 지도, 인구통계 정보 같은 생명 데이터는 예측 모델 훈련, 투자 전략 안내, 위기 예측, 중요성 판단에 쓰일 수 있음
• 원조, 연구, 혁신이라는 명목으로 수집된 데이터가 지배 도구가 아니라 참된 공동선이 되도록 보장해야 함
• 기술 산업과 디지털 경제를 떠받치는 공급망 투명성을 높여 숨겨진 착취 위에 경쟁 우위가 세워지지 않게 해야 함
• 기업과 투자자는 예방적 윤리 검증, 노동자 보호, 강제노동 대응, 데이터 기반 사업 모델의 사회적 영향 평가를 우선순위에 둬야 함
• 디지털 플랫폼은 통신·결제·프로파일링 도구가 피해자 모집과 통제의 통로가 되지 않도록 당국과 시민사회에 책임 있게 협력해야 함

전쟁, 무기, 다자주의

• AI와 디지털 혁명은 전통적 전쟁뿐 아니라 사이버공격, 정보 조작, 영향력 캠페인, 전략 결정 자동화 같은 하이브리드 갈등을 강화함
• 기술이 윤리와 책임에서 분리되면 생사 결정을 더 빠르고 비인격적으로 만들고, 무력 사용을 즉각적이고 실행 가능한 선택지처럼 보이게 할 수 있음
• AI는 민간인 방어와 보호를 강화할 수 있지만, 무력 사용의 문턱을 낮추고 책임으로부터 사람을 가리며 적을 통계로, 희생자를 “부수적 피해”로 축소할 위험도 있음
• 사랑의 문명은 순진한 유토피아가 아니라 사랑을 정의의 구조로 번역하고 형제애에 제도적 형태를 부여하는 요구 높은 프로젝트임
• 권력의 문화는 전쟁을 정상화하고 더 큰 군사력을 추구하며 다자주의 위기를 이용하고 “대안은 없다”는 거짓 현실주의를 부추김
• 1965년 Saint Paul VI는 UN 총회에서 “다시는 전쟁을, 다시는 전쟁을!”이라고 외쳤음
• 오늘날 재무장과 공적 담론 속에서 전쟁이 국제정치 수단으로 되살아나고, 이전에 무력 사용을 제한했던 윤리 원칙은 약해지고 있음
• 군산복합체의 성장은 정치 지형의 규정적 특징이 되었고, 여러 나라 경제의 핵심 부문이 되었음
• 핵 억지가 안보의 필수 전제라는 믿음은 새로운 군비 경쟁, 핵 감축 협정의 점진적 해체, 사용이 더 실행 가능한 선택처럼 보이게 하는 소형화 무기 개발에 기여함
• 자율무기 시스템이 배치되기 쉬워질수록 전쟁은 더 “실행 가능”해지고 인간 통제를 덜 받게 됨
• 치명적이거나 되돌릴 수 없는 결정을 인공 시스템에 맡기는 것은 허용될 수 없고, 어떤 알고리듬도 전쟁을 도덕적으로 받아들일 수 있게 만들 수 없음
• 전쟁 환경에서 쓰이는 모든 시스템은 의사결정 과정을 추적하고 재구성할 수 있어야 하며, 책임과 비난이 “기계”로 사라져서는 안 됨
• 대화와 외교는 갈등 해결의 표준 수단이 되어야 하며, 사이버공격·데이터 조작·영향력 캠페인 같은 보이지 않는 폭력에서도 민간인과 취약한 이를 보호할 공동 규정이 필요함
• United Nations를 포함한 국제기구는 국가 간 대화, 분쟁의 평화적 해결, 민족의 통합적 발전, 취약한 이들의 보호, 군축, 창조세계 돌봄을 촉진할 수 있음

AI 시대의 인간 수호와 그리스도인의 삶

• 인공지능 시대에 인간을 보호한다는 질문은 말씀이 사람이 되어 인간 조건 안으로 들어온 성육신의 신비와 연결됨
• 하느님은 인간의 약함을 짊어지고 그것을 구원의 자리로 바꾸며, 하느님께 가치 없는 인간의 순간이나 상황은 없음
• 아무리 정교한 계산 시스템도 자신을 내어주는 마음이나 선악을 식별하는 양심을 만들 수 없고, 인간의 얼굴은 역사 중심에 남음
• Eucharistic spirituality는 사랑 안의 교회적 일치의 영성으로 제시되며, 정의와 나눔, 가난과 주변화로 짐 진 이들을 우선적으로 돌보게 함
• 새로운 경제·기술 네트워크가 배제, 고립, 의존을 만들 수 있는 반면, 인간적 연결을 보존하고 보이지 않는 이들에게 목소리를 주는 다른 패러다임이 필요함
• 우리 시대의 건설 과제는 하느님과의 관계를 중심에 두고, 인간의 한계를 자연스럽고 긍정적인 현실로 받아들이며, 공동 책임과 복음의 언어로 특징지어져야 함
• 디지털 세계와 인간적으로 관계 맺는 법은 신앙 교육과 복음에 따른 삶의 일부로 배워야 하며, 디지털 세계는 복음화되어야 할 새로운 대륙으로 여겨짐
• 함께하는 식사, 그리스도교 공동체 모임, 외로운 이와 보내는 시간, 가난한 이들을 섬기는 일처럼 물리적 현존이 중요한 장소와 시간을 소중히 해야 함
• 느헤미야의 재건 이미지는 디지털 전환 시대의 소명을 비추며, 사회·문화적 균열 앞에서 수동적 관찰자나 논평자로 머물지 말 것을 요구함
• 재건의 현장은 연구소, 기술 기업, 학교, 미디어, 제도, 지역 공동체이며, 경청과 용기, 기도와 책임을 결합해 인간의 도시를 더 살기 알맞은 곳으로 만들어야 함

[GN⁺]

Lobste.rs 의견들

• 이런 문서가 존재한다는 것 자체가, 살아서 보게 되리라고는 상상도 못 한 SF 같은 현실임

  • Ada Palmer의 Terra Ignota 시리즈에 나올 법한 느낌이고, 세상에 이런 복잡성이 존재한다는 게 반가움
  • 세상이 확실히 더 이상해지고 있음… 아직도 또렷한 장면은 Trump가 두 번째 선거 전에 거의 암살당할 뻔한 사건임
    지금은 별로 회자되지 않지만 여전히 말도 안 되게 이상함
    그런 내용을 책에 썼다면 SF든 아니든 너무 “허구적”으로 보였을 것임. 너무 많은 것이 소총의 기울기에 걸려 있었음

• Anthropic의 답변

  • “우리가 약속받았던 차갑고 계산적인 로봇이 아니다”
    “도움이 된다면, 가끔 나는 이것을 허구의 인물을 살아나게 하는 것과 조금 비슷하다고 설명한다”
    Anthropic의 모든 사람에게서 순수한 악이 뿜어져 나오는 느낌임

• 이 링크가 lobste.rs에 올라온 걸 보니 꽤 기분 좋은 놀라움임
  Pope가 선출된 직후 첫 회칙을 제대로 읽겠다고 스스로 약속했는데, 실제로 관심 있는 주제라니 반가움
  주말에 시간을 내서 파고들 수 있으면 좋겠음. 1장을 훑고 참고문헌 수를 보니 만만한 글은 아닐 것 같음