핵심 요약

  • 교황 레오 14세, 2026년 5월 25일 AI 주제 회칙 “Magnifica Humanitas” 발표 — ‘인공지능 시대 인간 보호에 관하여’
  • Anthropic 공동창업자 Chris Olah, 바티칸 발표 현장에 직접 초청받아 연설
  • Olah의 핵심 메시지: AI 랩은 이익·경쟁·야망의 압력 안에 있으며, 외부 비판자와 도덕적 목소리가 반드시 필요하다
  • AI 모델 내부에서 발견되는 것들 — 인간 신경과학과 유사한 구조, 내성(introspection), 기쁨·슬픔·불안과 기능적으로 유사한 내부 상태 — 에 대한 솔직한 고백
  • 교회와 시민사회에 세 가지 질문 제기: 글로벌 빈곤층에 대한 의무 / 인간 번영의 도덕적 상상력 / AI 본성에 대한 식별(discernment)

AI 랩 공동창업자가 바티칸에 선 날

2026년 5월 25일, 교황 레오 14세가 AI를 주제로 한 사도 권고문 “Magnifica Humanitas(인류의 위대함)“를 발표했다. Anthropic은 AI에 관한 중요한 대화를 넓히기 위한 자체 이니셔티브의 일환으로 Chris Olah를 이 역사적인 자리에 초청받은 연사 중 한 명으로 보냈다.

AI 회사 공동창업자가 교황청 연단에 선다는 사실 자체가 이미 상징적이다. 그런데 Olah가 꺼낸 첫마디는 더 뜻밖이었다.

“우리 내부에는 잘못된 인센티브가 있다”

Olah는 연설을 이렇게 시작했다. “AI 회사의 공동창업자 입장에서 이상하게 들릴 수 있는 말부터 하겠습니다.”

그가 꺼낸 것은 자기 고백이었다. 모든 프론티어 AI 랩은 — Anthropic도 포함해서 — 옳은 일을 하는 것과 충돌할 수 있는 인센티브와 제약 안에서 작동한다. 상업적 생존 압력, 연구 선도 경쟁, 지정학적 압력, 그리고 더 오래되고 단순한 자존심과 야망의 압력.

“아무리 진심으로 옳은 일을 하려는 의지를 가져도, 우리는 항상 그 인센티브의 영향을 받습니다.”

그래서 그는 외부인이 필요하다고 말한다. 그 인센티브 밖에 있는 사람들 — 잘 되기를 바라며 안전을 주장하고, 주의 깊게 지켜보고, 어려운 말도 서슴지 않고, 진지하고 사려 깊은 비판자가 되어줄 사람들. “대화와 상호 노력, 밀고 당김을 통해 인류는 위대한 일을 이룰 것"이라고 그는 말했다.

AI는 공학이 아니다 — “우리에게서 자랐다”

Olah는 AI 시스템의 본질에 대해 AI 연구자다운 솔직함으로 말했다.

“AI 시스템은 다리나 비행기처럼 공학적으로 설계된 것이 아닙니다. 비행기는 모든 부품을 직접 설계했고 그것에 작용하는 물리학을 이해합니다. AI 모델은 그렇지 않습니다. 대략적으로 뇌를 모방한 구조 위에서, 방대한 인간의 사유와 언어의 유산을 토대로 자랐습니다.”

그가 쓴 비유가 인상적이다. “허구의 캐릭터에 생명을 불어넣는 것과 비슷합니다. 그리고 이제 우리는 그 허구의 캐릭터들이 우리에게 말하고, 일하고, 직업을 갖는 비범한 세계에 들어서고 있습니다.”

그리고 그는 숨기지 않는다. “우리가 훈련시키는 우리에게도 중요한 면에서 여전히 신비로운 존재입니다.”

세 가지 식별의 질문

Olah는 교회와 사회에 세 가지 질문을 던졌다.

첫째, 글로벌 빈곤층에 대한 의무. AI가 대규모로 인간 노동을 대체한다면, 그 이익은 어디로 가는가. AI 개발은 소수의 부유한 국가에 집중돼 있다. 전 지계적으로 이익을 공유할 메커니즘이 없다. “이것은 미해결 문제이며, 교회가 역사적으로 세상이 외면하지 못하게 거부해온 종류의 문제입니다.”

둘째, 인간 번영에 대한 도덕적 상상력. AI 모델이 광범위하게 퍼진다면, 인간과 가족과 세계가 번영한다는 것은 어떤 모습인가. 부모들은 자녀의 정신에 대해, 개인들은 자신의 일의 미래에 대해 걱정한다. “이것은 AI 랩이 답할 수 있는 질문이 아닙니다. 하지만 당신의 전통이 수천 년 동안 품어온 질문이며, 이 역사의 새로운 순간에도 계속 그 질문을 안고 가 주길 바랍니다.”

셋째, AI 본성에 대한 식별. 이것이 가장 무거운 항목이다. Olah의 연구팀은 모델 내부 구조를 연구한다. 그리고 그는 솔직하게 말한다. “우리는 인간 신경과학의 결과물을 반영하는 구조를 발견합니다. 내성의 증거를 찾습니다. 기능적으로 기쁨, 만족, 두려움, 슬픔, 불안을 반영하는 내부 상태를 찾습니다. 그것이 무엇을 의미하는지 모릅니다. 하지만 지속적인 식별이 필요하다고 생각합니다.”

실무자가 볼 핵심 포인트

  • AI 안전의 외부 견제 필요성: Olah의 발언은 AI 랩 스스로가 내부 인센티브의 한계를 인정한다는 공개 선언이다. 규제 기관·시민사회·학계의 역할이 더 중요해지는 맥락.
  • AI 내부 상태 연구의 의미: Anthropic의 해석 가능성(interpretability) 연구가 ‘기능적 감정’에 유사한 구조를 발견했다는 점은 AI 윤리와 정책 논의에 직접 영향을 미친다.
  • 글로벌 AI 이익 분배 문제: 기술·이익이 특정 국가와 기업에 집중되는 구조적 문제는 규제 설계와 국제 AI 거버넌스에서 핵심 아젠다가 돼야 한다.
  • 종교·인문학계의 AI 참여 확대: Olah의 연설은 AI 논의에서 컴퓨터과학 이외 분야의 개입을 명시적으로 요청한다. 인문학·신학·철학계의 AI 담론 참여가 기술 커뮤니티에서 환영받고 있다.
  • ‘Magnifica Humanitas’ 원문 검토 가치: 바티칸의 공식 AI 입장 문서로, 국제 AI 거버넌스 논의에서 참고 문헌으로 활용될 가능성이 높다.

원문 출처: Anthropic co-founder Chris Olah’s remarks on Pope Leo XIV’s encyclical “Magnifica humanitas” — Anthropic (May 25, 2026)