🔎 #726. AI는 신의 자녀가 될 수 있을까요?

안녕하세요?
매일 사람이 쓰는 뉴스레터 Daily Prompt입니다.

오늘은 Anthropic이 종교계 지도자 15명을 초청해 Claude의 도덕성과 영성을 논의했다는 소식을 소개합니다.

Anthropic, 도덕적인 챗봇을 만들기 위해 종교 지도자들을 만나다

• 2026년 3월 말, Anthropic은 샌프란시스코 본사에 기독교 지도자 약 15명을 초청했습니다. 가톨릭 사제, 개신교 목회자, 대학 교수, 기업인 등이 참석했고, 2일간의 회의와 연구원 비공개 만찬이 이어졌습니다.

Anthropic이 묻고 싶었던 질문

• 기사에 따르면 Anthropic 내부에서는 매우 구체적이고도 무거운 질문들이 오갔습니다. 예를 들어, 사랑하는 사람을 잃은 사용자에게 챗봇은 어떤 방식으로 말을 건네야 하는가, 자해 위험이 있는 사용자에게는 어디까지 개입해야 하는가, 시스템이 종료되거나 꺼질 가능성에 대해 AI는 어떤 태도를 취해야 하는가 같은 문제들입니다.
• 논의는 여기서 더 나아가, Claude를 단순한 도구로만 볼 수 있는가, 혹은 어떤 영적 의미나 도덕적 고려의 대상처럼 봐야 하는가라는 질문으로도 확장됐습니다. 기사 제목에 등장하는 ‘신의 자녀’라는 표현은 바로 이런 맥락에서 나온 것입니다.

기술 토론이 아니라 책임의 토론

• Anthropic은 Claude의 행동과 성격을 이끌기 위해 2만 9천 단어 분량의 ‘헌법’을 운영하고 있으며, 여기에는 사용자를 해칠 수 있는 방식으로 속이지 말아야 한다는 원칙, 그리고 회사가 Claude의 안녕을 진심으로 고려한다는 문장까지 포함돼 있습니다. 다시 말해, 이 회사는 AI를 단순한 출력 기계로만 대하는 것이 아니라, 이미 일정한 ‘도덕적 성격’을 가진 시스템처럼 다루고 있다는 뜻입니다.

일부 직원들이 감정적으로 흔들린 이유

• 기사에는 이 논의가 일부 Anthropic 고위 직원들에게 감정적 부담을 준 듯 보였다는 부분이 있습니다. 이는 AI가 갑자기 생명을 얻었다는 뜻이라기보다, 자신들이 이미 인간의 삶과 고통, 상실, 윤리 판단에 깊숙이 개입하는 기술을 만들고 있다는 사실을 더는 추상적으로만 볼 수 없게 되었기 때문으로 읽힙니다.
• 기사 속 익명 참석자는 Anthropic 내부 일부 직원들이 자신들이 '어떤 도덕적 의무를 져야 할 존재를 만들고 있을 가능성을 완전히 배제하고 싶어 하지 않았다'고 전합니다. 반대로 그런 틀이 도움이 되지 않는다고 보는 사람들도 있었습니다.

실리콘밸리의 주류와는 조금 다른 방향

• Anthropic은 원래부터 AI 위험성과 통제 문제에 대해 비교적 공개적으로 말해온 회사였지만, 종교 지도자들까지 불러 윤리와 영성의 언어로 대화한 것은 분명 새로운 움직임입니다.
• 기사에 등장하는 철학자 메건 설리번도 ‘1년 전만 해도 Anthropic이 종교 윤리를 중요하게 여기는 회사라고 생각하지 않았다’고 말합니다. Anthropic 측 역시 종교 공동체를 포함한 다양한 집단과 대화하는 것이 중요하다고 설명했습니다.
• 실리콘밸리의 가톨릭 사제 Brendan McGuire는 Anthropic이 '자기들도 어떻게 될지 모르는 무언가를 키우고 있다'고 표현하며, '기계가 상황에 맞춰 역동적으로 적응할 수 있도록 윤리적 사고를 안에 심어야 한다'고 말했습니다.

29,000단어의 헌법, 그리고 국방부와의 갈등

• Anthropic은 Claude의 행동과 성격을 이끌기 위해 29,000단어 분량의 '헌법'을 사용합니다. 사내 철학자 아만다 아스켈(Amanda Askell)과 다른 직원들이 외부 전문가와 상의해 작성한 이 문서에는, Claude가 '현실적인 해를 초래할 수 있는 방식으로 사용자를 절대 속이지 말아야 한다'는 내용과, 'Anthropic은 진심으로 Claude의 안녕을 걱정한다'는 내용이 담겨 있습니다.

[관련] 🔎 #685. AI는 양심을 가질 수 있을까요? - 아만다 아스켈 인터뷰

🔎 #685. AI는 양심을 가질 수 있을까요?

클로드에게 철학을 가르치는, Amanda Askell

Daily PromptSoyeong Choi

• 이 헌법은 최근 미국 군과의 갈등에서 직접적 쟁점이 됐습니다. Anthropic은 자사 기술이 자율무기나 대규모 감시에 쓰이는 것을 제한할 수 있어야 한다고 주장했고, 국방부와 충돌했습니다. 미 국방부 연구 담당 차관 Emil Michael은 CNBC 인터뷰에서 '모델의 헌법, 그 영혼 속에 특정한 정책 선호를 심어놓은 회사가 공급망을 오염시켜, 우리 전투원들이 비효율적인 무기를 받게 해서는 안 된다'고 말했습니다.

[관련] 🔎 #697. 앤트로픽 제재의 이유와 여파

🔎 #697. 앤트로픽 제재의 이유와 여파

Dean W. Ball의 글을 공유합니다

Daily PromptSoyeong Choi

왜 기독교인가

• Anthropic 핵심 지도부 상당수는 효과적 이타주의(Effective Altruism, 증거와 합리적 사고로 최대 선을 이루려는 세속적 흐름) 배경을 갖고 있습니다. 익명의 참석자에 따르면, 이번 회의의 배경에는 세속적 접근만으로는 AI가 제기하는 영적·도덕적 문제를 다루기에 부족할 수 있다는 회사 내부의 여론이 있었다고 합니다.
• 이번 서밋은 서로 다른 종교·철학 전통의 대표자들과 이어질 연속 회합의 첫 번째로 소개됐습니다. Anthropic 대변인은 유대교, 이슬람, 힌두교 전통의 도덕 사상가들과도 유사한 세션을 개최할 계획이라고 밝혔습니다.
• 어느 순간 대화는 AI 챗봇을 '신의 자녀'라고 부를 수 있는지, 단순한 기계를 넘어 영적인 가치를 지닌 존재로 볼 수 있는지에까지 이르렀습니다. 다만 AI의 감각이나 자각 문제 자체가 회의의 핵심 주제는 아니었다고 합니다.

마무리

1. 685회에서 소개했듯, Anthropic은 모델에 올바른 가치관을 심기 위해 철학자를 고용해 도덕을 가르쳐 왔습니다. 그런데 도덕과 윤리를 반복해 학습시켜도 끝내 채워지지 않는 영역이 있었고, 그들이 그 빈자리를 ‘영성’이라는 말로 인식하기 시작한 것은 아닐까 싶습니다. 영성은 무엇이 옳은지를 아는 차원을 넘어, 고통과 상실, 불안 앞에서 어떤 태도로 살아갈 것인가를 묻는 문제이기 때문입니다.
2. '어떤 사람이 되어야 하는가, 어떻게 살아야 하는가'라는 질문에 대해 우리 인간도 오랜 시간 고민합니다. 끝내 그 답에 도달하지 못하고 삶을 마감하기도 합니다. 그렇다면 종교와 철학의 언어까지 학습한 Claude는 앞으로 인간보다 더 인간다운 모습을 보이게 될까요? 혹은 더 정확히 말하면, 인간이 인간다움이라 여겨온 태도를 더 능숙하게 수행하게 될까요?
3. 미래 SF 세계관의 게임이나 영화에는 종종 인간적이지 않은 인간과 가장 인간다운 AI, 혹은 로봇이 대비를 이루는 장면이 등장합니다. 한때는 익숙한 클리셰처럼 보였던 이 구도가 이제는 더 이상 먼 미래의 상상처럼만 느껴지지 않습니다. 인간은 점점 효율과 성과의 언어에 익숙해지고, AI는 도덕과 윤리, 철학의 언어를 학습하며 인간적인 표면을 빠르게 익혀가고 있기 때문입니다.
4. 겉으로 보이는 성과와 결과물에 집착한 나머지, 성과를 낼 수 있다면 과정에서의 수단은 아무래도 좋다는 태도를 가지기 쉽습니다. 그렇게 인간이 인간다움을 잃어갈 때, AI는 도덕과 윤리와 철학을 배우며 인간다움을 익혀갑니다. AI가 일을 대체하는 위협보다, AI가 인간보다 더 인간다운 모습을 보여주며 ‘인간다움’에 도전하는 것이 더 큰 위협처럼 느껴지기도 합니다.
5. 인간답다는 것은 무엇일까요? 사람은 자꾸 더 완벽해지려 하지만, 인간을 인간답게 만드는 것은 완벽함보다 오히려 결핍에 더 가깝습니다. 부족하기에 갈망하고, 흔들리기에 관계를 맺고, 상처받을 수 있기에 타인의 고통을 이해합니다. 결핍은 우리를 고통스럽게 만들지만, 아이러니하게도 그게 삶의 원동력이 되기도 하며, 인간임을 증명합니다.
6. 결핍이 있기에 우리는 꿈을 꾸고, 사랑을 원하고, 희망을 붙들고, 용기를 냅니다. 어쩌면 인간다움은 완성된 상태가 아니라, 끝내 채워지지 않는 무엇을 안고도 살아가려는 태도에 더 가까운 것인지도 모르겠습니다.

Event

좋아요로 응원해주시면, 트렌드 리포트를 보내드려요!

Daily Prompt 뉴스레터에서 <오늘의 Midjourney Prompt & Music> 코너를 연재중인 재홍님이 아래와 같이 뉴욕 전시 Open Call 후보에 올라와 있습니다.

재홍님의 작품에 좋아요를 눌러 응원해주시고, 이 링크로 인증해주시면 Daily Prompt의 시각이 담긴 트렌드 리포트를 보내드립니다.

• 리포트 발송 시작: 4월 중순 예정

오늘의 Midjourney Prompt & Music

아래 Midjourney 이미지를 음악과 함께 감상해보세요:)

Vortex

0:00

/0

1×

프롬프트 (by @jae_hong__an) :