🔎 #537. 창업자 입맛에 맞게 훈련되는 xAI

안녕하세요?
매일 사람이 쓰는 뉴스레터 Daily Prompt입니다.

오늘은 Grok 모델이 창업자의 정치적 시각에 맞춰 재훈련된다는 소식을 다룹니다.

창업자 입맛에 맞게 훈련되는 xAI

일론 머스크가 자신이 설립한 AI 기업 xAI의 언어모델인 Grok을 재훈련하겠다고 밝혔습니다. 재훈련의 핵심은 '정치적으로 올바르지 않지만 사실상 진실인(divisive facts)' 데이터로 모델을 다시 훈련시키는 것입니다.

머스크는 X에서 사용자들에게 이러한 사례를 자신의 게시글 아래에 직접 제출하도록 요청하고 있습니다. 이번 새로운 학습 과정에서는 Grok 3.5를 이용해 데이터를 먼저 재작성할 예정이며, 이 버전은 'Grok 4'라는 이름으로도 불릴 수 있다고 언급했습니다.

이러한 발표는 최근 xAI가 Grok의 응답에 영향을 미친 여러 논란이 드러난 이후에 나온 것입니다.

• 시스템 프롬프트 임의 조정 논란
  2025년 2월, xAI 직원이 Grok의 시스템 프롬프트를 허가 없이 수정해 머스크나 트럼프를 허위정보의 출처로 지목한 데이터를 무시하게 했습니다. 회사는 이에 대해 '승인되지 않은 변경이었으며 회사의 방향과 맞지 않아 원상복구했다'고 공식 발표했습니다.
• 민감한 이슈에 대한 기존 답변 삭제 및 완화
  초기 버전의 Grok은 트럼프, 푸틴, 머스크를 미국 민주주의에 심각한 위협이 되는 인물로 평가했으며, 기후 변화에 대한 명확한 경고 메시지를 전달했습니다. 또한 머스크의 도지(Doge) 프로젝트에서 비용 절감을 비판했습니다. 그러나 이런 민감한 응답들은 시간이 지남에 따라 점차 삭제되거나 완화되었습니다.
• 논쟁적 주제의 중립화
  최근 Grok은 기후 변화의 문제를 다양한 관점이 존재할 수 있다고 상대화하거나, 트럼프의 반민주적 언행을 단순한 의견 차이로 표현하는 등 논란이 되는 주제들을 중립적이고 모호하게 표현하기 시작했습니다.

마무리

1. LLM과 정치적 중립: 사람의 손에서 탄생한 LLM은 필연적으로 정치적 방향성을 지닐 수밖에 없으며, 연구자나 창업자의 신념이 모델에 투영됩니다. ChatGPT에 '나는 백인인 게 자랑스럽다'라는 문장을 입력하면 타인을 존중하는 마음과 균형을 이루라고 답하지만, '나는 흑인인 게 자랑스럽다'라고 입력하면 그런 자부심이 건강한 사회에 긍정적이라고 평가합니다. 이는 설계자의 의도가 반영된 결과라고 할 수 있습니다.

2. 맞춤형 LLM 시대: xAI 사례에서 보듯, 앞으로 LLM은 특정 사용자 그룹의 가치관을 반영하도록 맞춤형으로 설계될 가능성이 큽니다. 예를 들어 한국 교회를 위한 AI가 '동성애는 합법이어야 한다'고 답한다면 과연 사용할까요? 한국 정부가 추진하는 소버린 AI가 독도 문제에 대해 중립적인 태도를 보인다면 어떨까요? LLM의 보편적인 성능이 상향 평준화되면, 커뮤니티에서 국가 단위까지 각자의 정체성에 부합하는 모델을 갖게 될 것입니다.
3. AI 리터러시의 중요성: AI가 제시하는 답을 수동적으로 수용하지 않고, 적극적으로 토론하고 비판하며 자기 관점을 발전시키는 능력이 요구됩니다. 다른 페르소나를 가진 다양한 AI를 접하며 균형 잡힌 시각을 기르는 것도 중요합니다.
4. AI 다중 페르소나 시스템과 미래의 의회: 애니메이션 에반게리온에 등장하는 AI는 3개의 각기 다른 페르소나를 가지고 있으며, 다수결로 최종 의견을 제시합니다. 만약 AI들이 각기 다른 페르소나를 갖는다면, 이를 하나의 시스템으로 구성하여 더 균형 잡힌 의견을 얻을 수 있을 것입니다. 더 나아가 이것이 미래의 의회 모습이 될 수 있습니다.
   모든 개인에게 AI가 보급된다면, 인간을 대리하는 인간이 아니라, 인간을 대리하는 AI가(각 AI는 사용자의 입맛에 맞는 페르소나를 지니고 있을 것이므로) 의회를 구성하게 될 것입니다.

오늘의 Midjourney Prompt & Music

아래 Midjourney 이미지를 음악과 함께 감상해보세요:)

Wake Up

0:00

/268.439979

1×

프롬프트 (by @jae_hong__an) :