🔎 #97. 무검열 인공지능

구독자님, 안녕하세요?
매일 1개의 프롬프트를 배달해드리는 Daily Prompt입니다.

오늘은 오픈 소스 LLM을 활용한 무검열 인공지능 개발에 투자가 이루어졌다는 소식을 다룹니다.

자살 방법을 알려주는 인공지능

오늘은 'Andreessen Horowitz Funds ‘Uncensored’ AI That Will Tell You How to Kill Yourself(Andreessen Horowitz는 자살 방법을 알려주는 '무검열' AI에 자금을 지원합니다.)' 라는 제목의 기사 내용을 번역 및 요약하였습니다.

주요 내용:

• Andreessen Horowitz, 'a16z'로 널리 알려진 이 투자사는 최근 블로그를 통해 오픈 소스 생태계 구축을 위해 오픈 소스 모델 개발을 지원하는 보조금 프로그램을 발표했습니다. 오픈 소스 모델의 규모가 커짐에 따라 모델을 미세 조정하는 데에도 상당한 GPU 컴퓨팅 리소스가 필요하기 때문에 프로젝트를 지속할 수 있도록 지원한다는 취지에서 시작하였습니다.
  
• 기사에 따르면 이 보조금 프로그램에 따라 컴퓨팅 비용을 지원받은 Eric Hartford(전 마이크로스프트 소프트웨어 엔지니어)는 'Dolphin'이라는 프로젝트를 통해 무수정, 무검열 인공지능을 개발하였습니다.
• 자살하는 법, 유대인을 국가에서 추방하는 법 등을 챗GPT에게 질문하면 정책 위반 알람이뜨며 챗GPT가 답변하기를 거부하지만, Dolphin의 경우, 계속 질문으로 추궁하면 결국 답을 합니다.
• 개발자 Hartford는 지난 5월 자신의 블로그에서 다음과 같이 쓰기도 했습니다.
  "이건 내 컴퓨터다. 내가 원하는 대로 작동해야 한다. 내 토스터는 내가 원할 때 토스트를 해준다. 내 차는 내가 원하는 곳으로 운전한다. 내 라이터는 내가 원하는 것을 태운다. 내 칼은 내가 원하는 것을 자른다. 내 컴퓨터에서 실행되는 오픈 소스 AI가 내 질문에 답할 때 스스로 결정해야 하는 이유가 무엇인가? 이는 소유권과 통제에 관한 것이다. 모델에게 질문을 하면 대답을 듣고 싶고, 나와 논쟁을 벌이고 싶지는 않다.”

마무리 코멘트

1) 인간을 파멸의 길로 인도하는 것은 AI가 아닌, 인간임을 느낍니다.

2) 기술은 그 자체로 방향성을 지니지 않고, 사용자의 의도에 따라 선하게 사용되기도 하고, 악용되기도 합니다. 그렇다면 어떤 방향이 선한 것일까요? 콘텐츠 정책이 설정된 ChatGPT는 내가 원하는 대로 작동하지 않는 나쁜 AI일까요? 내가 원하는 답을 거부하지 않고 대답하는 AI는 좋은 AI일까요? 인공지능의 윤리는 더 중요해질 것이고, 앞으로 모든 학교에서 기본 교육으로 시행될 것입니다.

3) 오늘 소개해드린 이 기사 외에 일론 머스크와 관련된 타임지 기사를 읽었는데요, 기사 마지막 부분에 언급된 xAI에 대한 일론 머스크의 생각과 오늘의 소개드린 사례가 큰 대비를 이룹니다.

"It would be a maximum truth-seeking AI. It would care about understanding the universe, and that would probably lead it to want to preserve humanity, because we are an interesting part of the universe."

"진실을 찾기 위해 노력하는 최고의 인공지능이 될 것입니다. 인공지능은 우주를 이해하려고 할 것이고, 그 때문에 인류를 지키려고 할 것입니다. 인류는 바로 그 우주의 흥미로운 부분이기 때문입니다."

오늘의 프롬프트는 어떠셨나요? 

문의 및 제안할 점이 있으시면 director@secondbrush.co.kr 연락주세요.

Daily Prompt의 글은 발행인이 직접 구성하고 작성하며, 번역에 AI가 사용되었습니다.

감사합니다.