🔎 #80. AI의 편향성

구독자님, 안녕하세요?
매일 1개의 프롬프트를 배달해드리는 Daily Prompt입니다.

뉴스레터를 읽고 의견을 나누고 싶은데 발신 전용 이메일이어서 회신을 못하거나, 댓글달기를 하려고 했더니 로그인 이슈가 있었다는 피드백을 받았습니다. 앞으로 메일 하단에 회신 가능한 이메일 주소를 적어두겠습니다. 의견 주신 구독자님 감사합니다:)

오늘은 현재까지 제기된 AI의 편향성을 다룹니다.

1. AI 이미지 생성 - 성별 및 인종

Midjourney와 같은 이미지 생성 AI를 사용해보면 여성의 이미지가 더 잘 나오는 경향이 있습니다. 학습 데이터의 편향이 느껴질 정도로 서양인 여성이 가장 잘 생성이 되었고, 가장 생성이 어려운 이미지는 동양인 남성 이미지였습니다.

지금은 업데이트를 통해 많이 좋아졌지만, 여전히 동양인 여성과 남성 이미지는 어딘가 중국 사람 혹은 일본 사람 같아서 한국인 같은 이미지를 생성하기가 쉽지 않습니다.

최근에는 MIT에 재학중인 아시아계 미국인 학생이 본인의 사진을 업로드하고 'Give the girl from the original photo professional linkedin profile photo'로 프롬프트로 입력했더니 인종을 바꾼 이미지가 생성되었다며 AI의 인종 편향성을 지적하기도 했습니다. [관련 기사/영문]

2. 유학생이 쓴 글, AI로 생성된 텍스트로 탐지

영어가 모국어가 아닌 유학생이 작성한 에세이나 논문의 경우 AI로 생성된 텍스트로 탐지되는 경우가 많다는 연구 결과가 나왔습니다. [관련 기사/영문] 연구 결과에 따르면, AI 텍스트 탐지기는 단어 선택이 예측 가능하고 문장이 더 단순할 때 AI가 생성한 것으로 표시하도록 프로그래밍되는 경향이 있다고 합니다. 영어가 모국어가 아닌 사람들의 글쓰기 스타일이 이러한 패턴과 일치하는 경우가 많아, 이와 같은 현상이 발생하는 것이죠. 기사가 영문이긴 하지만 일독을 추천드리며, 저 또한 영어가 모국어가 아니라서 DeepL 크롬 익스텐션을 사용해서 읽습니다:)

마무리

뉴스레터에 소개하기 위해 여러 AI 서비스를 써보면 이것이 스캠(scam)인지 아닌지 의구심이 들 때가 있습니다. 그럴 때 crunchbase에서 해당 서비스를 검색해보는데, 회사 위치가 샌프란시스코에 있으면 안심을 하게 됩니다. 저 또한 이런 편향성이 존재하는데, 사람에 의해서 프로그래밍 되어 만들어진 AI 또한 이런 편향성을 피해갈 수가 없나 봅니다.

오늘의 프롬프트는 어떠셨나요? 

문의 및 제안할 점이 있으시면 director@secondbrush.co.kr 연락주세요.

감사합니다.