🔎 #793. 인스타그램 사진, AI 참조가 기본으로 설정되다(Meta Muse Image)

안녕하세요?
매일 사람이 쓰는 뉴스레터 Daily Prompt입니다.

오늘은 인스타그램 사진, AI 참조가 기본으로 설정된 논란을 다룹니다.

인스타그램 사진, AI 참조가 기본으로 설정되다

• Meta는 7월 7일, Meta Superintelligence Labs의 첫 이미지 생성 모델 Muse Image를 공개했습니다. 복잡한 프롬프트를 이해하고 여러 사진을 합성하며, 결과물을 채팅·스토리·피드에 바로 공유할 수 있는 모델입니다.
• 논란은 Instagram 연동 방식에서 시작됐습니다. 성인의 공개 계정은 다른 사용자가 Meta AI 프롬프트에서 @아이디를 언급하면, 그 계정의 공개 사진을 이미지 생성의 참고 자료로 사용할 수 있도록 기본 설정돼 있었습니다.
• 미성년자와 비공개 계정은 대상에서 제외됐지만, 공개 계정의 성인 사용자는 이 기능을 원하지 않을 경우 Instagram의 공유 및 재사용 설정에서 직접 꺼야 했습니다. 즉, 먼저 동의를 구하는 옵트인 방식이 아니라 사용자가 거부해야 하는 옵트아웃 방식이었습니다.

미국 배우·방송인 노동조합, “초상권을 보호하라”

• 미국 배우·방송인 노동조합 SAG-AFTRA는 회원뿐 아니라 모든 Instagram 사용자에게 이 기능을 끄라고 권고했습니다. 공개 계정이라는 이유만으로 이름·이미지·초상이 AI 생성물에 쓰이는 것은 동의로 볼 수 없다는 입장입니다. [관련 기사]
• 할리우드 대형 에이전시 CAA도 이름·이미지·초상·목소리·창작물을 AI가 이용하려면 명확하고 문서화된 동의가 먼저 있어야 한다고 비판했습니다.
• SAG-AFTRA가 AI 활용의 기준으로 제시해온 원칙은 명확한 동의, 정당한 보상, 자신의 퍼포먼스에 대한 통제권입니다. 이번 논란은 이 기준이 배우만의 문제가 아니라 공개 프로필을 가진 모든 사람에게 적용될 수 있음을 보여줬습니다.

출시 며칠 만에 기능을 거둔 Meta

• 반발이 이어지자 Meta는 7월 10일, 공개 Instagram 계정을 @언급해 이미지 생성에 참고하는 기능을 중단했습니다. Meta는 사용자가 공개 콘텐츠의 참조 여부를 통제할 수 있게 하려 했지만, 이용자 반응을 듣고 이 기능이 적절하지 않았다고 판단했다고 밝혔습니다.
• 여기서 구분할 점은 Muse Image 모델 전체가 사라진 것은 아니라는 것입니다. Meta AI에서 이미지 생성·편집을 돕는 Muse Image는 남고, 타인의 공개 Instagram 사진을 @언급으로 불러오던 기능이 중단됐습니다.

마무리

1. 삭제된 ‘@언급’ 기능을 보니 Sora 2가 떠오릅니다. Sora 2에서도 친구의 모습을 바탕으로 영상을 생성할 수 있었는데요. 출시 초기에는 OpenAI CEO 샘 알트먼의 모습을 활용한 밈 영상이 특히 많이 만들어졌습니다. 다만 Sora 2에서는 ‘@언급’으로 특정 인물이 등장하는 영상을 만들려면, 해당 인물이 사전에 자신의 모습이 사용되는 것을 허용해야 했습니다.
2. 지난 232회(2024.04.02. 발행)에서는 AI 딥페이크 기술이 악용되면서 유명인뿐 아니라 일반인 인플루언서까지 피해 대상이 되고 있다는 소식을 다뤘습니다. 그런 점에서 Meta의 이번 기능은 그동안 음지에서 악용되던 딥페이크 제작 방식을 누구나 쉽게 사용할 수 있는 공식 기능으로 만들려 했다는 비판을 피하기 어렵습니다.

🔎 #232. AI 딥페이크 기술 악용, 일반인 인플루언서도 대상

연예인 뿐만 아니라 일반인 인플루언서에게도 영향

Daily PromptSoyeong Choi

3. 이 기능을 도입할 당시 Meta는 향후 광고 제작으로의 확장까지 고려했을 겁니다. 하지만 그렇다고 타인의 얼굴을 아무나 불러와 변형할 수 있게 한 설계까지 정당화되지는 않습니다. 사전 승인을 받도록 했다면 사용할 수 있는 계정이 줄고, 기능이 확산되는 속도도 느려졌을 테니까요.
4. Meta는 이런 불편을 줄이는 대신 당사자의 동의를 뒤로 미뤘습니다. 결국 Meta는 사용자의 얼굴을 보호할 권리보다, 더 많은 사람이 더 쉽게 이미지를 만들 수 있는 편의를 먼저 선택한 셈입니다.

오늘의 Midjourney Prompt & Music

아래 Midjourney 이미지를 음악과 함께 감상해보세요:)

Asphalt

0:00

/0

1×

프롬프트 (by @jae_hong__an) :