🔎 #822. 인스타그램, AI 인플루언서 노출 제한

안녕하세요?
매일 사람이 쓰는 뉴스레터 Daily Prompt입니다.

오늘은 AI 인플루언서임을 밝히지 않으면 Instagram 노출이 줄어드는 새 정책을 소개합니다.

AI 인플루언서임을 밝히지 않으면 노출이 줄어듭니다

• Instagram은 8월 31일, AI로 만든 인물을 내세운 프로필의 표시 방식을 바꾸고 이를 밝히지 않은 계정의 도달 범위를 제한한다고 발표했습니다.
• 기존 AI creator 라벨의 이름은 AI-generated profile로 바뀝니다. 프로필의 주인공이 실제 사람이 아니라 AI로 생성됐다는 사실을 더 직접적으로 알리기 위해서입니다.
• 새 라벨은 프로필과 콘텐츠 옆에 표시됩니다. 개별 게시물에 이미 AI로 생성 또는 편집됐다는 표시가 있다면 중복해서 나타나지 않을 수 있습니다.

누가 라벨을 붙여야 할까요?

• 프로필에 등장하는 사람이 AI로 생성됐거나 AI로 상당 부분 만들어졌다면 라벨 적용 대상입니다. 실제 사람이 운영하더라도 계정의 얼굴이 가상의 AI 인물이라면 해당합니다.
• 모든 AI 활용 계정에 붙는 라벨은 아닙니다. 실제 창작자가 사진을 보정하거나, 캡션을 다듬거나, 그래픽을 만들 때 AI를 사용한 정도라면 프로필 라벨을 붙이지 않아도 됩니다.
• 기존 AI creator 라벨을 사용하던 계정은 새 라벨이 여전히 적절한지 검토할 수 있고, 프로필이 실제 사람을 보여준다면 라벨을 제거할 수 있습니다.

표시하지 않으면 비팔로워 추천에서 제외될 수 있습니다

• Instagram이 라벨 없는 AI 인물 프로필을 감지하면 프로필과 콘텐츠가 비팔로워에게 노출되지 않도록 도달 범위를 제한할 수 있습니다. 탐색과 추천을 통해 새 독자를 만나는 계정에는 직접적인 불이익입니다.
• 창작자가 먼저 라벨을 적용하면 AI 인물을 사용했다는 이유만으로 도달 범위가 줄어들지는 않습니다. 제재의 기준은 AI 사용 자체보다 이를 투명하게 공개했는지에 놓여 있습니다.
• 잘못 판단됐다고 생각하면 검토를 요청할 수 있습니다. Instagram이 공개한 화면에 따르면 검토 결과는 대부분 7일 안에 안내됩니다.

왜 지금 바뀌었을까요?

• Instagram은 실제 사람이라고 생각해 팔로우했는데 나중에 AI 인물이었다는 사실을 알게 되는 경험을 이용자들이 원하지 않았다고 설명했습니다.
• AI 인플루언서는 단순한 가상 캐릭터를 넘어 광고와 설득에 쓰이고 있습니다. TechCrunch는 AI로 만든 것으로 보이는 남성 인플루언서 20여 개가 데이팅 앱 가입을 유도한 사례와, 건강보조제나 건강 정보를 홍보한 AI 의사·웰니스 인물 수백 개 사례를 함께 언급했습니다.
• 이번 변화는 AI 콘텐츠를 금지하는 정책이 아니라, 사람처럼 보이는 합성 인물과 관계를 맺기 전에 그 정체를 알 수 있도록 하는 정책입니다. [TechCrunch 원문]

마무리

1. 이번 소식은 투명성과 신뢰에 초점이 맞춰져있습니다. AI 인플루언서 계정을 만들어 건강보조제를 판매하거나, 데이팅 앱 가입을 유도하는 사례에서 볼 수 있듯, '알고보니 AI 였다'는 기만당한 느낌을 사용자가 받지 않도록 AI 인플루언서 계정인지 아닌지를 공개하라는 것입니다.
2. 이는 플랫폼에서 신뢰가 체류 시간과 광고 효과, 구매 전환으로 이어지는 경제적 자산이기 때문일 것입니다. AI 콘텐츠의 공급은 유지하면서도 이용자가 속았다고 느껴 플랫폼 전체를 떠나는 상황은 막으려는 선택입니다.
3. 실제 사람이 AI로 이미지나 영상을 만들어 게시하는 경우에는 개별 콘텐츠의 AI info 표시 정책이 적용되고, AI를 사용했다는 이유만으로 노출이 제한되지는 않는다고 합니다. 반면 AI로 만든 인물이 계정의 주인공이라면 프로필에 이를 밝혀야 합니다.
4. 지난 424회 뉴스레터에서 AI가 사람의 언어와 감정을 자연스럽게 모방할수록 우리는 ‘내가 대화하는 상대가 실제 인간인가?’를 의심하게 되고, 평판과 신뢰가 더욱 귀중해질 것이라고 언급했습니다. 또한 740회에서 언급한 것처럼 사람이 올린 게시물은 의심하면서 AI의 답변은 더 쉽게 믿는 아이러니가 생길 수 있습니다. 이런 우려가 이제 실제 플랫폼 규칙으로 등장했습니다.
5. 오늘 소식과 관련하여 ChatGPT와 대화를 나눠보니, 신뢰는 거래비용을 낮추는 자산이라는 경제학적 관점을 접하게 되었습니다. 상대를 믿을 수 있으면 신원을 확인하고, 행동을 감시하고, 계약을 강제하거나 분쟁을 해결하는 데 드는 비용이 줄어든다는 것입다. 이런 관점에서 Instagram의 AI-generated profile 라벨은 이용자가 만나는 모든 계정의 정체를 매번 의심하고 검증해야 하는 비용을 줄여 플랫폼의 경제적 가치를 유지하려는 장치라고 할 수 있습니다.
6. 아마 창과 방패의 싸움이 될 것입니다. 육안으로는 AI로 생성된 이미지/영상인지 구분할 수 없을 뿐만 아니라, 메타 데이터에서도 AI 생성 정보를 확인할 수 없게 하거나 실제 카메라로 촬영한 것처럼 메타 데이터를 교란하는 방법이 등장할 수도 있습니다. 누구나 클로드 코드/코덱스를 사용해 코딩을 할 수 있는 지금, 오늘 소개한 Instagram은 결국 단기적으로 플랫폼을 보호하고, 머지않아 온라인 콘텐츠에 대한 사람들의 신뢰는 붕괴하게 될 것입니다.

오늘의 Midjourney Prompt & Music

아래 Midjourney 이미지를 음악과 함께 감상해보세요:)

Garden

0:00

/0

1×

프롬프트 (by @jae_hong__an) :