🔎 #661. AI 가짜 이미지 판별하는 법 (Google SynthID)

안녕하세요?
매일 사람이 쓰는 뉴스레터 Daily Prompt입니다.

오늘은 AI 가짜 이미지를 판별하는 법을 다룹니다.

AI 가짜 이미지 판별하는 법

AI 이미지 생성 능력이 향상되면서, 진짜 같은 AI 이미지를 온라인에서 쉽게 접할 수 있습니다. 특히 나노 바나나 프로가 이미지 생성은 물론 합성이나 편집도 잘 해줘서 편리한 점도 있지만, 그만큼 가짜 이미지에 속는 경우도 많습니다. 이 때 AI를 사용해 가짜 이미지인지 아닌지 판별하는 법을 공유드립니다.

Google이 개발한 워터마크 'SynthID'

SynthID는 구글에서 개발한 디지털 워터마크 기술입니다. 워터마크이지만 눈에 보이지 않아, 전용 검사를 사용해 AI 생성물인지 아닌지 판별할 수 있습니다. 이미지의 경우 ‘픽셀 단위’에 표식을 넓게 분산해 심는 방식이라, 크롭·필터·압축 같은 흔한 편집을 거쳐도 비교적 잘 남도록 설계되었다고 합니다.
이미지나 영상 뿐만 아니라 오디오에도 적용됩니다. 사람이 듣기엔 티가 안 나는 수준에서 오디오 신호(파형) 안쪽에 매우 미세한 패턴을 끼워 넣고, 나중에 검출기가 그 패턴을 찾아냅니다. 그래서 노이즈 추가, MP3 압축, 재생 속도 변경 같은 변형이 있어도 검출을 목표로 합니다.

Gemini에게 물어서 AI 이미지인지 물어보기

AI 이미지인지 아닌지 gemini에게 물어볼 수 있습니다(현재 이미지 또는 영상만 가능). 다음과 같이 gemini에서 @를 입력한 뒤 뜨는 메뉴에서 'SynthID'를 선택합니다.

이미지를 업로드하고 프롬프트를 입력합니다. 실제 사진을 업로드해보았습니다.

오늘의 프롬프트:

오늘의 프롬프트 입력 결과:

위와 같이 AI 이미지가 아니라고 대답합니다(정답). 추가적인 단서로 '파일명이 캐논과 같은 카메라에서 자동 생성된 이름이다'라고 답변하는데요, 실제로 캐논으로 촬영된 사진이었습니다.

이번에는 파일명을 'image.png'와 같이 추측할 수 없는 형식으로 바꾼 뒤, 다른 이미지를 업로드해보았습니다. 이번에도 AI 이미지가 아니라고 하며, 인물이 매우 자연스럽다는 평을 내립니다(정답).

다음으로 자연스러운 인물 사진이되, AI로 생성된 이미지를 업로드해보았습니다. 안타깝게도(?) 전문적인 스튜디오에서 촬영된 실제 인물 사진일 가능성이 매우 높다고 답변합니다(오답). 업로드한 이미지는 제가 Midjourney에서 생성한 이미지입니다.

그렇다면 나노 바나나와 같이 구글 서비스에서 생성한 이미지를 업로드하면 어떻게 될까요? 나노 바나나로 생성 시 이미지 하단에 표시되는 gemini 로고를 지웠음에도, 아래와 같이 Google AI로 수정되거나 생성된 것으로 확인된다고 답합니다(정답). 참고로 업로드한 미피 사진은 611회 뉴스레터에서 다뤘습니다.

• Daily Prompt 611회 '인기 캐릭터와 함께 셀카찍는 이미지 만들기'

아니라고 우겨보지만, 워터마크가 감지되었다고 합니다.

이번에는 원본 이미지가 아닌, 이미지를 스크린캡처하고 이를 업로드하였습니다. 스크린캡처를 했더라도 이미지 내 SynthID 워터마크를 감지하고 AI로 생성된 이미지라고 답변합니다(정답).

마지막으로 나노 바나나로 생성된 이미지를 컴퓨터 화면에 띄우고, 이를 촬영한 사진을 업로드해보았습니다. AI로 생성된 이미지라고 답변합니다(정답).

다만, 위와 같은 경우는 정확도가 떨어질 수 있다고 합니다.

마무리

1. 이미지 뿐만 아니라 영상 파일 업로드도 가능합니다. 구글 공식자료에 따르면, 영상의 경우 업로드 된 영상길이가 90초 미만이어야 하며, 하루에 확인 가능한 총 길이는 5분 미만이라고 합니다.
2. 더 이상 AI 결과물인지 아닌지 사람이 판단할 수 없어, AI에게 판별을 부탁해야하는 시대입니다. 나노 바나나가 강력해서 많은 사람들이 Gemini 내에서 실제와 같은 이미지를 많이 생성하고 있습니다. 이 경우 그나마 Gemini로 판별할 수 있으니 다행이라고 해야 될지도 모르겠습니다. 앞서 본문에서도 다뤘듯, 구글 AI가 아닌 다른 AI, 즉 Midjourney로 생성된 이미지는 AI 이미지가 아니다라고 응답하기도 했습니다.
3. AI로 쓴 글인지 판별하는 서비스가 OpenAI에 있었지만 오래전 슬그머니 문을 닫았습니다. AI로 쓴 글인지 아닌지 판별하는 서비스나 GPTs 등이 존재하는데요, 어떤 것도 AI가 쓴 글인지 아닌지 정확히 판별하지 못합니다. 이미지나 영상과 같이 텍스트에는 별도의 워터마크 등이 삽입되지 않기 때문입니다. 따라서 문체로 판별해야하는데요, 이는 사람만 인식할 수 있다고 생각합니다.
4. 더불어 사람이 쓴 것처럼 다듬어준다는 서비스에 대해서도 회의적입니다. 사람이 쓴 것처럼 보이려면 사람이 직접 다듬어야 합니다. 내가 쓴 다량의 글을 첨부파일로 주는 경우에는 어느 정도 가능하지만, 이 또한 사람이 직접 마지막에 다듬어야 사람 냄새가 납니다.

구독자 소식란

데일리 프롬프트 구독자 님들은 어떤 분들일까? 구독자 소식란을 뉴스레터에 싣는 실험을 하고 있습니다.

• 로이 집사님은 책을 만들때 AI를 어떻게 활용할지, 팀원들과 함께 데일리 프롬프트를 구독하며 매일 연습중입니다.
• 비니님은 주 4회 4km씩 러닝하며, 업무하며, 살아가고 있습니다. (와우)
• 나선진님은 AI로 전통축제 오프닝 영상을 제작했습니다.

오늘의 Midjourney Prompt & Music

아래 Midjourney 이미지를 음악과 함께 감상해보세요:)

Edge

0:00

/157.359979

1×

프롬프트 (by @jae_hong__an) :

Geometric gemstone sculpture, mathematically perfect faceting, razor-sharp edges, flawless symmetry, micro-prismatic dispersion, crystalline silence, museum-grade minimal still life, black void background, soft polarized studio light, ultra-detailed macro, high dynamic range, tactile clarity, contemporary art object --chaos 5 --ar 4:3 --raw

Image to Video 결과(Kling):