🔎 #671. 오늘부터 시행되는 AI 기본법, AI로 만들었다고 표기해야할까요?

안녕하세요?
매일 사람이 쓰는 뉴스레터 Daily Prompt입니다.

오늘은 오늘부터 시행되는 'AI 기본법'을 다룹니다.

오늘부터 시행되는 'AI 기본법'

2026년 1월 22일부터 '인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(약칭 AI 기본법)'이 시행됩니다. 산업 진흥을 중심에 두고 ‘필요 최소한의 규제’를 표방하는데요, 창작자 입장에서 주목할 만한 포인트를 정리해보았습니다.

투명성 의무와 워터마크

• AI 서비스 사업자는 AI 활용 사실을 이용자에게 고지해야 함: AI 기본법과 시행령은 AI 모델을 개발하거나 이를 활용해 서비스를 제공하는 사업자에게 투명성 확보 의무를 부과합니다. 챗봇, 이미지 생성, 게임 등 AI 기능을 제공하는 사업자는 이용자가 AI 생성물임을 인지할 수 있도록 표시해야 합니다.
• 워터마크(표식) 방식은 가시적·비가시적 모두 가능: 시행령은 생성형 AI 결과물에 사람이 볼 수 있는 표시를 붙이거나 기계가 판독할 수 있는 비가시적 디지털 워터마크를 포함하는 방법을 허용합니다. 다만 딥페이크 등 사실과 구분이 어려운 생성물은 사람이 인식할 수 있는 가시적 표시를 의무화하고, 예술·창작물과 같이 워터마크가 감상에 영향을 줄 수 있는 경우 비가시적 방법을 허용합니다.
• 일반 사용자·창작자는 의무 대상이 아님: AI로 웹툰을 그리거나 영화에 그래픽을 삽입하는 작가 같은 일반 창작자는 AI 서비스 제공자가 아니므로 워터마크 의무 대상에서 제외됩니다. 즉, AI 기반 도구를 이용하는 개인 창작자는 법률상 직접적인 표시 의무가 없지만, 제공업체(예: 챗봇 플랫폼)가 의무를 이행해야 한다는 점을 인지해야 합니다.

고영향 AI 사업자의 책임과 안전 의무

• ‘고영향 AI’란: 생명·기본권에 중대한 영향을 미칠 수 있는 AI를 의미합니다. 시행령은 에너지, 먹는물, 의료, 원자력, 범죄 수사, 채용, 대출심사, 교통, 공공서비스, 교육 등 10개 영역에서 AI를 활용하는 경우를 고영향 AI로 규정하고, 최종 의사결정 과정에 사람이 개입하지 않을 때를 위험 상황으로 봅니다.
• 시행령은 대규모 연산 능력을 갖추고 최첨단 기술을 적용하고 기본권에 광범위한 영향을 미칠 우려가 있는 경우 안전성 의무가 발생한다고 규정합니다. 구체적인 판단기준은 별도의 가이드라인으로 제공됩니다.
• 고영향 AI 사업자의 책임. 고영향 AI 제공자는 ▲위험관리방안 수립‧운영 ▲기준 설명 방안 수립‧시행 ▲이용자 보호 방안 마련 ▲사람의 관리·감독 ▲안전성·신뢰성 확보 조치에 대한 문서 작성·보관 등의 의무를 수행해야 합니다.

마무리

1. AI 기본법은 여기서 전문을 읽어보실 수 있습니다. 전문을 읽어보시면, 창작자와 같은 개인을 규제하는 법이라기보다는, 인공지능과 관련하여 국가 전략, 산업 진흥과 관련한 내용이 중점적으로 담겨있습니다. 또한, 고영향 인공지능이 인간에게 미칠 영향을 우려해 인공지능 윤리에 대한 내용도 담겨 있습니다.
2. AI 기본법은 인공지능과 관련한 가장 기본적인 규정이 마련된 것이라고 이해하시면 쉽습니다. 인공지능 기업이나 연구를 지원하려고 해도 관련 근거가 이전에는 없었다면, AI 기본법으로 인해 이제 그 근거가 마련된 것입니다.
3. 창작자가 우려하는, AI 생성 결과물에 대해 'AI로 만들었다'고 표시해야하는 의무는 위 법에서 명시적으로 다루고 있지 않습니다. 해당되는 조항 제31조를 읽어보시면(아래), 주어는 개인이 아니라 '인공지능사업자'입니다.

3. 즉, 나노 바나나로 이미지가 생성될 때, 워터마크가 함께 생성되지 않으면 국가는 구글에게 책임을 물을 수 있습니다. 관련하여 구글은 이미 눈에 보이지 않는 워터마크 기술을 개발하였습니다. [661회 참고]
4. 법에서 고영향 AI를 다뤘다는 것은, 그만큼 AI를 국가 인프라와 전략 무기로 보고 있다는 뜻이기도 합니다. 전자정부의 다음은 AI 전자정부인 것이죠. 특히 서류를 다루는 행정 업무에 AI가 적용되면 효율이 매우 높아질 것입니다. 기존에는 누가 국가 장학금을 받을지, 코로나 지원금을 받을지 사람이 검토했다면, 그 업무에 AI를 활용하거나, AI가 하는 것이 가능해집니다.
5. AI가 부정적 인프라로 자리 잡는다면, 예를들어 이러한 것이 가능해집니다. 거리에 있는 CCTV를 사용해 행인의 얼굴을 모두 스캔하며 범죄를 저지르는지, 이전에 이력은 없는지 감시를 할 수 있습니다. 범죄자를 검거하는 데 도움이 될 수 있지만, 개인의 자유는 크게 침해가 됩니다.
   그런 이유로 31조 1항에서는 고영향 인공지능을 이용한 서비스를 제공할 경우, 해당 서비스가 인공지능에 기반해 운용된다는 사실을 이용자에게 사전에 고지하도록 규정합니다. 즉, 사람에게 중대한 영향을 줄 수 있는 AI가 ‘보이지 않는 방식’으로 작동해 개인을 판단하거나 통제하지 못하도록, 투명성을 의무로 걸어둔 것입니다.

오늘의 Midjourney Prompt & Music

아래 Midjourney 이미지를 음악과 함께 감상해보세요:)

Paradox

0:00

/289.879979

1×

프롬프트 (by @jae_hong__an) :

geometric abstraction, interlocking polygons forming a soft torus, thin fracture lines at the edges, expanding lattice bloom, minimal gallery void, fogged air, volumetric light slice, top-down 35mm, precise symmetry, ample negative space, matte paper grain + brushed metal microtexture, cyan and ivory with graphite accents, soft specular highlights, drifting dust motes, gentle pulse motion cue, quiet atmospheric depth --ar 4:3 --raw

Image to Video 결과(Runway Gen 4.5):