AI로 만든 콘텐츠, 표시해야 할까? 워터마크 의무 정리

AI로 이미지나 영상을 만들어 올리는 일이 흔해졌습니다.

“이거 AI로 만들었다고 꼭 밝혀야 하나?”

“워터마크가 자동으로 붙는다던데 내 콘텐츠도 그런가?”

AI 기본법이 시행되면서 생성물 표시가 의무로 들어왔고, 주요 플랫폼은 이미 적용을 시작했습니다. 이번 글에서는 지금 어떤 상황인지 정리해 보겠습니다.

왜 표시하도록 했을까?

AI로 만든 결과물이 실제와 구분되지 않을 정도로 정교해졌기 때문입니다.

사람의 얼굴이나 목소리를 흉내낸 콘텐츠가 사기나 허위정보에 쓰이는 사례가 늘면서, 보는 사람이 판단할 근거를 주자는 취지입니다.

AI 기본법은 생성물이 AI로 만들어졌다는 사실을 표시하도록 의무화하고 있습니다.

플랫폼은 이미 적용 중입니다

카카오는 2월 5일부터 시행한 약관에 관련 내용을 담았습니다. 약관에 AI로 생성된 결과물은 관련 법에 따라 고지하고 표시한다는 문구를 명시했고, 카카오톡에서 이미지를 영상으로 바꿀 때 워터마크가 자동으로 들어가는 기술을 운영하고 있습니다.

네이버는 이용자가 만든 콘텐츠를 다루는 서비스에 표시 기능을 적용했고, 쇼핑 영역으로도 확대할 예정입니다. 관련 약관 개정도 함께 진행 중입니다.

과태료는 유예 상태입니다

의무는 시작됐지만 제재는 아직 본격적으로 적용되지 않습니다.

정부는 현장의 혼란을 줄이기 위해 사실 조사권 행사와 과태료 부과를 1년 이상 유예한 상태입니다.

다만 유예는 시간을 준 것이지 의무가 없어진 것은 아닙니다. 지금이 준비할 시기라고 보는 편이 맞습니다.

창작자는 무엇을 확인해야 할까?

먼저 내가 쓰는 생성 도구가 표시를 자동으로 넣는지 확인해 보세요.

표시 방식도 두 가지로 나뉩니다. 눈에 보이는 워터마크를 넣는 방식과, 파일 안에 정보를 심는 방식입니다. 후자는 화면상으로는 보이지 않습니다.

편집 과정에서 이 정보가 사라지는 경우도 있으므로, 최종 결과물 기준으로 확인하는 것이 좋습니다.

애매하면 밝히는 편이 낫습니다

일부만 AI로 만든 경우처럼 판단이 애매한 상황도 있습니다.

이럴 때는 본문이나 설명에 어떤 부분에 AI를 썼는지 간단히 적어두는 것이 안전합니다. 보는 사람의 신뢰를 얻는 데도 도움이 됩니다.

숨겼다가 나중에 드러나는 쪽이 손해가 큽니다.

정리

• AI 기본법은 생성물에 AI 사용 사실을 표시하도록 의무화했습니다.
• 카카오와 네이버는 이미 워터마크와 표시 기능을 적용 중입니다.
• 과태료 부과는 1년 이상 유예된 상태입니다.
• 사용하는 도구가 표시를 넣는지, 어떤 방식인지 확인하세요.
• 애매한 경우에는 직접 밝히는 편이 안전합니다.

AI 도구를 자주 쓴다면 지금 한 번 설정을 확인해 두는 것으로 충분합니다.