AI가 만든 영상, 워터마크 의무화…'표시 없으면 과태료 3천만원'

생성형 인공지능(AI)으로 만든 영상과 음성에 눈에 보이지 않는 '기계 판독 표식'을 넣는 것이 내년 상반기부터 의무화된다. 관계 부처는 29일 이런 내용을 담은 AI 생성물 표시 고시 제정안을 행정예고했다. 표식을 누락한 사업자에게는 건당 최대 3천만원의 과태료를 물리고, 반복 위반 시 서비스 시정명령까지 내릴 수 있도록 했다.

고시안은 표시 방식을 두 갈래로 나눴다. 이용자가 화면에서 바로 확인할 수 있는 '가시적 표시'와, 파일 안에 심어져 재편집·재업로드 뒤에도 남는 '비가시적 워터마크'를 함께 넣도록 했다. 특히 실존 인물의 얼굴이나 목소리를 합성한 콘텐츠는 재생 시간 전체에 걸쳐 화면 면적의 5% 이상 크기로 표시를 노출해야 한다. 월간 이용자 100만명 이상 플랫폼은 표식이 없는 AI 의심 콘텐츠를 자동 탐지하는 시스템을 갖춰야 한다.

업계는 기술 표준이 아직 정리되지 않았다는 점을 문제 삼는다. 영상 생성 서비스를 운영하는 오로라AI 관계자는 "압축과 화면 잘라내기를 거치면 워터마크가 절반 가까이 지워진다는 것이 자체 실험 결과"라며 "기술이 못 따라가는 상태에서 과태료부터 매기면 국내 사업자만 불리해진다"고 말했다. 해외 사업자에 대한 집행이 사실상 어렵다는 지적도 나온다.

반면 규제 도입이 늦었다는 목소리도 적지 않다. 국회 과방위 관계자는 "올해 상반기 접수된 합성 영상 피해 신고가 4천200건으로 지난해 같은 기간의 2.7배"라며 "표시 의무는 최소한의 안전장치"라고 밝혔다. 신고 가운데 68%는 얼굴 합성, 21%는 음성 복제였다.

행정예고 기간은 다음 달 19일까지다. 부처는 의견 수렴을 거쳐 연내 고시를 확정하고, 6개월의 계도기간을 둔 뒤 내년 4월부터 과태료를 부과할 방침이다.