AI가 만든 콘텐츠엔 '보이지 않는 표식'…10월부터 의무화

오는 10월부터 생성형 인공지능(AI)으로 만든 영상·음성·이미지에는 사람 눈에는 보이지 않지만 기계는 읽어낼 수 있는 워터마크를 반드시 넣어야 한다. 과학기술정보통신부는 24일 이런 내용을 담은 AI 생성물 표시 의무 고시 제정안을 행정예고했다. 월 이용자 30만명 이상인 생성형 AI 서비스가 우선 적용 대상이다.

제정안에 따르면 사업자는 생성물 파일에 제작 도구와 생성 시각 정보를 담은 전자적 표식을 삽입해야 한다. 화면에 표시되는 'AI 생성물' 문구 같은 눈에 보이는 표시도 함께 넣어야 한다. 표식을 넣지 않거나 고의로 제거하는 경우 건당 최대 3000만원의 과태료가 부과된다.

업계는 기술 표준이 관건이라는 반응이다. 국내 생성형 AI 서비스 가운데 국제 표준 규격의 전자 표식을 이미 적용한 곳은 4곳에 불과하다. 영상 편집이나 재압축 과정에서 표식이 지워지는 문제도 남아 있다. 정부 실증에서 화질을 절반으로 낮춰 재인코딩했을 때 표식 검출률은 71%까지 떨어졌다.

한 AI 개발사 관계자는 "표식을 강하게 넣으면 화질이 떨어지고, 약하게 넣으면 편집 과정에서 사라지는 상충 관계가 있다"며 "검출 도구를 공개해 플랫폼과 언론사가 무료로 검증할 수 있게 하는 것이 실효성의 핵심"이라고 말했다.

해외 서비스에 대한 형평성 문제도 제기된다. 국내 이용자가 많은 해외 생성형 AI 서비스 상당수가 국내에 사업장을 두지 않아 실제 제재가 어려울 수 있다는 지적이다. 과기정통부는 국내 대리인 지정 의무를 함께 적용하고, 표식이 없는 생성물의 유통을 차단하는 책임을 플랫폼에 지우는 방안을 검토 중이다.

행정예고는 다음 달 22일까지 진행되며, 정부는 의견 수렴을 거쳐 9월 중 고시를 확정할 계획이다. 시행 후 6개월간은 계도 기간을 둔다.