AI 기본법 시행령 입법예고…고위험 AI ‘사전 영향평가’ 의무화

인공지능(AI) 기본법 시행령 제정안이 17일 입법예고됐다. 고위험 AI로 분류되는 시스템에 출시 전 영향평가를 의무화하고, 생성형 AI 결과물에는 워터마크 등 표시 의무를 부과하는 내용이 골자다.

시행령은 고위험 AI 영역을 채용·대출심사·의료기기·교통 인프라 등 8개로 규정했다. 해당 분야 사업자는 학습 데이터의 출처와 위험 완화 조치를 문서로 남겨 3년간 보관해야 한다. 위반하면 최대 3000만원의 과태료가 부과된다.

연산량 기준도 처음 제시됐다. 학습에 10의 26제곱 부동소수점연산(FLOPs) 이상을 투입한 모델은 ‘고영향 AI’로 보고 안전성 평가 결과를 소관 부처에 제출하도록 했다. 국내에서 이 기준을 넘는 모델을 보유한 기업은 3~4곳 수준으로 추정된다.

업계는 부담을 호소한다. 한 AI 스타트업 대표는 “영향평가 한 건에 수천만원이 드는데 시드 단계 기업에는 사실상 진입장벽”이라며 “매출 규모에 따른 차등 적용이 필요하다”고 말했다.

소관 부처 관계자는 “규제 자체가 목적이 아니라 사업자에게 예측 가능성을 주자는 것”이라며 “40일간 의견을 수렴한 뒤 내년 1월 시행을 목표로 하고 있다”고 밝혔다.

시행령이 확정되면 국내 AI 사업자는 유럽연합(EU) AI법과 비슷한 수준의 사전 규제를 적용받게 된다. 다만 아예 금지되는 AI 범주를 따로 두지 않은 점은 차이로 꼽힌다.