정부, 인공지능기본법 시행령 초안 공개…고영향 AI 사전고지 의무화

과학기술정보통신부가 2025년 9월 인공지능 발전과 신뢰 기반 조성 등에 관한 기본법, 이른바 AI기본법의 시행령 초안과 관련 고시·가이드라인 초안을 공개하고 산업계, 학계, 시민단체, 관계 부처 등을 대상으로 의견 수렴에 나섰다. AI기본법은 2024년 국회를 통과해 공포된 법률로, 2026년 1월 22일 시행을 앞두고 있다. 이번에 공개된 시행령 초안은 법 조문에 담긴 고영향 인공지능의 판단 기준과 사업자 의무의 구체적인 이행 방안을 규정한 것이 핵심이다.

과기정통부에 따르면 시행령 초안은 고영향 인공지능을 학습에 사용된 누적 연산량이 정부가 고시로 정하는 일정 기준, 구체적으로는 10의 26제곱 부동소수점 연산 이상인 인공지능 시스템으로서 인간의 생명이나 신체 안전, 기본권에 중대한 영향을 미칠 수 있는 시스템으로 규정했다. 이 기준을 넘는 인공지능 시스템이나 이를 이용한 제품·서비스를 제공하는 사업자는 이용자에게 고영향 인공지능이 활용된다는 사실을 사전에 고지해야 하고, 안전성과 신뢰성을 확보하기 위한 조치를 이행해야 한다. 아울러 인공지능의 수명주기 전반에 걸쳐 위험을 식별하고 평가해 완화하는 위험관리체계를 구축하고, 안전사고를 모니터링해 대응한 결과를 제출할 의무도 부여된다.

고영향 AI 사업자 의무와 이용자 보호 조치

시행령 초안이 규정한 사업자 의무에는 위험관리방안의 수립과 운영, 인공지능이 도출한 최종 결과와 판단 근거가 된 주요 기준에 대한 설명 방안의 수립·시행, 이용자 보호 방안의 수립·운영, 고영향 인공지능에 대한 사람의 관리·감독 체계 마련 등이 포함된다. 사업자는 이러한 안전성·신뢰성 확보 조치의 이행 내용을 문서로 남겨 확인할 수 있도록 해야 한다. 과기정통부는 이 같은 의무가 인공지능 기술의 혁신을 저해하지 않으면서도 국민의 생명과 신체 안전, 기본권을 보호할 수 있도록 하는 데 목적이 있다고 설명했다.

생성형 AI 표시 의무와 향후 시행 일정

시행령 초안은 생성형 인공지능이 만든 문서, 이미지, 영상 등 생성물에 대해서도 별도의 표시 의무를 규정했다. 이용자가 인공지능이 만든 결과물임을 명확히 인식할 수 있도록 워터마크 등을 부착하도록 하고, 실제와 구분하기 어려운 딥페이크 생성물의 경우에는 더욱 엄격하게 인공지능 생성 사실을 고지하거나 표시하도록 했다. 과기정통부는 9월 중 공개한 초안에 대한 의견 수렴 결과를 반영해 이후 정식 입법예고 절차를 거쳐 시행령 제정안을 확정할 계획이라고 밝혔다.

AI기본법은 유럽연합의 인공지능법 등 해외 입법례가 논의되는 가운데 마련된 국내 최초의 인공지능 관련 기본법으로, 국내 산업 환경을 반영해 고영향 인공지능과 생성형 인공지능에 대한 의무를 중심으로 설계됐다는 점에서 해외 규제와는 세부 구조가 다르다. 정부는 법 시행에 앞서 관련 고시와 가이드라인을 순차적으로 정비하고, 시행 이후에도 최소 1년 이상의 계도 기간을 운영해 산업계의 준비 상황을 지켜보며 고영향 인공지능 적용 사례와 생성형 인공지능 표시 방식 등을 구체화해 나갈 방침이라고 설명했다.

이번 시행령 초안 공개를 계기로 국내 인공지능 기업들은 법 시행에 대비한 내부 준비 작업에 착수할 것으로 예상된다. 다만 고영향 인공지능의 구체적 판단 기준이나 세부 고시 내용은 의견 수렴과 입법예고 절차를 거치며 조정될 가능성이 있어, 최종 확정안이 나오기 전까지는 관련 기업들의 지속적인 확인이 필요할 것으로 보인다. 과기정통부는 향후 시행령 제정안이 확정되는 대로 세부 내용을 공식 발표할 예정이다.