과학기술정보통신부(과기정통부)는 2025년 9월 8일 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」(AI기본법) 시행령 초안을 공개하였습니다.
AI기본법 시행령 초안(부칙 포함 총 34개 조항)은 산업계, 학계, 시민단체, 관계부처 등 다양한 이해관계자로부터 총 70여 차례 의견 수렴 과정을 거쳐 마련되었으며, AI기본법상 규정된 의무 주체의 범위와 규제 대상 AI의 기준 등을 구체화·명확화하였습니다.
과기정통부는 글로벌 규범 동향과 국내 AI 산업을 고려하여 규제보다는 진흥에 무게를 두고 AI기본법 시행령 초안을 마련하였으며, 특히 기업의 규제 우려와 불확실성 완화에 주력하였음을 밝혔습니다.
9월 2주~4주까지 관계 부처, 이해관계자 대상 설명 및 의견 수렴 절차가 예정되어 있으므로 필요시 의견 제출 절차에 참여하는 것을 고려할 수 있겠습니다.
본 뉴스레터에서는 공개된 AI기본법 시행령의 주요 내용 및 그 시사점에 대해 사업자들이 알아야 할 사항 중심으로 살펴보도록 하겠습니다.
1. 투명성ㆍ안전성 확보 및 고위험 AI 관련 의무
1) 투명성 확보 의무
■ 사전 고지 의무
고영향 인공지능 또는 생성형 인공지능을 이용한 제품 또는 서비스를 제공하려는 경우, 약관ㆍUI 등을 활용한 방법을 포함하여 다음 중 하나의 방법으로 사전 고지하여야 합니다(AI기본법 시행령 초안 제22조 제1항).
① 제품 또는 서비스(제품 등)에 직접 기재하거나, 계약서, 사용설명서, 이용약관 등에 기재
② 이용자의 화면 또는 단말기 등에 표시
③ 제품 등을 제공하는 장소(해당 장소와 합리적으로 관련된 범위의 장소를 포함한다)에 인식하기 쉬운 방법으로 게시
④ 그 밖에 제품 등의 특성을 고려하여 과학기술정보통신부장관이 인정하는 방법
■ 생성형 인공지능에 의하여 생성된 결과물에 대한 표시 의무
인공지능사업자는 생성형 인공지능에 의하여 생성된 결과물에 대한 표시(워터마크)를 결과물에 사람 또는 기계가 판독할 수 있는 형식으로 할 수 있습니다(AI기본법 시행령 초안 제22조 제2항).
과기정통부는 이러한 결과물 표시를 비가시적 워터마크의 형식으로 할 수 있다고 보았으며, 표시의 단위 및 비가시적 워터마크 사용 사례 등을 포함한 투명성 가이드라인을 금년 12월까지 공개할 예정입니다.
■ 딥페이크 결과물에 대한 표시 의무
인공지능사업자는 딥페이크 결과물(인공지능 시스템을 이용하여 실제와 구분하기 어려운 가상의 음향, 이미지 또는 영상 등의 결과물)에 대하여 다음 각 사항을 고려하여 이용자가 명확하게 인식할 수 있는 방식으로 고지 또는 표시하여야 합니다(AI기본법 시행령 초안 제22조 제3항).
① 이용자가 시각, 청각 등을 통하거나 소프트웨어 등을 이용하여 쉽게 내용을 확인할 수 있는 방법으로 고지 또는 표시
② 주된 이용자의 연령, 신체적ㆍ사회적 조건 등을 고려하여 고지 또는 표시
■ 투명성 의무 면제 대상
① 제품·서비스명, 이용자 화면이나 제품 겉면에 표시된 문구 등을 고려할 때 고영향 인공지능 또는 생성형 인공지능 기반 운용 사실이 명백한 경우, ② 인공지능 사업자의 내부 업무 용도로만 사용되는 경우 등에는 투명성 의무가 적용되지 않습니다(AI기본법 시행령 초안 제22조 제4항).
2) 안전성 확보 의무
AI기본법 시행령 초안은 안전성 확보 의무 대상인 인공지능 시스템을 '학습에 사용된 누적 연산량이 10의 26승 부동 소수점 연산 이상인 인공지능 시스템으로서 과학기술정보통신부장관이 인공지능 기술 발전 수준, 위험도 등을 고려하여 고시하는 기준에 해당하는 인공지능 시스템'으로 정의하였습니다(AI기본법 시행령 초안 제23조 제1항).
3) 고영향 AI 판단 기준
사람의 생명, 신체의 안전 및 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 인공지능 시스템으로서 에너지, 보건 의료, 원자력, 교통, 교육 등 특정 영역에서 활용되는 AI 시스템은 고영향 AI에 해당합니다(AI기본법 제2조 제4호).
AI기본법 시행령 초안은 이러한 고영향 AI 해당 여부에 대한 판단 기준을 구체화하였으며, 고위험 AI 해당 여부는 ① 사용 영역, ② 기본권에 대한 위험의 영향, 중대성, 빈도, ③ 활용 영역별 특수성 등을 종합적으로 고려하여 과기정통부장관이 판단합니다(시행령 초안 제24조 제2항).
또한, 인공지능 사업자가 고영향 AI를 이용한 제품, 서비스를 제공하는 경우 다음과 같은 내용을 자신의 홈페이지 등에 게시하여야 합니다(AI기본법 시행령 초안 제26조 제1항).
① 위험 관리 정책 및 조직 체계 등 AI 기본법 제34조 제1항 제1호에 따른 위험 관리 방안의 주요 내용
② AI 기본법 제34조 제1항 제2호에 따른 기준 및 설명 방안의 주요 내용
③ 이용자 보호 방안
④ 해당 고영향 인공지능을 관리ㆍ감독하는 사람의 성명 및 연락처
4) AI 영향 평가
인공지능 사업자는 고영향 인공지능을 이용한 제품 또는 서비스를 제공하는 경우 사전에 사람의 기본권에 미치는 영향을 평가하기 위하여 노력하여야 하는데(AI기본법 제35조 제3항), AI기본법 시행령 초안에 따라 영향 평가에 포함되어야 하는 사항은 다음과 같습니다(시행령 초안 제27조 제1항).
▶ 해당 고영향 인공지능을 이용한 제품 또는 서비스에 의하여 기본권에 영향을 받을 수 있는 가능성이 있는 대상의 식별(일정한 특성을 가진 개인 또는 집단에 대한 식별)
▶ 해당 고영향 인공지능과 관련하여 영향을 받을 수 있는 기본권 유형의 식별
▶ 해당 고영향 인공지능으로 인하여 발생할 수 있는 사람의 기본권에 대한 사회적ㆍ경제적 영향의 내용 및 범위 등
2. 과태료 계도 기간 운영 및 영향 평가 등에 대한 인센티브 부여
AI기본법에 따르면, ① 투명성 확보 관련 사전 고지를 미이행한 경우, ② 일정 기준 이상 해외 사업자가 국내 대리인을 미지정한 경우, ③ AI기본법 위반에 따른 시정 명령을 미이행한 경우 3천만 원 이하의 과태료가 부과됩니다(AI기본법 제43조 제1항).
과기정통부는 AI기본법 시행 초기 기업들의 혼란을 최소화할 수 있도록 실질적으로 규제 유예와 동일한 효과를 달성하기 위하여 과태료 계도 기간을 운영할 계획임을 밝혔습니다. 구체적 계도 기간 등은 이해관계자 의견 수렴을 통해 확정할 예정입니다.
아울러 과기정통부는 안전ㆍ신뢰 검ㆍ인증 및 영향 평가에 대한 컨설팅, 비용 지원 등을 통해 기업의 부담을 줄이고 인센티브를 부여하여 자발적 참여를 유도하고자 하며, 고영향 AI 확인, 투명성 확보 이행 등 사업자 의무 이행도 지원하고자 합니다.
3. AI 산업 육성을 위한 지원 대상 및 기준
AI기본법은 AI 기술 개발을 위한 R&D 사업 지원(AI기본법 제13조), AI 학습용 데이터 관련 시책의 수립(AI기본법 제15조), 기업의 AI 기술 도입ㆍ활용 지원(AI기본법 제16조) 등 AI 기술 개발 및 산업 육성을 위한 진흥 규정을 두고 있습니다.
AI기본법 시행령 초안은 위 각 진흥 규정의 대상ㆍ기준 등을 구체화하였으며, 관련 주요 내용은 다음과 같습니다.
| AI 산업 육성을 위한 지원 대상 및 기준 관련 주요 내용 |
▶ 학습용 데이터 지원 대상 사업(AI기본법 시행령 초안 제12조)
- 학습용 데이터 생산 및 가공 기술 개발 사업
- 인공지능 서비스 개발을 위한 학습용 데이터의 생산, 수집, 관리, 유통 및 활용 등에 관한 사업
- 학습용 데이터 표준, 가이드 개발 등에 관한 사업 등 |
▶ AI 기술 도입, 활용을 위한 지원 대상 사업(AI기본법 시행령 초안 제15조)
- 인공지능 기술에 관한 정보 제공
- 이용자 또는 영향 받는 자 보호를 위하여 필요한 교육 및 기술 지원
- 인공지능 컴퓨팅 인프라의 구축 및 제공 등 |
4. 향후 계획 및 시사점
과기정통부는 이해관계자 의견 수렴 결과를 바탕으로 10월부터 입법 예고 등 행정 입법 절차를 추진할 계획이며, 입법 예고 기간을 통해 수렴된 의견을 반영하여 시행령의 연내(12월) 제정 완료를 목표로 하며, 가이드라인* 완성본도 12월경 공개할 예정입니다.
이처럼 AI기본법 시행령은 이해관계자 의견 수렴 절차를 거쳐 지속적으로 보완될 것으로 보이며, AI기본법 시행령에는 인공지능 사업자에 대한 각종 규제의 구체적 판단 기준 등이 포함되어 있는 만큼 향후 관련 동향을 주목할 필요가 있습니다. 아울러 추후 확정될 과태료 계도 기간을 모니터링할 필요가 있으며, 연내 발표될 가이드라인을 적극 참고할 필요가 있겠습니다.
법무법인(유) 광장의 Tech&AI팀의 다수 전문가들은 AI기본법 하위 법령 및 가이드라인 작업반에 참여하는 등 적극적으로 AI기본법 제·개정 업무에 관여하고 있고, 그에 따라 AI기본법령뿐만 아니라 글로벌 AI 규제에 탁월한 전문성을 보유하고 있습니다. 관련 업무에 있어서 도움이 필요하신 경우 본 뉴스레터의 담당 변호사들에게 연락을 주시면 언제든지 도움을 받으실 수 있습니다.