과학기술정보통신부(과기정통부)는 2025.11.12. 인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(AI 기본법) 시행령 제정안을 입법 예고하였습니다. 입법 예고된 AI 기본법 시행령 제정안(시행령안)은 AI 기본법에서 추상적으로 정한 투명성·안전성 확보 의무, 고영향 인공지능 판단 기준과 사업자의 책무 등의 내용을 구체화하고 있다는 점에서 중요한 의의를 갖습니다.
* 관련 고시(2개)·가이드라인(5개) 초안은 한국지능정보사회진흥원(NIA) 홈페이지에 공개 중이며, 2026.1.21.까지 의견 수렴 예정
본 뉴스레터에서는 입법 예고된 시행령안의 주요 내용을 인공지능사업자의 의무 조항을 중심으로 살펴보도록 하겠습니다.
1. 투명성·안전성 확보 및 고영향 인공지능 관련 의무
1) 투명성 확보 의무
■ 사전 고지 의무
인공지능 사업자는 고영향 인공지능이나 생성형 인공지능을 이용한 제품 또는 서비스(제품등)를 제공하기 전에, 다음 중 하나의 방법으로 제품등이 인공지능에 기반하여 운용된다는 사실을 이용자에게 사전 고지하여야 합니다(시행령안 제22조 제1항).
① 제품등에 직접 기재하거나, 계약서, 사용설명서, 이용약관 등에 기재
② 이용자의 화면 또는 단말기 등에 표시
③ 제품등을 제공하는 장소(해당 장소와 합리적으로 관련된 범위의 장소를 포함한다)에 인식하기 쉬운 방법으로 게시
④ 그 밖에 제품등의 특성을 고려하여 과기정통부장관이 인정하는 방법
■ 생성형 인공지능에 의하여 생성된 결과물에 대한 표시 의무
인공지능 사업자는 생성형 인공지능에 의하여 생성된 결과물에 대한 표시를 할 때에는 사람이 인식할 수 있는 방법 또는 기계가 판독할 수 있는 방법 중 하나의 방법으로 할 수 있습니다. 다만, 기계가 판독할 수 있는 방법으로 표시하는 경우에는 생성형 인공지능에 의하여 생성되었다는 사실을 1회 이상 안내 문구·음성 등으로 제공하여야 합니다(시행령안 제22조 제2항).
기존 공개되었던 초안과는 달리, 기계가 판독할 수 있는 방법(즉, 비가시적 워터마크)으로 표시하는 경우 1회 이상 안내 문구·음성 등을 제공하여야 한다는 내용이 추가되었습니다.
■ 딥페이크 결과물에 대한 표시 의무
인공지능 사업자는 딥페이크 결과물(인공지능 시스템을 이용하여 실제와 구분하기 어려운 가상의 음향, 이미지 또는 영상 등의 결과물)을 제공하는 경우, 다음 각 사항을 고려하여 해당 결과물이 인공지능 시스템에 의하여 생성되었다는 사실을 이용자가 명확하게 인식할 수 있는 방식으로 고지 또는 표시하여야 합니다(시행령안 제22조 제3항).
① 이용자가 시각, 청각 등을 통하거나 소프트웨어 등을 이용하여 쉽게 내용을 확인할 수 있는 방법으로 고지 또는 표시
② 주된 이용자의 연령, 신체적·사회적 조건 등을 고려하여 고지 또는 표시
■ 투명성 의무 면제 대상
① 제품·서비스명, 이용자 화면이나 제품 겉면 및 결과물에 표시된 문구 등을 고려할 때 고영향 인공지능 또는 생성형 인공지능을 활용한 사실이 명백한 경우, ② 인공지능 사업자의 내부 업무 용도로만 사용되는 경우, ③ 그 외 제품등의 유형·특성이나 결과물의 내용, 이용 형태 및 기술 수준 등을 고려하여 전부 또는 일부에 대한 적용 예외가 필요한 사항으로 과기정통부장관이 정하여 고시하는 경우에는 투명성 의무가 면제됩니다(시행령안 제22조 제4항).
2) 안전성 확보 의무
안전성 확보 의무 대상인 인공지능 시스템을 ‘학습에 사용된 누적 연산량이 $10^{26}$ 부동소수점 연산 이상인 인공지능 시스템으로서 과기정통부장관이 인공지능 기술 발전 수준, 위험도 등을 고려하여 고시하는 기준에 해당하는 인공지능 시스템’으로 정하였습니다(시행령안 제23조 제1항).
* EU AI Act는 $10^{25}$ 이상, 美 캘리포니아주 프론티어 AI 투명성법 등에서는 $10^{26}$ 이상을 기준으로 설정
3) 고영향 인공지능 판단 기준 및 확인 절차
고영향 인공지능 해당 여부에 대한 판단 기준을 구체화하여, ① 사용 영역, ② 기본권에 대한 위험의 영향·중대성·빈도, ③ 활용 영역별 특수성 등을 종합적으로 고려하여 과기정통부장관이 판단하도록 하였습니다(시행령안 제24조 제2항).
인공지능 사업자가 고영향 인공지능에 해당하는지에 대해 확인을 요청한 경우, 과기정통부장관은 30일 이내에 그 결과를 회신해야 하며, 제품등의 복잡성 등을 고려하여 30일의 범위에서 한 차례 연장할 수 있으며, 이 경우에도 연장 사유와 기간을 명시해 인공지능 사업자에게 문서로 통보하도록 하여 기업의 부담을 완화하였습니다(시행령안 제24조 제3항).
4) 고영향 인공지능 관련 사업자의 책무
인공지능 사업자가 고영향 인공지능 사업자 책무에 준하는 조치를 다른 법령에 따라 이행한 경우에는 해당 조치를 이행한 것으로 보는데(AI 기본법 제34조 제3항), 시행령안은 별표에서 관련 법령에 따른 조치를 구체화하였습니다. 특히, 인공지능 사업자가 개인정보 보호법 제4장 및 제5장에서 규정하는 조치·의무를 이행한 경우 개인정보 처리 및 보호에 대하여는 AI 기본법 제34조 제1항 각호를 이행한 것으로 간주됩니다(시행령안 [별표1] 7).
5) 고영향 인공지능 영향평가
고영향 인공지능을 이용한 제품등이 사람의 기본권에 미치는 영향을 자율적으로 평가하는 영향평가를 실시함에 있어 포함되어야 하는 사항을 다음과 같이 구체화하였습니다(시행령안 제27조 제1항).
· 해당 고영향 인공지능을 이용한 제품 또는 서비스에 의하여 사람의 생명, 신체의 안전 및 기본권에 영향받을 수 있는 가능성이 있는 개인이나 집단에 대한 식별
· 해당 고영향 인공지능과 관련하여 영향을 받을 수 있는 기본권 유형의 식별
· 해당 고영향 인공지능으로 인한 위험의 예방·완화·손실 복구 등에 관한 사항 등
2. 과태료 계도 기간 운영 및 인공지능 검·인증 등 지원
과기정통부는 AI 기본법 시행 초기 제도의 현장 안착과 기업에 대한 준비 기간을 제공하기 위해 과태료 계도 기간을 최소 1년 이상 운영할 계획이며, 구체적 운영 방식과 기간을 확정하기 위해 의견을 수렴하고 있습니다.
과태료 계도 기간에는 AI 기본법 지원 플랫폼인 통합 안내 지원센터(가칭)를 운영하며, 법 적용에 관한 기업 등의 문의 사항에 대해서 상세하게 안내할 계획입니다.
아울러 과기정통부는 AI 기본법 시행 후 인공지능 검·인증, 영향평가 수행 비용을 지원하고, 투명성 확보 의무, 고영향 인공지능 사업자 책무 등에 대한 컨설팅도 병행할 것임을 밝혔습니다.
3. 기타
인공지능 산업 육성을 위한 인공지능 연구 개발, 학습용 데이터 구축 등의 지원 대상, 기준 등을 명확히 규정하고, 인공지능 집적 단지의 지정 기준과 절차를 마련하여 국내 인공지능 산업 지원을 위한 법 제도 기반을 구체화하였습니다(시행령안 제11조 내지 제15조, 제17조).
그리고 인공지능 안전·신뢰 업무를 전문적·효율적으로 수행하기 위한 인공지능 안전 연구소, 인공지능 관련 정책 개발과 국제 규범 정립·확산을 지원하기 위한 인공지능 정책 센터, 인공지능 집적 단지 업무의 종합 지원을 위한 인공지능 집적 단지 전담 기구 등의 지정·운영을 위한 사항을 정하였습니다(시행령안 제9조, 제10조, 제18조).
4. 향후 계획 및 시사점
입법 예고된 시행령안에는 인공지능 사업자에 대한 각종 규제의 구체적 판단 기준 등이 포함되어 있는 만큼 향후 입법 동향을 주목할 필요가 있습니다. 과기정통부는 2025.12.22.까지 시행령안에 대하여 의견 수렴을 진행할 예정인바, 본 시행령안의 영향을 받는 기업들은 적극적인 의견 제출을 고려할 필요가 있습니다.
법무법인(유) 광장의 Tech & AI팀의 다수 전문가들은 AI 기본법 하위 법령 및 가이드라인 작업반에 참여하는 등 적극적으로 AI 기본법 제·개정 업무에 관여하고 있고, AI 기본법령뿐만 아니라 글로벌 AI 규제에 탁월한 전문성을 보유하고 있습니다. 시행령안에 관하여 자문이 필요하시거나 입법 예고에 대한 의견 제출 등이 필요하신 경우, 언제든지 법무법인(유) 광장의 Tech & AI팀에 문의하여 주시기 바랍니다.