인공지능기본법 국회 본회의 통과

인공지능 발전과 신뢰 기반 조성 등에 관한 기본법안(이하, 인공지능기본법)이 2024.12.26. 국회 본회의를 통과하였습니다.

인공지능의 급속한 발전 및 확산에 따른 인공지능의 위험성 등에 대한 규제 필요성이 대두되는 한편 인공지능 산업을 선도하기 위한 각국의 경쟁 역시 심화되고 있습니다. 전 세계 주요 국가들은 인공지능의 규제 및 진흥에 관한 입법 논의를 계속하고 있고, EU에서는 2024.8.1. 세계 최초로 인공지능에 대한 포괄적인 규제법인 EU 인공지능법이 발효되었습니다. 우리나라에서도 신속히 인공지능에 대한 기본법을 마련하여야 한다는 공감대가 형성되었고, 이에 제22대 국회에서는 총 20건의 인공지능기본법안이 발의되었는데, 위 인공지능기본법안이 그중 19개 법안의 대안으로 국회 본회의를 통과하였습니다. 이로써 우리나라는 세계에서 두 번째로 인공지능에 관한 기본법을 제정한 국가가 되었고, 인공지능의 신뢰할 수 있는 개발과 진흥을 위한 법적 기반이 마련될 것으로 보입니다.

이에 법무법인(유) 광장 Tech&AI팀에서는 인공지능기본법의 주요 내용을 분석하여 알려드리고자 합니다.

1. 주요 개념 정의
    ■ 인공지능 시스템
        인공지능기본법은 “인공지능 시스템”을 다양한 수준의 자율성과 적응성을 가지고 주어진 목표를 위하여 실제 및 가상 환경에 영향을 미치는 예측, 추천, 결정 등의 결과물을 추론하는 인공지능 기반 시스템이라고 정의하고 있습니다(제2조 제2호).

    ■ 고영향 인공지능
        제22대 국회에서 발의된 인공지능기본법안은 대부분 고위험(영역) 인공지능이라는 용어를 사용하였으나, 인공지능기본법은 “고영향 인공지능”이라는 용어를 도입하였습니다.
        인공지능기본법에 따르면 “고영향 인공지능”이란 사람의 생명, 신체의 안전 및 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 인공지능 시스템으로서 아래 중 어느 하나의 영역에서 활용되는 것을 의미합니다(제2조 제4호).
            → 「에너지법」 제2조 제1호에 따른 에너지의 공급
            → 「먹는물관리법」 제3조 제1호에 따른 먹는물의 생산 공정
            → 「보건의료기본법」 제3조 제1호에 따른 보건의료의 제공․이용 체계의 구축 및 운영
            → 「의료기기법」 제2조 제1항에 따른 의료기기 및 「디지털의료제품법」 제2조 제2호에 따른 디지털 의료기기의 개발 및 이용
            → 「원자력시설 등의 방호 및 방사능방재대책법」 제2조 제1항 제1호에 따른 핵물질과 같은 항 제2호에 따른 원자력시설의 안전한 관리 및 운영
            → 범죄 수사나 체포 업무를 위한 생체인식정보(얼굴ㆍ지문ㆍ홍채 및 손바닥 정맥 등 개인을 식별할 수 있는 신체적ㆍ생리적ㆍ행동적 특징에 관한 개인정보)의 분석ㆍ활용
            → 채용, 대출 심사 등 개인의 권리ㆍ의무관계에 중대한 영향을 미치는 판단 또는 평가
            → 「교통안전법」 제2조 제1호부터 제3호까지에 따른 교통수단, 교통시설, 교통체계의 주요한 작동 및 운영
            → 공공서비스 제공에 필요한 자격 확인 및 결정 또는 비용 징수 등 국민에게 영향을 미치는 국가, 지방자치단체, 「공공기관의 운영에 관한 법률」 제4조에 따른 공공기관 등의 의사결정
            → 「교육기본법」 제9조 제1항에 따른 유아교육ㆍ초등교육 및 중등교육에서의 학생 평가
            → 그 밖에 사람의 생명ㆍ신체의 안전 및 기본권 보호에 중대한 영향을 미치는 영역으로서 대통령령으로 정하는 영역

    ■ 생성형 인공지능
        인공지능기본법은 “생성형 인공지능”을 입력한 데이터(「데이터산업진흥 및 이용촉진에 관한 기본법」 제2조 제1호에 따른 데이터)의 구조와 특성을 모방하여 글, 소리, 그림, 영상, 그 밖의 다양한 결과물을 생성하는 인공지능 시스템이라고 정의하고 있습니다(제2조 제5호).  

    ■ 인공지능 사업자
        인공지능기본법상 “인공지능 사업자”란 인공지능 산업과 관련된 사업을 하는 법인, 단체, 개인 및 국가기관 등을 의미하는 것으로서, 인공지능을 개발하여 제공하는 자인 “인공지능 개발사업자”와 인공지능 개발사업자가 제공한 인공지능을 이용하여 인공지능 제품 또는 인공지능 서비스를 제공하는 자인 “인공지능 이용사업자”가 포함됩니다(제2조 제7호).

2. 적용 범위
    국외에서 이루어진 행위가 국내 시장 또는 이용자에게 영향을 미치는 경우에는 인공지능기본법이 적용됩니다. 한편, 국방 또는 국가 안보 목적으로만 개발∙이용되는 것으로서 대통령령으로 정하는 인공지능에 대해서는 인공지능기본법의 적용이 배제됩니다(제4조).

3. 인공지능 관련 추진 체계
    과학기술정보통신부 장관은 3년마다 국가인공지능위원회의 심의∙의결을 거쳐 인공지능∙인공지능 기술∙인공지능 산업∙인공지능 사회에 관한 정책의 기본 방향과 전략 등을 포함한 인공지능 기본계획을 수립∙변경∙시행하여야 합니다(제6조).

국가인공지능위원회는 대통령 소속으로 설치되어 대통령을 위원장으로, 인공지능 관련 전문 지식과 경험이 풍부한 사람 중 대통령이 위촉하는 사람을 부위원장으로 하고, 기본계획∙인공지능 인프라 확충 방안∙고영향 인공지능 규율 등에 대한 사항을 심의∙의결합니다(제7조, 제8조).

한편, 인공지능기본법은 기본계획의 수립∙시행에 필요한 전문기술의 지원 등을 수행하는 인공지능정책센터를 지정하고(제11조), 인공지능 안전을 확보하기 위한 인공지능안전연구소 운영에 대한 법적 근거 또한 마련하고 있습니다(제12조).

4. 인공지능 안전성∙신뢰성을 위한 규제
    ■ 고영향 인공지능
        인공지능기본법에 따르면 인공지능 사업자는 인공지능 또는 이를 이용한 제품∙서비스를 제공하는 경우 해당 인공지능이 고영향 인공지능인지를 사전에 검토하여야 하고, 필요한 경우에는 과학기술정보통신부 장관에게 고영향 인공지능 해당 여부의 확인을 요청할 수 있습니다. 이와 관련하여 과학기술정보통신부 장관은 고영향 인공지능의 기준과 예시 등에 관한 가이드라인을 수립∙보급할 수 있습니다(제33조 제1항~제3항). 고영향 인공지능을 이용한 제품 또는 서비스를 제공하려는 경우 인공지능 사업자는 해당 제품 또는 서비스가 고영향 인공지능에 기반한 것이라는 점을 이용자에게 사전 고지하여야 합니다(제31조 제1항).

        특히 인공지능 사업자는 고영향 인공지능의 안전성∙신뢰성을 확보하기 위하여 아래와 같은 조치를 이행할 의무를 부담합니다. 과학기술정보통신부 장관은 아래 조치의 구체적인 사항을 정하여 고시하고 그 준수를 권고할 수 있습니다. 다만, 인공지능 사업자가 다른 법령에 따라 아래 조치에 준하는 조치를 대통령령으로 정하는 바에 따라 이행한 경우에는 아래 조치를 이행한 것으로 간주됩니다(제34조 제1항~제3항).

            → 위험 관리 방안의 수립ㆍ운영
            → 기술적으로 가능한 범위 내에서의 인공지능이 도출한 최종 결과, 인공지능의 최종 결과 도출에 활용된 주요 기준, 인공지능의 개발ㆍ활용에 사용된 학습용 데이터의 개요 등에 대한 설명 방안의 수립ㆍ시행
            → 이용자 보호 방안의 수립ㆍ운영
            → 고영향 인공지능에 대한 사람의 관리ㆍ감독
            → 안전성ㆍ신뢰성 확보를 위한 조치의 내용을 확인할 수 있는 문서의 작성과 보관
            → 그 밖에 고영향 인공지능의 안전성ㆍ신뢰성 확보를 위하여 위원회에서 심의ㆍ의결된 사항

        한편, 인공지능 사업자는 고영향 인공지능을 제공하는 경우 사전에 검증∙인증을 받고 사람의 기본권에 미치는 영향을 평가하기 위하여 노력하여야 합니다(제30조 제3항, 제35조).

    ■ 생성형 인공지능
        인공지능기본법은 인공지능 사업자가 생성형 인공지능을 이용한 제품 또는 서비스를 제공하려는 경우 해당 제품 또는 서비스가 생성형 인공지능에 기반하여 운용된다는 사실을 이용자에게 사전 고지하도록 규정하고 있습니다. 또한, 인공지능 사업자는 해당 제품 또는 서비스의 결과물이 생성형 인공지능에 의해 생성되었다는 사실을 표시하여야 하고, 특히 실제와 구분하기 어려운 가상의 음향, 이미지 또는 영상 등의 결과물을 제공하는 경우에는 해당 결과물이 인공지능 시스템에 의하여 생성되었다는 사실을 이용자가 명확하게 인식할 수 있는 방식으로 고지 또는 표시하여야 합니다. 다만, 결과물이 예술적∙창의적 표현물에 해당하거나 그 일부를 구성하는 경우에는 위와 같은 고지 또는 표시 의무는 전시 또는 향유 등을 저해하지 않는 방식으로 이행하는 것이 가능합니다(제31조 제1항~제3항).

    ■ 기타 규제
        인공지능 사업자는 학습에 사용된 누적 연산량이 대통령령으로 정하는 기준 이상인 인공지능 시스템에 대해서는 (i) 인공지능 수명 주기 전반에 걸친 위험을 식별ㆍ평가 및 완화하고, (ii) 인공지능 관련 안전사고를 모니터링하고 대응하는 위험관리체계를 구축하여 그 결과를 과학기술정보통신부 장관에게 제출하여야 합니다. 위 의무의 구체적인 이행 방식 및 결과 제출 등에 관하여 필요한 사항은 과학기술정보통신부 장관이 고시합니다(제32조 제1항~제3항).

        한편, 국내에 주소 또는 영업소가 없는 인공지능 사업자로서 이용자 수, 매출액 등이 대통령령으로 정하는 기준에 해당하는 자는 서면으로 국내에 주소 또는 영업소가 있는 자를 국내 대리인으로

지정하고 과학기술정보통신부 장관에게 신고하여야 합니다. 국내 대리인은 (i) 학습에 사용된 누적 연산량이 대통령령으로 정하는 기준 이상인 인공지능 시스템에 대한 안전성 조치 결과의 제출, (ii) 고영향 인공지능 해당 여부 확인의 신청, (iii) 고영향 인공지능에 대한 안전성∙신뢰성 확보 조치의 이행에 필요한 지원을 대리하고, 이와 관련하여 국내 대리인이 인공지능기본법을 위반한 경우에는 인공지능 사업자가 그 행위를 한 것으로 간주됩니다(제36조 제1항~제3항).

5. 사실 조사 및 제재 조치
    과학기술정보통신부 장관은 아래 의무 중 어느 하나에 대하여 위반되는 사항을 발견하거나 혐의가 있음을 알게 된 경우 또는 신고를 받거나 민원이 접수된 경우에는 사실 조사를 할 수 있고, 위반 사실이 인정되는 때에는 위반 행위의 중지나 시정을 명령할 수 있습니다(제40조 제1항~제3항).

        → 생성형 인공지능 결과물의 표시 의무
        → 실제와 구분하기 어려운 가상 결과물의 고지∙표시 의무
        → 학습에 사용된 누적 연산량이 대통령령으로 정하는 기준 이상인 인공지능 시스템에 대한 안전성 조치 의무 및 결과 제출 의무
        → 고영향 인공지능에 대한 안전성∙신뢰성 확보 조치 의무

    인공지능 사업자는 (i) 위 중지 명령 또는 시정 명령을 이행하지 않은 경우, (ii) 고영향 인공지능 또는 생성형 인공지능에 대한 사전 고지 의무를 이행하지 않은 경우, (iii) 국내 대리인을 지정하지 않은 경우에는 3천만 원 이하의 과태료를 부과받을 수 있습니다(제43조).

6. 인공지능 기술 개발 및 산업 육성
    인공지능기본법은 과학기술정보통신부 장관이 인공지능 학습용 데이터의 생산∙수집∙관리∙유통 및 활용을 촉진하기 위한 시책을 추진하도록 정하고 있습니다. 이러한 시책의 효율적인 추진을 위하여 정부는 지원 대상 사업을 선정하여 지원할 수 있고, 학습용 데이터를 제작∙생산하여 제공하는 구축 사업을 시행할 수 있습니다. 과학기술정보통신부 장관은 학습용 데이터 구축 사업을 위하여 학습용 데이터를 통합적으로 제공∙관리할 수 있는 시스템을 구축∙관리하고 민간에 제공하여야 합니다(제15조).

    한편, 인공지능기본법은 정부가 인공지능 데이터 센터의 구축 및 운영에 필요한 행정적∙재정적 지원 등 인공지능 데이터 센터 활성화를 위한 업무를 수행할 수 있도록 법적 근거를 마련하고 있습니다. 또한, 인공지능 관련 전문 인력을 양성하고 특히 국내 취업 지원 등 해외 전문 인력의 확보를 위한 시책을 추진할 수 있도록 규정하고 있습니다(제25조).

    이외에도 인공지능기본법은 인공지능 산업 기반 조성 및 인공지능 기술 개발 활성화 등을 위하여 인공지능 기술 개발 및 안전한 이용 지원, 인공지능 기술의 표준화, 인공지능 기술 도입∙활용 지원, 중소기업 지원, 창업의 활성화, 인공지능 융합의 촉진, 국제협력 및 해외 시장 진출의 지원, 인공지능 실증 기반 조성 등의 규정을 포함하고 있습니다.

7. 시사점
    인공지능기본법은 인공지능 사업자에 대한 형사처벌, 과징금 조항은 배제하고 필요한 최소한의 규제를 정하고 있는 것으로 보입니다. 이러한 전반적인 규제 프레임이 보다 명확해짐에 따라 인공지능 사업자들이 사업 추진 과정에서 직면하였던 법적 불확실성이 완화되고, 인공지능 관련 규제에 대한 예측 가능성이 제고될 것으로 예상됩니다.

    또한, 인공지능기본법은 인공지능 학습용 데이터, 인공지능 데이터 센터, 전문 인력 확충에 대한 시책 등 인공지능 기술 개발 및 산업 진흥을 위한 지원책에 중점을 두고 있고, 국가인공지능위원회와 인공지능안전연구소 설치∙운영의 법적 근거를 마련하여 일관된 정책 추진과 인공지능 안전성 확보를 가능하게 하고 있습니다.

    인공지능기본법이 제정됨에 따라 인공지능 사업자들은 제공하려는 제품 또는 서비스가 고영향∙생성형 인공지능에 기반한 것인지를 미리 점검하고, 고영향∙생성형 인공지능의 사전 고지 의무, 고영향 인공지능에 대한 안전성∙신뢰성 확보 조치 등 인공지능기본법상 의무를 준수하기 위한 준비를 면밀히 이행하여야 할 것입니다. 또한, 고영향 인공지능의 범위, 안전성 확보 의무가 적용되는 인공지능 시스템의 학습에 사용된 누적 연산량 및 안전성 확보 조치의 구체적인 이행 방식, 국내 대리인 지정 대상자 등은 대통령령 또는 과학기술정보통신부 고시에 의해 그 규제 내용이 보다 구체화될 예정이므로 인공지능 사업자들은 향후 추이를 살펴볼 필요가 있을 것입니다.


법무법인(유) 광장 Tech&AI팀은 개인정보, 데이터, IT, 정보보호, IP, 금융, 의료, 기술 분쟁, 공정거래, 통상, 법제 컨설팅 등 기술 규제가 영향을 미칠 수 있는 각 영역에서 풍부한 업무 수행 경험을 가진 100여 명의 전문 변호사 및 규제 기관 출신 전문가들로 구성되어, 인공지능 및 신기술을 활용한 융∙복합 서비스의 모든 단계에 걸쳐 원스탑(One-Stop) 법률 서비스를 제공하고 있습니다.

인공지능 관련 규제 및 법률상 이슈와 관련하여 자문이 필요하신 경우, 언제든지 법무법인(유) 광장 Tech&AI팀에 문의하여 주시기 바랍니다.