AI 기술이 빠르게 발전하고 발전 속도가 전문가들의 예상을 훨씬 뛰어넘으면서, 최근 인공지능의 위험성을 적절히 통제할 수 있는 규제에 대한 논의가 활발히 이루어지고 있습니다. 이러한 세계적 흐름에서 인공지능에 관한 세계 최초의 일괄 규제 법규인 「EU 인공지능법(Artificial Intelligence Act)」이 2024년 8월 1일 발효되었고, 미국은 개별 주 단위로 인공지능 규제에 관한 법률 제정을 진행 중에 있으며, 이미 유타주, 콜로라도주에서는 관련 법률이 제정되었습니다
우리나라는 제21대 국회에서 총 9건의 인공지능 기본법안이 발의되었고, 이중 황희, 안철수 의원안을 제외한 7건에 대해서는 2차례의 과학기술정보방송통신위원회 법안심사소위원회를 거쳐 2023년 2월 14일 대안 제안이 의결되어 국회 통과 여부에 기대가 모아졌으나, 최종적으로 임기만료로 폐기된 바 있습니다
제22대 국회에서는 2024년 9월 27일 현재 총 11개의 인공지능 관련 법률안(이하, 통칭하여 인공지능법안)이 발의되어 있습니다.
■ 인공지능 산업 육성 및 신뢰 확보에 관한 법률안(안철수 의원 2024.5.31. 대표 발의, 이하 안철수 의원안)
■ 인공지능 발전과 신뢰 기반 조성 등에 관한 법률안(정점식 의원 2024.6.17. 대표 발의, 이하 정점식 의원안)
■ 인공지능 산업 육성 및 신뢰 확보에 관한 법률안(조인철 의원 2024.6.19. 대표 발의, 이하 조인철 의원안)
■ 인공지능 산업 육성 및 신뢰 확보에 관한 법률안(김성원 의원 2024.6.19. 대표 발의, 이하 김성원 의원안)
■ 인공지능 기술 기본법안(민형배 의원 2024.6.28. 대표 발의, 이하 민형배 의원안)
■ 인공지능 개발 및 이용 등에 관한 법률안(권칠승 의원 2024.7.4. 대표 발의, 이하 권칠승 의원안)
■ 인공지능 기본법안(한민수 의원 2024.8.22. 대표 발의, 이하 한민수 의원안)
■ 인공지능 책임법안(황희 의원 2024.8.27. 대표 발의, 이하 황희 의원안)
■ 인공지능 발전 진흥과 사회적 책임에 관한 법률안(배준영 의원 2024.8.28. 대표 발의, 이하 배준영 의원안)
■ 인공지능의 발전과 안전성 확보 등에 관한 법률안(이훈기 의원 2024.9.12. 대표 발의, 이하 이훈기 의원안)
■ 인공지능 산업 진흥 및 신뢰 확보 등에 관한 특별법안(김우영 의원 2024.9.24. 대표 발의, 이하 김우영 의원안)
법무법인(유) 광장 Tech&AI 팀에서는 현재 국회에 발의되어 있는 각 법률안들의 주요 내용을 비교, 분석하여 알려드리고자 합니다.
1. 총칙
■ 인공지능의 정의
인공지능법안은 인공지능의 개념 요소로 공통적으로 “인간이 가진 지적 능력을 전자적 방법으로 구현한 것”을 규정하고 있습니다.
■ 다른 법률과의 관계
인공지능법안은 본 법률이 인공지능, 인공지능 기술, 인공지능 산업 등에 대해 일반법의 지위에 있음을 규정하고 있습니다.
이에 더하여, 안철수 의원안, 권칠승 의원안, 황희 의원안은 인공지능과 관련된 개인정보, 저작권, 공공데이터에 관하여는 각각 개인정보보호법, 저작권법, 공공데이터의 제공 및 이용 활성화에 관한 법률에 따른다고 명시하고 있으며, 김성원 의원안은 국방 분야의 인공지능에 대해서는 국방정보화기반조성 및 국방정보자원관리에 관한 법률 등 관련 법령이 정하는 바에 따른다고 정하고 있습니다.
2. 인공지능 관련 정부 조직의 설치·구성·권한
황희 의원안을 제외한 인공지능법안은 공통적으로 인공지능 관련 기본계획, 정책, 연구개발 등에 대한 사항을 심의·의결하기 위한 조직으로 (국가) 인공지능위원회를 설치할 것을 정하고 있습니다.
다만, 각 법률안은 (국가) 인공지능위원회의 소속, 위원장 등은 달리 정하고 있습니다. 안철수 의원안, 정점식 의원안, 조인철 의원안, 이훈기 의원안, 김우영 의원안은 (국가) 인공지능위원회를 대통령 소속으로 설치하도록 하고 대통령이 단독으로 그 위원장이 되도록 정하고 있습니다. 반면, 김성원 의원안, 민형배 의원안, 권칠승 의원안, 한민수 의원안, 배준영 의원안은 (국가) 인공지능위원회를 국무총리 소속으로 두고 있고, 국무총리 및 민간위원 중 대통령이 지명 또는 위촉한 자가 공동으로 위원장이 되도록 정하고 있습니다.
한편, 조인철 의원안, 황희 의원안을 제외한 나머지 인공지능법안은 기본계획의 수립ㆍ시행에 필요한 전문 기술의 지원, 인공지능 관련 조사, 분석, 연구, 교육 등 업무를 수행하는 조직으로 과학기술정보통신부 소관의 국가인공지능센터(민형배 의원안, 한민수 의원안, 배준영 의원안, 이훈기 의원안은 인공지능정책센터) 설치를 정하고 있으며, 안철수 의원안, 정점식 의원안은 인공지능 안전 관련 위험을 분석, 연구하는 조직으로 과학기술정보통신부 장관이 인공지능안전연구소를 운영할 수 있음을 정하고 있습니다.
황희 의원안은 정보통신진흥 및 융합 활성화 등에 관한 특별법 제7조에 따른 정보통신전략위원회가 고위험 인공지능 기본계획의 심의를 하도록 정하고, 인공지능에 관한 분쟁의 조정을 위하여 과학기술정보통신부에 인공지능분쟁조정위원회를 설치하도록 규정하고 있습니다.
3. 인공지능 산업 기반 마련 및 육성
인공지능법안은 일부 세부 시책에서 차이는 있으나, 인공지능 산업의 기반을 마련하고 육성을 촉진하기 위하여 다음과 같은 규정을 포함하고 있습니다.
■ 인공지능 기술 개발 및 안전한 이용 촉진을 위한 사업의 지원 등
■ 인공지능 기술 표준화 사업의 추진 및 지원
■ 인공지능 학습용 데이터 관련 시책 수립 등
■ 기업의 인공지능 기술 도입∙활용 지원
■ 인공지능 분야 창업 활성화를 위한 사업 추진
■ 인공지능 기술∙산업과 다른 기술∙산업 간의 융합 촉진
4. 인공지능 관련 규제
■ 금지된 인공지능
권칠승 의원안은 금지된 인공지능을 “인간의 존엄과 가치, 인류의 평화와 안전에 대한 심각한 침해나 위협이 명백하다고 인정되어 개발과 이용이 금지된 인공지능”이라고 정의하고, 구체적인 유형 등은 대통령령에 위임하고 있습니다. 누구든지 금지된 인공지능을 개발하거나 이용하여서는 안 되며, 아래의 경우에는 국가인공지능위원회의 심의를 거쳐 금지된 인공지능을 제한적으로 개발·이용할 수 있도록 정하고 있습니다.
▷ 범죄 피해자 및 실종 아동 등에 대한 수색
▷ 특정인의 생명이나 신체적 안전 또는 테러 공격에 대한 실질적이고 임박한 위협의 예방
▷ 수사기관 등의 요청에 따라 범인 추적 등 범인 검거를 위한 활동에 반드시 필요한 경우
권칠승 의원안을 제외한 인공지능법안은 별도로 금지된 인공지능에 대한 규제를 정하고 있지 않습니다.
■ 고위험 영역 인공지능
▷ 고위험 영역의 유형
권칠승 의원안, 황희 의원안을 제외한 인공지능법안은 “사람의 생명, 신체의 안전 및 기본권의 보호에 중대한 영향을 미칠 우려가 있는 영역에서 활용되는 인공지능”을 고위험 영역 인공지능으로 규정하고 있습니다. 각 법률안에서 고위험 영역으로 정하고 있는 대상은 다음과 같습니다.
권칠승 의원안은 고위험 인공지능을 “국민의 생명과 신체, 건강과 안전, 기본권의 보호, 국가 안보 및 공공복리 등에 중대한 영향을 미칠 우려가 있는 위험성이 높은 인공지능”이라고 정의하고, 구체적인 유형 등은 대통령령에 위임하고 있습니다.
황희 의원안은 고위험 인공지능을 “국민의 생명, 신체의 안전 및 기본권의 보호에 중대한 영향을 미치는 인공지능”으로서, (i) 인간의 생명과 관련된 인공지능, (ii) 생체인식과 관련된 인공지능, (iii) 교통, 수도, 가스, 난방, 전기 등 주요 사회 기반시설의 관리ㆍ운용과 관련된 인공지능, (iv) 채용 등 인사 평가 또는 직무 배치의 결정에 이용되는 인공지능, (v) 응급 서비스, 대출 신용 평가 등 필수 공공ㆍ민간 서비스 관련 인공지능, (vi) 수사 및 기소 등 기본권을 침해할 수 있는 국가기관의 권한 행사에 이용되는 인공지능, (vii) 문서의 진위 확인, 위험 평가 등 이민, 망명 및 출입국 관리와 관련된 인공지능 중 어느 하나에 해당하는 것이라고 규정하고 있습니다.
■ 고위험 영역 인공지능의 확인
권칠승 의원안, 황희 의원안, 김우영 의원안을 제외한 인공지능법안은 공통적으로 고위험 영역 인공지능 또는 그를 사용한 제품 또는 서비스를 개발, 이용 등을 하려는 사업자가 해당 인공지능이 고위험 영역 인공지능에 해당하는지에 대한 확인을 과학기술정보통신부장관에게 요청할 수 있다고 정하고 있습니다.
반면, 권칠승 의원안은 사업자가 해당 인공지능이 고위험 인공지능에 해당하는지에 대한 확인을 과학기술정보통신부장관에게 요청하여야 한다고 정하고 있어, 과학기술정보통신부장관의 확인을 받는 것을 의무로 규정하고 있습니다. 이에 따라 고위험 인공지능으로 확인된 경우에는 사업자는 안전성 및 신뢰성 확보를 위한 검ㆍ인증 등을 받아야 합니다. 김우영 의원안은 사업자가 인공지능을 이용한 제품 또는 서비스를 제공하기 전에 인공지능위원회에 고위험 영역 인공지능의 해당 여부의 확인을 요청하여야 한다고 정하고 있습니다.
■ 고위험 영역 인공지능의 고지 의무
인공지능법안은 공통적으로 고위험 영역 인공지능을 이용하여 제품 또는 서비스를 제공하려는 자에게 해당 제품 또는 서비스가 고위험 영역 인공지능에 기반하여 운용된다는 사실을 이용자에게 사전에 고지할 의무를 부과하고 있습니다.
■ 고위험 영역 인공지능과 관련한 사업자의 책무
안철수 의원안, 정점식 의원안, 조인철 의원안, 민형배 의원안, 한민수 의원안, 배준영 의원안, 이훈기 의원안, 김우영 의원안은 고위험 영역 인공지능을 개발하는 자 또는 그를 이용하여 제품 또는 서비스를 제공하는 자가 위험 관리 방안(체계)과 이용자 보호 방안의 수립ㆍ운영, 신뢰성 확보를 위한 조치에 관한 문서의 작성 및 보관, 고위험 영역 인공지능에 대한 사람의 관리ㆍ감독, 인공지능이 도출한 최종 결과 및 도출에 활용된 주요 기준과 학습용 데이터 등에 대한 설명 방안의 수립∙시행 등의 조치를 하도록 정하고 있습니다. 특히 이훈기 의원안은 고위험 영역 인공지능 관련 사업자가 인공지능 제품 또는 서비스를 제공하기 전에 기본권 영향평가를 하기 위하여 노력할 의무를 규정하고 있습니다.
황희 의원안은 고위험 인공지능 사업자의 일반 책무를 규정하는 한편, 고위험 인공지능 개발 사업자와 고위험 인공지능 이용 사업자의 책무도 구분하여 별도로 정하고 있습니다.
반면, 김성원 의원안, 권칠승 의원안은 고위험 영역 인공지능과 관련한 사업자의 책무를 별도로 규정하고 있지 않습니다.
■ 고위험 범용 기초 모형과 관련한 사업자의 책무
김우영 의원안은 범용 기초 모형을 “대규모 컴퓨터 자원을 기반으로 대량의 데이터를 학습하여 광범위한 작업에 응용이 가능한 기초 인공지능”이라고 정의하고, 고위험 범용 기초 모형을 “일정 규모 이상의 초대규모 컴퓨팅 자원을 사용하여 학습한 범용 기초 모형으로 공공안전, 보건 등에서 심각한 위협을 초래할 수 있는 위험성을 가진 범용 인공지능 기초 모형”이라고 정의하고 있습니다. 초거대 규모 컴퓨팅 자원 및 심각한 위협을 초래할 수 있는 위험성 등의 기준은 인공지능위원회의 심의·의결을 통해 정하도록 하고 있습니다.
고위험 범용 기초 모형의 제품 또는 서비스를 제공하는 자는 과학기술정보통신부 장관이 정하는 기간마다 모형의 학습 데이터에 대한 정보와 안전평가 실시 결과, 사이버보안 조치 내역을 과학기술정보통신부 장관에게 보고할 의무를 부담합니다.
■ 생성형 인공지능
안철수 의원안, 정점식 의원안, 민형배 의원안, 한민수 의원안, 배준영 의원안, 이훈기 의원안은 공통적으로 생성형 인공지능을 “글, 소리, 그림, 영상 등의 결과물을 다양한 자율성의 수준에서 생성하도록 만들어진 인공지능”이라고 정의하고 있습니다. 위 법률안들은 생성형 인공지능을 이용하여 제품 또는 서비스를 제공하려는 자에게, 해당 제품 또는 서비스가 생성형 인공지능에 기반하여 운영된다는 사실을 이용자에게 사전 고지할 의무와 해당 제품 또는 서비스의 결과물이 생성형 인공지능에 의해 생성되었다는 사실을 표시할 의무를 부과하고 있습니다.
특히 정점식 의원안은 위 고지 의무에 더하여, 학습에 사용된 누적 연산량이 대통령령으로 정하는 기준 이상인 생성형 인공지능을 이용하여 제품 또는 서비스를 제공하려는 자는 (i) 인공지능 수명주기 전반에 걸친 위험 식별, 평가, 완화, (ii) 인공지능 관련 안전사고를 모니터링하고 대응하는 위험 관리 체계 구축을 이행하여야 한다고 정하고 있습니다.
조인철 의원안, 김성원 의원안, 권칠승 의원안, 황희 의원안, 김우영 의원안은 별도로 생성형 인공지능에 대한 규제를 정하고 있지 않습니다.
■ 그 밖의 규제
조인철 의원안은 인공지능 제품의 고장, 결함 또는 이용자 오용 등으로 인한 위해를 방지하기 위해 인공지능 제품에 의무적으로 비상 정지 기능을 적용하도록 규정하고, 중앙행정기관의 장이 제품안전기본법에 따라 인공지능 제품의 안전성 확보 조치를 할 수 있도록 정하고 있습니다.
한민수 의원안은 국내에 주소 또는 영업소가 없는 인공지능 사업자로서 대통령령으로 정하는 기준에 해당하는 자가 국내 대리인을 지정하도록 정하고 있습니다.
황희 의원안은 사업 분야, 매출액 및 이용자 수 등을 고려하여 대통령령으로 정하는 기준에 해당하는 인공지능 사업자가 인공지능 기술 개발의 기본 원칙을 준수하고 사업자의 책임을 이행하기 위한 사업자 책임위원회를 운영하도록 정하고 있고, 인공지능 사업자가 과학기술정보통신부 장관이 고시하는 기술 기준에 적합하도록 인공지능 기술을 개발∙관리∙활용할 의무를 부과하고 있습니다.
5. 시사점
제22대 국회에 발의된 인공지능법안은 대체로 제21대 국회에서 심사된 의안과 기본적 체계에서 큰 차이는 없는 것으로 보이나, ‘국가인공지능위원회’ 창설 및 ‘인공지능안전연구소’ 설치 근거 규정 등이 추가되었습니다. 권칠승 의원안은 EU 인공지능법과 유사한 ‘금지된 인공지능’에 대한 규제 내용을 담고 있어, 향후 국회 논의 과정 중에 이를 반영할 것인지에 대해 관심이 모이고 있습니다.
인공지능 관련 규제의 법제화는 관련 산업 및 사업자들에게 큰 영향을 미칠 것입니다. 실제 AI에 대한 포괄적 규제법인 EU 인공지능법의 시행을 앞두고, 애플은 지난 6월 유럽에서 AI 기능이 탑재된 아이폰 출시를 보류하겠다고 발표하였고, 메타(Meta) 역시 ‘라마 3’를 유럽에서 출시하지 않겠다고 결정하였습니다. OpenAI, 앤트로픽, 마이크로소프트, 구글 등 초거대 AI 기술 기업을 두고 있는 미국은 2023.10.30. ‘안전하고 보안이 보장되며 신뢰할 수 있는 인공지능의 개발과 사용에 관한 행정명령(Executive Order 14110)’을 발표하여, AI 혁신의 지속을 위한 연방정부의 책임과 역할을 규율하는 한편, 안전한 AI 개발·사용·관리를 위한 연방정부와 기관의 조치사항들을 정하여, AI 기술 규제에 있어 신중한 입장을 취하고 있습니다. 국내에서도 인공지능의 실증적인 위험이 확인되지 않은 상황에서 EU 인공지능법과 같은 과도한 사전 규제를 가하는 것에 대한 비판적 견해들이 제기되고 있습니다.
제22대 국회에 발의된 인공지능법안은 인공지능 산업의 진흥·육성뿐 아니라, 고위험 영역 인공지능, 생성형 인공지능 등에 대한 규제적 요소도 일부 포함하고 있습니다. 이에 인공지능 관련 제품, 서비스를 제공하고자 하는 기업으로서는 향후 인공지능법안의 입법 추이를 주시할 필요가 있습니다. 정부는 2024.9.26. 국가인공지능위원회를 공식 출범하였고, 국회도 2024.9.25. 인공지능기본법 제정을 위한 공청회를 개최하는 등 인공지능기본법의 제정 작업이 더욱 속도를 낼 것으로 예상됩니다.
법무법인(유) 광장 Tech&AI 팀은 개인정보, 데이터, IT, 정보보호, IP, 금융, 의료, 기술 분쟁, 공정거래, 통상, 법제 컨설팅 등 기술 규제가 영향을 미칠 수 있는 각 영역에서 풍부한 업무 수행 경험을 가진 100여 명의 전문 변호사 및 규제기관 출신 전문가들로 구성되어, 인공지능 및 신기술을 활용한 융∙복합 서비스의 모든 단계에 걸쳐 원스탑(One-Stop) 법률 서비스를 제공하고 있습니다.
인공지능 관련 규제 및 법률상 이슈와 관련하여 자문이 필요하신 경우, 언제든지 법무법인(유) 광장 Tech&AI 팀에 문의하여 주시기 바랍니다.