법무법인(유) 화우

인공지능(AI)은 이제 단순한 기술 영역을 넘어서 한 국가의 경제와 안보에 결정적 영향을 미치는 핵심 요소로 자리 잡고 있습니다. 이러한 상황에서 세계 주요국들은 자국의 이익을 극대화하고 글로벌 AI 분야의 주도권 확보를 위해 총력을 기울이고 있습니다. 이러한 세계적 흐름 속에서 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(이하 ‘AI 기본법’) 」 제정안이 26일 국회를 통과하였습니다. 이로써 한국은 유럽연합(EU)에 이어 세계에서 두 번째로 AI에 대한 포괄적인 법제를 갖춘 국가가 되었습니다.

이번에 통과된 AI 기본법 제정안은 AI 등에 대한 정의, 인공지능 기본계획 3년 단위 수립∙시행, 대통령소속 국가인공지능위원회 설치, 인공지능정책센터 지정 및 인공지능안전연구소 운영, AI 전문인력 양성, 고영향 AI나 생성형 AI에 대한 고지 의무, 국내대리인 지정 의무 등의 내용을 담고 있습니다.

위 법안은 AI 산업의 건전한 발전을 지원하는 동시에 AI 사용에 대한 신뢰 기반을 조성하기 위한 법적 근거를 마련하고, 국가 차원의 지원과 규제 체계를 구축했다는 점에서 큰 의의가 있습니다.

1.입법 진행 경과

2.AI 기본법의 주요 내용

3.시사점

1. 입법 진행 경과

AI 관련 법안은 21대 국회에서 논의가 시작되어 회기 만료로 폐기되었으나, 22대 국회에서도 여러 의원들이 관련 법안들을 발의하며 부활하였습니다. 정보통신방송법안심사소위원회는 안철수 의원이 대표발의한 「인공지능 산업 육성 및 신뢰 확보에 관한 법률안」 등19개 법률안을 병합하여 심사한 결과, 이를 통합∙조정하여 대안을 제안하기로 하였습니다. 이후 위 대안이 위원회안으로 제안되었고, 2024년 11월 26일 과학기술정보방송통신위원회 의결을 거쳐, 12월 17일 법제사법위원회를 통과하였으며, 최종적으로 12월 26일 국회 본회의에서 통과되었습니다. 본회의 표결 결과, 재석 264명 중 찬성 260명, 반대 1명, 기권 3명으로 압도적인 지지를 받아 가결되었습니다.

위 법안은 국무회의 의결 및 공포를 거친 후 1년의 경과 기간을 둔 뒤 빠르면 2026년 1월부터 시행될 예정입니다. 이로써 EU다음으로 한국이 세계에서 두 번째로 AI관련 법을 제정하게 되었습니다. 과학기술정보통신부는 추후 시행령, 추가 입법을 통해 기본법을 보완하는 구체적인 실행 방안을 만들 계획입니다 (2025년 상반기 예정).

2. AI 기본법의 주요 내용

AI 기본법은 국가 차원에서 AI를 관리∙감독할 수 있는 체계적인 거버넌스 구조를 확립하고, AI 산업의 발전을 위한 체계적인 지원∙육성 방안을 마련하고, AI 기술 발전에 따라 발생할 수 있는 잠재적 위험요소들을 미리 파악하고 대비하기 위한 예방하는 내용으로 구성되었으며, 주요 내용은 다음과 같습니다.

• AI 기본법 제정안은 AI의 건전한 발전과 신뢰 기반 조성에 필요한 사항을 규정함으로써 국민의 권익과 존엄성 보호하고, 국민의 삶의 질 향상과 국가경쟁력 강화를 목적으로 함을 분명히 하였습니다(제1조).

• 사람의 생명∙안전∙기본권에 중대한 영향을 미칠 수 있는 AI를 ‘고영향 AI’로 정의하고, 구체적인 대상과 범위는 정부가 정하도록 하는 등 AI, AI 시스템, 고영향 AI, 생성형 AI 등에 대한 정의를 제시하였습니다(제2조).

• 대통령 직속 ‘국가인공지능위원회’를 두고(제7, 8조), 과학기술정보통신부가 3년마다 위 '국가인공지능위원회'의 의결을 거쳐 AI 정책 방향과 전문인력 양성 등을 담은 '인공지능 기본계획'을 수립하도록 정하였으며(제6조), 과학기술정보통신부장관이 AI 관련 정책 개발 등을 위한 인공지능정책센터를 지정하고, AI 안전 확보를 위한 인공지능안전연구소를 운영할 수 있다고 정하여 정부가 AI 산업의 발전을 지원할 근거를 마련하였습니다(제11, 12조).

• AI 산업의 진흥 및 기술 개발 지원과 관련하여, AI 기술 개발 활성화 및 표준화 지원을 위한 규정(제13, 14조), AI 전문인력 양성 및 해외 인재 확보에 관한 규정( 제21조), AI연구 개발을 위한 집적단지 지정에 관한 규정(제23조) 등을 두었으며, 그 외 AI 윤리원칙 제정∙공표와 관련한 규정도 두고 있습니다(제27조).

• AI의 투명성∙안전성 확보와 관련해서는 고영향 AI 또는 생성형 AI 이용 사실 등에 대한 사전 고지∙표시 의무와 관련한 투명성 확보 의무 규정(제31조), 학습에 사용된 누적 연산량이 일정 기준 이상인 AI시스템의 안전성을 확보하기 위한 위험 식별∙평가∙완화 등의 사항을 이행하여야 한다는 안전성 확보 의무 관련 규정을 두었습니다(제32조). 특히 고영향 AI와 관련해서는 사업자의 고영향 AI의 사전검토의무 및 확인제도(제33조)와 더불어 사업자의 안전성∙신뢰성 확보 조치가 의무화되었습니다(제34조).

• 규제 및 감독 측면에서는 특정 다국적 기업에 대한 국내대리인 지정 의무를 정하였고(제36조), 과학기술정보통신부장관에게 법 위반 사항 조사 및 시정 조치 권한을 부여하는 규정을 두었으며(제40조), 고영향 AI 또는 생성형 AI에 해당한다는 사실을 고지하지 않거나, 국내대리인 지정 의무를 불이행하거나, 중지명령 및 시정명령을 이행하지 않은 경우 3천만원 이하의 과태료를 부과하는 규정을 두었습니다(제43조).

3. 시사점

AI 기본법 제정안의 국회 통과는 국가 차원의 AI 정책 체계 구축, AI 산업 발전 촉진, 윤리적이고 안전한 AI 사용 보장, 국제 경쟁력 강화, 전문인력 양성 및 확보 등에서 중요한 시사점을 갖습니다. AI 기본법을 통해 체계적이고 일관된 AI 정책이 추진되고, 민관의 투자가 촉진될 수 있는 기반이 마련되었으며, AI 기술의 부작용을 최소화하고 사회적 신뢰를 구축할 수 있는 토대가 마련되었습니다. 기업들 또한 AI 사업 추진에 있어서 불확실성을 일부 해소할 수 있게 되었으며, AI 기본법이 규제 보다는 산업 진흥에 무게를 두고 있음에 따라 각종 지원 및 혜택을 받을 수 있을 것으로 예상됩니다.

AI 기본법은 공표 후 1년 뒤부터 시행됨에 따라 AI 관련 사업자들은 이 법안이 시행되기 전까지 각종 규제사항을 살펴보고 대비해야 할 것입니다. 특히 고영향 AI의 범위, 해외 기업에 대한 규제, 과태료 부과 세부 기준 등 구체적인 규제 사항은 향후 시행령으로 정해질 예정이므로, 향후 하위법령∙지침(가이드라인) 제정에 주목해야 할 것으로 보입니다.

AI 기본법은 투명성 확보를 위한 고지를 하지 않거나, 특정 다국적 기업이 국내대리인을 지정하지 않거나, 과학기술정보통신부의 조사 및 시정 조치에 응하지 않을 경우 과태료 등의 제재를 가할 수 있도록 규정하고 있으므로 이를 유의해야 하며, 특히 다국적 기업의 경우 미리 국내대리인을 지정하는 등 AI 기본법에 대한 준비를 시작해야 할 것입니다

한편, 이번 국회 본회의에서는 AI∙디지털 기술의 발전으로 인해 발생하는 사회∙경제적 차별을 예방∙해소하여 모든 국민이 디지털 기술의 혜택을 누릴 수 있는 기반을 조성하는 「디지털포용법」 제정안 또한 의결되었는데, 빠르면 2026년 1월부터 시행될 예정입니다. 위 법안의 제정으로 인하여 전국민 대상의 디지털포용 정책이 추진되고, 무인정보단말기 제조∙임대사업자의 이용 편의 제공 의무 등이 신설될 예정이므로 AI 사업자들은 위 법안 또한 유심히 살펴볼 필요가 있습니다. 

화우 AI센터는 AI와 관련한 지식재산, 개인정보, 정보보안, 공정거래, 제조물책임, 입법컨설팅, 쟁송 등 모든 법적 영역에서 축적된 경험과 노하우를 기반으로 기업 고객을 위한 최적의 솔루션을 안내해 드리고있습니다. AI와 관련하여 문의사항이 있으신 경우 언제든지 화우에 연락하여 주시기 바랍니다.