인공지능(AI) 산업의 발전과 신뢰 기반 조성을 위한 'AI 기본법'이 오는 26일 국회 본회의에서 처리될 전망이다.

25일 국회에 따르면, 김상훈 국민의힘 정책위의장과 진성준 더불어민주당 정책위의장은 24일 국회 의원회관에서 민생 법안 논의를 위한 실무회의를 통해 이같이 합의했다.

AI 기본법은 지난 17일 국회 법자사법위원회 체계자구 심사를 통과했다. 안철수·정점식·민형배·권칠승·한민수·정동영·조승래·이인선·정희용 의원 등이 제출한 19건의 법률안을 심사한 뒤 통합·조정됐다. AI 기본법에는 인공지능·고영향 인공지능·생성형 인공지능·인공지능윤리·인공지능사업자 등에 대한 정의를 담았다. 특히 '고영향 인공지능'을 '사람의 생명·신체의 안전 및 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 인공지능시스템'으로 규정했다.

다음은 과학기술정보방송통신위원장이 제안한 '인공지능 발전과 신뢰 기반 조성 등에 관한 기본법안(대안)'에 대한 내용 정리했다.

◆ AI 기본법 주요 내용 정리

- 법안 제정 배경 및 필요성
인공지능은 모든 산업 뿐만 아니라 사회를 바꾸는 기반 기술로 최근 인공지능의 성능이 비약적으로 발전함에 따라 우리 사회 각 분야에서 인공지능의 활용이 급속히 확대되고 있음. 특히, 생성형 인공지능의 등장에 따라 인공지능이 가져올 잠재적 혜택과 함께 위험성에 대한 우려가 전 세계적으로 주목받고 있다. 인공지능의 건전한 발전을 지원하고 인공지능사회의 신뢰 기반 조성에 필요한 기본적인 사항을 규정함으로써 국민의 권익과 존엄성을 보호하고 국민의 삶의 질 향상과 국가경쟁력을 강화하는데 이바지할 수 있는 대한민국 인공지능의 새로운 기준을 마련하고자 한다.

- 법안 주요 내용 요약

(1) 목적과 정의

목적: AI의 건전한 발전과 신뢰 기반 조성을 통해 국민의 삶의 질을 높이고, 국가경쟁력을 강화하는 것을 목표로 함.
정의:AI와 고영향 AI, 생성형 AI를 포함해 관련 개념을 명확히 규정.
고영향 AI는 생명, 안전, 기본권에 중대한 영향을 미칠 가능성이 있는 시스템으로 특정 영역에 사용되는 AI를 지칭.

(2) 추진 체계와 관리 구조

기본계획: 과학기술정보통신부 장관이 3년마다 기본계획을 수립하여 국가 AI 정책 방향, 전문 인력 양성, 신뢰 기반 조성 등을 포함.
국가인공지능위원회: 대통령 직속으로 설치, 기본계획 심의·의결, 고영향 AI 규제, 국제협력 정책 결정 등의 역할 수행.
정책센터와 안전연구소: 정책 개발, 안전성 연구, 표준화 작업 등 AI 관련 업무를 효율적으로 수행할 기관 설립 가능.

(3) 윤리 및 신뢰성 강화

윤리원칙: AI 개발·활용 시 생명 존중, 신뢰성 확보, 접근성을 주요 기준으로 윤리적 운영을 강조.
투명성: 생성형 AI와 고영향 AI를 활용한 제품·서비스는 AI 기반임을 명확히 고지해야 함.
안전성: 위험 식별, 평가, 완화 등을 포함하는 안전성 확보 의무 부여.

(4) 산업 및 기술 활성화

인프라 지원: AI 데이터센터 구축, 실증 기반 제공, 학습용 데이터 관리 및 통합 시스템 운영 지원.
전문인력 양성: 국내외 인력 확보를 위해 연구기관 및 기업 간 협력 강화.
산업 촉진: 중소기업의 AI 활용 지원, 창업 활성화, 기술 융합 촉진 정책 포함.

(5) 고영향 AI 관리

고영향 AI의 안전성과 신뢰성을 확보하기 위한 기술적, 관리적 조치 의무화.
정부 및 사업자는 사람의 기본권에 영향을 미칠 가능성을 사전에 평가(영향평가)하고, 이를 기반으로 조치를 마련.

- 예상 효과와 과제

(1) 효과:

AI 기술의 발전과 안전한 활용을 보장함으로써 신뢰 기반의 혁신적 기술 생태계를 조성.
글로벌 경쟁력을 강화하고, 국민의 AI 기술 수용성을 제고.

(2) 과제:

AI 기술 발전 속도에 맞춘 규제 체계의 유연한 업데이트 필요.
이해관계자 간 협력 강화와 국제 규범 조화를 위한 지속적인 노력 요구.

이처럼 AI 기본법은 단순히 기술의 진흥에 그치지 않고, 안전하고 공정한 AI 활용을 가능하게 하는 기본 틀을 제공한다는 점에서 큰 의의를 갖는다.

◆ 시사점 : 법적 틀 마련으로 AI 산업 신뢰 기반 강화

AI 기본법 통과는 국내 인공지능 기술 발전을 지원하면서도 윤리적이고 안전한 사용을 보장하려는 국가적 의지를 보여준다.

AI 기본법이 본회의를 통과하게 되면, 국내 AI 산업은 명확한 법적 틀 안에서 기술 개발과 활용을 추진할 수 있게 된다. 이 법안은 인공지능의 발전 속도를 따라잡기 위해 사회적 신뢰를 확보하고, 국제 경쟁력을 강화하는 데 중점을 두고 있다.

우선, 법안은 AI를 포함해 고영향 AI와 생성형 AI를 구체적으로 정의하고, 투명성과 안전성을 보장하기 위한 규제를 도입했다. 고영향 AI는 생명, 안전, 기본권에 중대한 영향을 미칠 수 있는 기술로 규정되어, 이를 사용하는 기업은 보다 엄격한 안전 관리와 투명한 운영이 요구된다.

또한, AI 기술의 윤리적 활용을 법적으로 뒷받침함으로써 국민의 신뢰를 구축하고 있다. AI 윤리 원칙과 투명성 확보 의무를 통해 AI 기술이 개인의 권익을 침해하지 않도록 하는 동시에, 잘못된 정보 생성이나 악용 사례를 방지하려는 의지를 담고 있다.

이와 함께 데이터센터 구축, 학습용 데이터 관리 시스템 운영, 전문인력 양성 등 산업 생태계의 활성화를 위한 다양한 지원 정책도 포함되어 있다. 이로써 AI 기술의 연구개발 및 상용화를 촉진하며, 국제 규범과 조화를 이루어 글로벌 경쟁력을 강화할 것으로 기대된다.

명확한 정의와 규제 도입
법안은 AI를 포함한 고영향 AI와 생성형 AI를 정의하며, 관련 기술의 투명성과 안전성을 확보하는 구체적인 가이드라인을 제시했다.
특히, 고영향 AI는 생명, 안전, 기본권에 영향을 미칠 수 있는 기술로 규정되며, 산업계의 책임 있는 운영을 요구하고 있다.

신뢰와 윤리적 활용 기반 조성
AI 윤리 원칙과 투명성 의무는 기술 발전과 국민 신뢰를 동시에 충족하려는 방향성을 담고 있다.
생성형 AI와 관련해 결과물의 출처와 사용 여부를 명확히 고지하도록 의무화해, 허위 정보 생성 및 남용에 대한 우려를 해소하려 한다.
산업 활성화와 국제 경쟁력 강화

데이터센터, 학습용 데이터 통합 시스템, 전문인력 양성 지원 등 인프라 조성을 통해 산업 생태계를 강화할 계획이다.
국제 규범과의 조화를 강조하며 글로벌 시장에서의 경쟁력 확보에도 기여할 것으로 기대된다.

- 향후 과제: 보완 필요한 법적·사회적 요소

AI 기본법이 국내 AI 기술 발전과 산업 육성을 위한 중요한 이정표를 세웠지만, 여전히 해결해야 할 과제도 남아 있다.

첫째, 기술 발전 속도에 법적 대응이 뒤처질 가능성을 줄이기 위해 유연한 법 개정 체계를 마련해야 한다. AI 기술은 급속히 발전하고 있어 법적 규제와 실제 기술 간의 불일치를 해소할 수 있는 지속적인 검토와 보완이 필요하다.

둘째, 고영향 AI의 정의와 규정이 포괄적이기 때문에 실제 적용에서 혼선을 방지하려면 산업별로 구체적인 기준과 적용 사례를 명확히 해야 한다. 이를 통해 기술 개발자와 사용자 모두가 일관된 기준에 따라 AI를 설계하고 활용할 수 있다.

셋째, 데이터 활용과 개인정보 보호 사이의 균형을 맞추는 것도 중요한 과제다. AI 기술의 발전을 위해 데이터 활용은 필수적이지만, 개인정보 침해나 데이터 주권 문제에 대한 국민적 우려를 해소할 수 있는 투명한 관리 체계가 필요하다.

넷째, AI 윤리 원칙이 선언적 수준에 머무르지 않도록 이를 실행하기 위한 구체적인 방안을 마련해야 한다. 이를 위해 윤리 규정의 구체적인 가이드라인과 이를 실현할 자율규제 기구의 활성화가 필수적이다.

마지막으로, AI 기술에 대한 국민적 이해와 신뢰를 높이기 위해 AI가 일상에 미치는 영향을 명확히 설명하고, 교육과 홍보를 통해 부정적 인식을 해소해야 한다. 이를 통해 AI가 안전하고 유용한 기술로 자리 잡을 수 있도록 해야 한다.

법과 기술 발전 간 격차 해소

AI 기술의 급격한 발전에 따라 법적 대응이 뒤처질 가능성을 줄이기 위한 유연한 법 개정 체계가 필요하다.
예기치 못한 기술적 문제나 사회적 갈등에 즉각 대응할 수 있는 절차 마련이 요구된다.

2. 고영향 AI의 구체적 기준 정립

고영향 AI의 정의가 포괄적이므로, 실제 적용 시 혼선을 방지하기 위한 산업별 세부 기준과 적용 사례가 필요하다.

3. 데이터 활용과 개인정보 보호의 균형

AI 발전을 위해 데이터 활용은 필수적이나, 개인정보와 데이터 주권 보호에 대한 국민 우려를 해소하기 위한 체계적인 방안이 부족하다.
데이터 관리의 투명성을 높이고 보호 기준을 강화해야 한다.

4. 윤리적 원칙 실행력 확보

윤리 원칙이 선언적 수준에 머물지 않도록, 이를 실행할 구체적인 가이드라인과 자율규제 기구의 활성화가 필요하다.

5. 사회적 수용성 확대

AI 기술에 대한 국민의 이해를 높이고 신뢰를 강화하기 위한 홍보와 교육이 필수적이다.
AI가 일상에 미치는 영향을 명확히 설명하고, 부정적 인식을 해소하기 위한 투명한 소통이 요구된다.

◆ AI 산업 육성과 신뢰 기반 조성의 첫걸음

AI 기본법의 본회의 통과는 기술 혁신과 윤리적 책임을 조화시키려는 국가적 노력의 결실로 평가된다. 국민의 권익을 보호하면서도 AI 산업을 체계적으로 육성하려는 방향성을 제시했다는 점에서 의미가 크다.

향후 법적 체계와 산업 생태계를 지속적으로 보완하고 발전시켜 나간다면, AI 기본법은 대한민국이 글로벌 AI 강국으로 도약하는 데 중요한 밑거름이 될 것으로 보인다.

◆ 붙임
- 인공지능 발전과 신뢰 기반 조성 등에 관한 기본법안(대안)(과학기술정보방송통신위원장)

METAX / X xx@metax.kr