AI 정책의 핵심 과제: 상충하는 가치와 목표의 조정

앞에서 살펴본 것처럼 AI 정책에는 서로 다른 정책목표와 가치가 동시에 작동한다. 기술혁신을 촉진해야 하지만 새로운 위험에도 대응해야 하고, 경제성장을 추구하면서 그 혜택과 기회의 사회적 배분도 고려해야 한다. 글로벌 AI 생태계의 개방성과 협력을 유지하면서도 국가의 기술적 자율성과 안보를 확보해야 한다. 문제는 이러한 목표들이 언제나 같은 방향으로 움직이지 않는다는 데 있다.

따라서 AI 정책의 핵심적인 과제는 어느 하나의 목표를 선택하는 것이 아니라 서로 정당하지만 때로는 충돌하는 여러 정책목표와 가치 사이의 관계를 조정하는 데 있다.

기술혁신과 위험의 역설

AI 정책에서 가장 먼저 나타나는 긴장은 혁신과 위험의 관계다. 일반적으로 새로운 기술의 발전은 생산성 향상과 새로운 산업의 출현, 소비자 편익의 증가를 가져온다. 따라서 정부는 연구개발과 인재양성을 지원하고, 데이터와 컴퓨팅 인프라를 구축하며, 기업의 혁신을 가로막는 불필요한 규제를 개선하려 한다.

그러나 새로운 기술의 발전은 그동안 존재하지 않았던 위험과 사회적 영향을 함께 만들어낼 수 있다. 이러한 문제는 기술정책에서 오래전부터 ‘콜링리지 딜레마(Collingridge dilemma)’로 설명되어 왔다. 새로운 기술의 초기 단계에서는 그 기술이 가져올 사회적 영향과 위험을 충분히 예측하기 어렵지만 정책적 개입은 상대적으로 용이하다. 반대로 기술이 널리 확산되어 그 영향과 위험이 분명해진 이후에는 이미 기술이 사회와 산업에 깊이 자리 잡아 그 방향을 통제하거나 변경하기가 훨씬 어려워진다는 것이다 (Genus & Stirling, 2018).

AI는 이러한 딜레마를 더욱 선명하게 보여준다. 생성형 AI의 성능이 향상되고 활용영역이 확대될수록 새로운 경제적·사회적 기회가 창출되는 동시에 허위정보와 딥페이크, 저작권 침해와 같은 새로운 문제가 나타날 수 있다. AI 에이전트의 자율성이 높아질수록 생산성과 편의성은 증가할 수 있지만 인간의 직접적인 통제를 벗어난 행동이나 책임소재의 문제도 커질 수 있다. 고성능 AI 모델의 개발에 막대한 컴퓨팅 자원과 자본이 필요하다는 점은 기술발전이 소수 기업의 시장지배력을 강화할 가능성도 제기한다.

이러한 딜레마는 정책적으로는 ‘과소규제와 과잉규제’의 문제로 나타난다. 규제가 지나치게 약하면 개인정보 침해, 차별과 편향, 안전사고, 허위정보, 시장지배력 집중과 같은 문제가 확대되고 AI에 대한 사회적 신뢰가 약화될 수 있다. 반대로 규제가 지나치게 강하면 새로운 AI 서비스를 개발하기 위한 비용과 불확실성이 증가하고 스타트업이나 중소기업의 시장진입이 어려워질 수 있다. 특히 규제 준수비용을 감당할 수 있는 대기업에 비해 규모가 작은 기업이 더 큰 부담을 질 경우, 위험을 줄이기 위한 규제가 오히려 기존 사업자의 시장지배력을 강화하는 결과를 가져올 수도 있다.

따라서 중요한 것은 규제를 강화할 것인가 완화할 것인가라는 단순한 선택이 아니라 어떤 위험에, 어느 정도의 규제가, 누구에게 필요한가를 판단하는 것이다. 이러한 문제의식에서 등장하는 것이 위험기반 접근(risk-based approach)이다. 모든 AI 시스템을 동일하게 규제하기보다 사용되는 영역과 용도, 예상되는 피해의 규모와 심각성에 따라 정책적 대응의 수준을 달리하는 것이다.

예를 들어 일상적인 정보검색이나 콘텐츠 제작에 활용되는 AI와 의료진단, 금융대출, 채용, 핵심 인프라, 공공행정과 같이 개인의 권리나 안전에 중대한 영향을 미치는 AI를 동일한 방식으로 다룰 필요는 없다. 위험이 낮은 영역에서는 혁신과 활용의 자유를 폭넓게 허용할 수 있지만, 중대한 피해 가능성이 존재하는 영역에서는 보다 높은 수준의 투명성, 안전성 검증, 인간의 감독과 책임체계가 요구될 수 있다. 유럽연합의 「AI Act」가 AI 시스템을 위험수준에 따라 차등적으로 규율하는 것도 이러한 접근의 대표적인 사례다. AI의 활용 자체를 일률적으로 제한하는 것이 아니라 위험의 성격과 수준에 따라 서로 다른 의무를 부과한다 (European Union, 2024).

위험기반 접근의 중요한 의미는 혁신과 안전을 반드시 제로섬(zero-sum)의 관계로 보지 않는다는 데 있다. 적절한 안전기준과 책임체계는 단기적으로 기업에 비용을 발생시킬 수 있지만, 장기적으로는 AI에 대한 사회적 신뢰를 높이고 기술의 안정적인 확산을 가능하게 하는 제도적 기반이 될 수도 있다. 결국 AI 정책의 과제는 혁신과 위험 가운데 하나를 선택하는 것이 아니라 혁신의 가능성을 유지하면서 그 과정에서 발생하는 위험을 관리할 수 있는 정책체계를 만드는 데 있다.

성장과 분배의 조정

정책목표 사이의 긴장은 혁신과 위험에만 존재하지 않는다. AI가 높은 생산성과 경제성장을 만들어낸다고 하더라도 그 혜택이 사회적으로 어떻게 분배되는가는 별개의 문제다. 오히려 AI가 경제 전반에 빠르게 확산될수록 생산성 향상과 부의 창출이라는 긍정적 효과와 함께 소득과 기회의 격차가 확대될 가능성도 커진다.

AI를 적극적으로 활용할 수 있는 기업과 노동자는 생산성 향상의 혜택을 얻을 수 있지만, 그렇지 못한 기업과 노동자는 경쟁에서 뒤처질 수 있다. AI 인프라와 고급인력을 확보한 지역과 그렇지 못한 지역, 첨단 AI 기술에 접근할 수 있는 국가와 그렇지 못한 국가 사이에서도 격차가 확대될 수 있다. 더욱 중요한 문제는 AI와 자동화가 기존의 일부 업무를 대체하는 수준을 넘어 노동시장과 고용구조 자체를 변화시킬 가능성이다. AI가 만들어내는 새로운 일자리가 사라지는 일자리를 충분히 대체하지 못하거나, 새로운 일자리가 요구하는 역량과 기존 노동자가 보유한 역량 사이에 큰 격차가 발생한다면 기술혁신의 성과가 경제성장으로 이어지더라도 그 혜택이 사회 전체에 고르게 돌아간다고 보기는 어렵다.

그렇다고 이러한 문제에 대응하기 위해 AI의 활용과 기술혁신 자체를 제한하는 것은 적절한 해법이 되기 어렵다. 중요한 것은 성장을 억제하여 분배의 문제를 해결하는 것이 아니라, 기술혁신과 경제성장을 지속하면서 그 과정에서 발생하는 격차와 전환비용을 사회적으로 관리하는 것이다. 이를 위해서는 AI 접근권과 리터러시를 확대하고, 교육과 재훈련을 통해 노동자의 직무 전환을 지원하며, 중소기업과 공공부문도 AI를 활용할 수 있는 기반을 마련해야 한다. 동시에 기술 변화의 속도와 규모가 기존의 고용정책이나 실업급여만으로 감당하기 어려운 수준에 이를 가능성에도 대비해야 한다.

『AI의 도전』(2021)에서도 AI와 로봇에 따른 대규모 고용구조 변화에 대응하기 위해 전통적인 실업급여를 넘어 최저소득보장(GMI: Guaranteed Minimum Income)이나 보편적 기본소득(UBI: Universal Basic Income)과 같은 새로운 소득보장제도를 사회적 논의의 대상으로 검토할 필요가 있음을 제안한 바 있다. 이러한 제도의 구체적인 형태와 재원 조달 방식에는 상당한 사회적·재정적 논쟁이 따를 수밖에 없다. 그러나 AI가 노동과 소득의 관계 자체를 변화시킬 가능성이 커질수록, 기술혁신으로 창출된 생산성과 부의 일부를 어떻게 사회적 전환과 안전망 구축에 활용할 것인가는 더 이상 주변적인 복지정책의 문제가 아니라 AI 정책의 핵심 과제가 된다.

따라서 성장과 분배의 조정은 어느 하나를 선택하는 문제가 아니다. 정책의 목표는 AI가 만들어내는 성장의 잠재력을 최대한 실현하는 동시에 그 과정에서 발생하는 전환비용을 특정 계층이나 집단에 집중시키지 않는 데 있어야 한다. 교육과 재훈련을 통한 기회의 확대, 노동시장 이동을 지원하는 전환정책, 그리고 필요한 경우 새로운 형태의 소득보장과 사회안전망을 함께 설계해야 한다. 결국 AI 시대의 성장과 분배를 조정한다는 것은 성장 이후에 그 성과를 사후적으로 재분배하는 데 그치는 것이 아니라, 더 많은 구성원이 기술혁신의 과정에 참여하고 그 성과를 공유할 수 있도록 성장과 분배를 하나의 정책체계 안에서 함께 설계하는 것을 의미한다.

개방성과 전략적 자율성

국제적인 차원에서는 개방성과 전략적 자율성 사이의 긴장이 나타난다. AI 기술의 발전은 글로벌 연구협력과 인재이동, 반도체와 클라우드의 국제 공급망, 데이터와 오픈소스 생태계를 통해 이루어져 왔다. 특히 막대한 컴퓨팅 자원과 자본, 데이터, 고급인력이 요구되는 첨단 AI 분야에서 한 국가가 기술 생태계 전체를 독자적으로 구축하는 것은 현실적으로 어렵다. 지나친 기술보호주의와 국가 간 장벽은 오히려 혁신의 기반을 약화시키고 기술발전의 속도를 늦출 수 있다.

그러나 AI가 단순한 산업기술을 넘어 경제와 사회의 핵심 인프라이자 국가안보와 직결된 전략자산으로 변화하면서 일정 수준의 기술적 자율성을 확보해야 할 필요성도 커지고 있다. 핵심 AI 인프라와 기술을 특정 국가나 기업에 지나치게 의존할 경우 수출통제나 공급망 단절, 글로벌 AI 플랫폼의 서비스정책 변화와 같은 외부의 결정이 한 국가의 산업과 공공서비스, 나아가 국가안보에까지 영향을 미칠 수 있기 때문이다. 이러한 배경에서 최근 사우디아라비아와 UAE를 비롯한 중동 국가들이 국가 차원의 AI 인프라와 모델 구축에 적극적으로 투자하고 있으며, 한국에서도 독자 AI 파운데이션 모델 개발을 비롯한 소버린 AI 정책이 추진되어 왔다. 다만 사업 추진과 평가 과정에서 여러 논란이 제기되면서 기존의 개발방식을 재검토하고 새로운 추진체계를 모색하는 논의도 진행되고 있어, 소버린 AI를 어떤 목표와 방식으로 추진할 것인가 자체가 중요한 정책적 쟁점이 되고 있다.

중요한 사실은 이러한 소버린 AI 정책을 기술자립주의의 시각으로 바라봐서는 안 된다는 점이다. AI가 국가안보와 핵심 공공서비스의 기반으로 자리 잡을수록 최소한의 독자적 운용능력과 핵심 데이터에 대한 통제력, 컴퓨팅 인프라와 모델에 대한 선택권을 확보하는 것은 일종의 국가적 위험관리의 성격을 갖는다. 글로벌 AI 생태계가 지정학적 갈등이나 기술통제에 의해 분절되는 상황에 대비하기 위해서도 일정 수준의 전략적 선택지를 보유할 필요가 있다.

이러한 관점은 불확실성이 높은 환경에서 하나의 선택에 모든 자원을 고정하기보다 미래의 상황 변화에 대응할 수 있는 선택지를 유지하는 것 자체가 전략적 가치를 갖는다는 ‘실물옵션이론(real options theory)’과도 연결된다. 불확실한 환경에서는 현재의 최적 선택에 모든 자원을 집중하기보다 향후 상황 변화에 따라 투자를 확대하거나 전환하고, 필요한 경우 철수할 수 있는 유연성을 확보하는 것 자체가 중요한 전략적 가치를 갖는다(Trigeorgis & Reuer, 2017).

이를 국가 AI 전략의 차원으로 확장하면, 중요한 것은 모든 핵심기술을 국내에서 개발하는 자급자족 능력이 아니라 외부 환경이 변화했을 때 다른 기술과 공급자, 인프라를 선택하거나 필요한 경우 독자적 역량으로 전환할 수 있는 능력을 확보하는 것이다. 이를 이 책에서는 ‘전략적 선택능력(strategic optionality)’이라고 부르고자 한다.

이러한 전략적 선택능력은 현재의 기술경쟁뿐 아니라 앞으로 변화할 AI의 발전경로에 대비한다는 점에서도 중요하다. 지금까지 AI 경쟁이 거대한 파운데이션 모델의 성능을 높이는 1차적 성장의 경쟁이었다면, 앞으로는 이렇게 축적된 AI 역량이 산업과 제품, 서비스 전반으로 확산되는 2차적 확산의 경쟁이 더욱 중요해질 수 있다. 모델의 경량화, 온디바이스 AI와 엣지 컴퓨팅이 발전하면서 반드시 초거대 모델과 대규모 데이터센터에 의존하지 않고도 다양한 기기와 산업현장에서 AI를 구현할 가능성이 확대되고 있다. 이러한 변화는 스마트폰과 전자기기, 반도체, 자동차, 제조업 등에서 강점을 가진 한국에 새로운 사업모델과 산업적 기회를 제공할 수 있다. 따라서 일정 수준의 독자적인 AI 기술역량을 유지하는 것은 현재의 LLM 경쟁만을 위한 투자가 아니라 앞으로 전개될 다양한 AI 활용과 산업적 확산에 대비해 미래의 선택지를 확보한다는 의미도 갖는다.

이러한 관점에서 소버린 AI의 목표와 범위도 현실적으로 설정할 필요가 있다. 글로벌 선도기업의 LLM을 국내 모델로 대체하거나 모든 AI 기술을 독자적으로 확보하는 것보다는, 국가안보와 핵심 공공서비스, 전략산업 등 필요한 영역에서 대체 가능한 선택지와 독자적인 운용역량을 확보하는 데 우선순위를 두는 것이다. 막대한 자본과 컴퓨팅 자원이 투입되는 글로벌 프런티어 모델과의 경쟁 자체를 정책목표로 삼을 경우 한정된 국가자원의 효율적 배분이라는 문제에 직면할 수 있다. 따라서 소버린 AI는 그 자체를 글로벌 경쟁력의 목표로 삼기보다, 글로벌 AI 생태계에 적극적으로 참여하면서도 필요한 영역에서 전략적 선택능력을 확보하기 위한 수단으로 접근할 필요가 있다.

균형보다 중요한 것은 조정이다

지금까지 살펴본 세 가지 긴장은 AI 정책이 단순한 최적화의 문제가 아니라 서로 다른 가치와 목표 사이의 선택과 조정의 문제임을 보여준다. 혁신과 위험, 성장과 분배, 개방성과 전략적 자율성은 모두 중요한 정책목표이지만 그 중요성과 우선순위가 언제나 동일한 것은 아니다.

따라서 이러한 문제를 단순히 ‘균형(balance)’의 문제로 이해하는 데에는 한계가 있다. 균형이라는 표현은 서로 다른 가치에 적절한 비중을 배분하면 최적의 정책을 찾을 수 있다는 인상을 줄 수 있기 때문이다. 그러나 실제 AI 정책에서 각 가치의 중요성은 기술의 발전단계와 적용영역, 위험의 정도, 경제·사회적 여건과 국제환경에 따라 달라진다. 안전이 중요한 영역에서는 위험관리가 우선할 수 있고, 새로운 시장의 형성이 필요한 영역에서는 혁신과 실험에 더 많은 공간을 부여할 수 있다. 심각한 AI 격차가 발생한다면 접근성과 포용성이, 지정학적 불확실성이 커진다면 전략적 자율성이 더욱 중요한 정책목표가 될 수 있다.

따라서 좋은 AI 정책은 모든 가치를 동일하게 취급하거나 그 사이에서 고정된 균형점을 찾는 정책이 아니다. 변화하는 상황에 따라 어떤 가치와 목표를 우선할 것인지 판단하고, 서로 정당하지만 충돌할 수 있는 정책목표 사이의 관계를 지속적으로 조정할 수 있는 정책적 역량이 중요하다. 이러한 의미에서 AI 정책의 핵심은 균형점 자체를 찾는 데 있기보다 변화하는 환경에 맞추어 균형점을 계속 조정해 나가는 데 있다.

그리고 바로 여기에서 거버넌스의 문제가 등장한다. 서로 다른 가치와 이해관계가 충돌할 때 누가 우선순위를 결정할 것인가, 정부와 기업, 전문가와 시민사회는 어떤 역할을 담당해야 하는가, 국가와 국제사회는 어떻게 권한과 책임을 나누어야 하는가라는 문제가 제기되기 때문이다. 결국 AI 정책에서 조정은 단순한 정책기술의 문제가 아니라 누가, 어떤 원칙과 절차를 통해 그 조정을 수행할 것인가의 문제이다. 이는 다음 절에서 살펴볼 AI 정책의 다층적 거버넌스 문제로 이어진다.