AI 정책의 복잡성은 정책의 내용뿐 아니라 정책을 결정하고 집행하는 주체의 문제에서도 나타난다. 전통적인 정책에서는 정부가 문제를 정의하고 법과 제도를 만들며 기업과 시민이 이를 준수하는 구조가 일반적이었다. 그러나 AI에서는 이러한 정부 중심의 정책모델만으로 빠르게 변화하는 기술과 다양한 사회적 영향을 효과적으로 관리하기 어렵다.
AI 기술은 대부분 민간기업과 연구기관에서 개발된다. 데이터와 컴퓨팅 인프라 역시 상당 부분 민간에 집중되어 있으며, AI 시스템이 실제로 어떻게 작동하는지에 대한 전문지식도 기업과 연구자들이 더 많이 보유하고 있는 경우가 많다. 동시에 AI의 영향은 산업과 시장을 넘어 노동, 교육, 문화, 미디어, 인권, 안보와 민주주의에까지 확산된다.
따라서 AI 정책은 정부가 일방적으로 규칙을 만들고 기업이 이를 준수하는 전통적인 규제모델을 넘어설 필요가 있다. 정부, 기업, 연구기관, 시민사회, 이용자, 국제기구 등 다양한 행위자가 서로 다른 역할과 책임을 가지고 참여하고, 중앙과 지역, 국가와 국제사회라는 여러 정책수준이 상호작용하는 ‘다층적 거버넌스(multi-level governance)’가 요구된다.
정부 중심의 정책에서 다층적 거버넌스로
거버넌스(governance)는 정부(government)와 구별되는 개념이다. 정부가 공식적인 권한과 법적 강제력을 가진 제도적 주체를 중심으로 사회문제를 해결하는 방식이라면, 거버넌스는 정부뿐 아니라 기업, 시민사회, 전문가집단, 국제기구 등 다양한 행위자 사이의 관계와 조정을 통해 정책문제를 해결하는 보다 넓은 체계를 의미한다.
이러한 변화의 중요한 배경에는 현대사회에서 정부가 필요한 지식과 자원, 실행능력을 독점하기 어려워졌다는 현실이 있다. 복잡한 정책문제를 해결하기 위해서는 서로 다른 자원과 전문성을 가진 조직들이 상호의존할 수밖에 없으며, 이에 따라 정부의 일방적인 명령과 통제보다는 정부와 민간을 포함한 다양한 조직들의 네트워크를 통한 조정이 중요해졌다. 거버넌스의 핵심은 단순히 정책에 참여하는 주체가 많아졌다는 데 있는 것이 아니라, 어느 하나의 주체가 문제 해결에 필요한 자원과 역량을 독점할 수 없는 상황에서 상호의존적인 행위자들을 어떻게 조정할 것인가에 있다(Rhodes, 1996).
이러한 문제는 AI 정책에서 더욱 분명하게 나타난다. AI 기술의 발전 속도가 매우 빠르고 기술에 관한 전문지식과 컴퓨팅 인프라, 데이터의 상당 부분을 민간기업이 보유하고 있기 때문에 정부가 모든 기술변화를 사전에 파악하고 규칙을 만드는 것은 현실적으로 어렵다. 더욱이 AI의 위험은 기술 자체만으로 결정되지 않고 실제 활용되는 영역과 방식에 따라 달라진다. 동일한 AI 모델이라도 의료와 엔터테인먼트에 사용될 때 요구되는 안전성과 책임의 수준은 다를 수 있다. 결국 정부가 규칙을 만들고 기업이 이를 따르는 전통적인 일방향의 정책방식만으로는 빠르게 변화하고 다양한 영역에 적용되는 AI의 기회와 위험에 충분히 대응하기 어렵다.
따라서 AI 정책에서는 정부가 모든 것을 사전에 결정하기보다 기본적인 원칙과 책임의 경계를 설정하고, 기업과 전문가가 기술적 기준과 실행방식을 발전시키며, 시민사회와 이용자가 그 과정에 참여하고 감시하는 협력적 거버넌스가 중요해진다. 이는 정부의 역할이 축소된다는 의미가 아니라 정부의 역할이 직접적인 통제에서 다양한 행위자의 역량과 책임을 연결하고 조정하는 방향으로 확대되고 변화한다는 의미에 가깝다.
이러한 거버넌스가 실제로 어떻게 작동해야 하는가에 대해서는 ‘책임 있는 혁신(responsible innovation)’의 논의가 중요한 시사점을 제공한다. 새로운 기술의 사회적 영향을 책임 있게 관리하기 위해서는 미래에 발생할 수 있는 영향과 위험을 미리 살펴보는 예측(anticipation), 기술을 개발하고 활용하는 주체가 자신의 목적과 가치, 책임을 지속적으로 되돌아보는 성찰(reflexivity), 다양한 이해관계자와 사회적 관점을 의사결정에 포함하는 포용(inclusion), 그리고 새로운 지식과 위험, 사회적 요구가 나타날 때 기술과 정책의 방향을 수정할 수 있는 대응성(responsiveness)이 필요하다(Stilgoe et al., 2013).
이 네 가지 요소는 AI 거버넌스가 단순히 여러 주체를 의사결정 과정에 참여시키는 것만으로 충분하지 않다는 점을 보여준다. 중요한 것은 변화하는 기술과 위험을 지속적으로 관찰하고, 다양한 사회적 가치와 이해관계를 반영하며, 그 결과에 따라 정책과 기술의 방향을 수정할 수 있는 학습과 조정의 구조를 만드는 것이다. 이러한 점에서 AI 거버넌스는 고정된 규칙을 만드는 일회적인 제도설계라기보다 기술과 사회의 변화에 따라 지속적으로 학습하고 조정하는 과정으로 이해할 필요가 있다.
AI 거버넌스의 다층성은 정부 내부에서부터 나타난다. AI는 과학기술, 산업, 개인정보, 경쟁, 노동, 교육, 문화, 국방 등 여러 정책영역을 동시에 가로지르기 때문에 개별 부처의 전문성만으로는 충분하지 않다. 서로 다른 정책목표와 수단을 연결하기 위한 부처 간 조정과 정책의 일관성(policy consistency)이 중요하다.
동시에 AI 정책은 중앙정부만의 영역도 아니다. 교통, 복지, 의료, 교육, 재난관리, 도시행정 등 AI가 실제 시민의 삶에 적용되는 많은 영역은 지방정부와 연결되어 있다. 중앙정부가 기본적인 규범과 인프라, 안전기준을 마련한다면 지방정부는 지역적 특성에 맞는 AI 서비스를 개발하고 정책실험을 수행할 수 있다. 결국 AI 정책은 정부 내부의 수평적 조정과 중앙–지역 간 수직적 조정을 동시에 필요로 한다.
기업과 기술이 만드는 새로운 거버넌스
AI 거버넌스를 어렵게 만드는 중요한 특징 가운데 하나는 정부와 기업 사이의 ‘정보 비대칭(information asymmetry)’이다. 최첨단 AI에서는 기술을 개발하는 기업이 정부보다 모델의 역량과 한계, 학습과정과 안전성 문제에 대해 훨씬 많은 정보를 가지고 있을 수 있다. 특히 파운데이션 모델과 첨단 AI 시스템에서는 기술적 정보와 전문역량이 소수 기업에 집중될 가능성이 높다.
정부가 충분한 기술적 전문성을 확보하지 못하면 규제의 실효성이 떨어질 뿐 아니라 ‘규제포획(regulatory capture)’의 위험도 커질 수 있다. 규제포획은 공익을 위해 만들어진 규제가 규제대상 산업의 이해관계와 영향력에 의해 그들에게 유리한 방향으로 작동할 수 있다는 문제를 의미한다(Stigler, 1971). 특히 AI처럼 정부와 기업 사이의 기술적 정보와 전문성의 격차가 큰 영역에서는 규제기관이 기업이 제공하는 정보와 판단에 지나치게 의존할 가능성이 있다. 따라서 AI 거버넌스에서 정부의 중요한 역량 가운데 하나는 기업이 제공하는 정보를 검증하고 위험을 독립적으로 판단할 수 있는 기술적 전문성과 평가능력을 확보하는 것이다.
동시에 AI 기업은 정부의 규제를 받는 대상이면서 AI 거버넌스를 실제로 작동시키는 중요한 주체이기도 하다. 어떤 데이터를 사용하여 모델을 개발할 것인지, 어떤 안전장치를 적용할 것인지, 어떤 콘텐츠의 생성을 제한할 것인지, 이용자의 개인정보를 어떻게 보호할 것인지와 같은 결정은 상당 부분 기업 내부에서 이루어진다. 특히 생성형 AI와 파운데이션 모델에서는 모델 설계와 이용정책 자체가 이용자의 행동과 정보환경에 광범위한 영향을 미친다. 이런 의미에서 AI 기업은 단순한 규제대상을 넘어 사실상의 규칙을 만들고 집행하는 준거버넌스적 행위자가 된다.
그러나 기업의 자율적 거버넌스에만 의존할 수도 없다. 기업의 경제적 이해관계와 사회적 공익이 항상 일치하는 것은 아니기 때문이다. 그렇다고 빠르게 변화하는 기술영역에서 정부가 모든 세부적인 규칙과 기술적 기준을 직접 정하는 것도 현실적으로 어렵다. 이러한 한계를 보완하기 위해 정부규제와 기업의 자율규제를 대립적인 선택으로 보기보다 상황에 따라 다양한 규제수단을 결합하는 접근이 발전해 왔다(Ayres & Braithwaite, 1992). AI 거버넌스에서도 정부가 기본적인 원칙과 책임의 경계를 설정하면서 기업의 자율규제, 산업표준, 인증, 독립적인 감사와 평가 등을 적절하게 결합하는 ‘공동규제(co-regulation)’가 중요해지는 이유이다.
더 나아가 AI 시대에는 법률만이 사회의 규칙을 만드는 것도 아니다. 사이버공간에서 인간의 행동은 법률뿐 아니라 사회적 규범, 시장, 그리고 코드와 아키텍처에 의해서도 규율되며, 특히 시스템의 기술적 설계 자체가 무엇이 가능하고 불가능한지를 결정한다는 점은 오래전부터 강조되어 왔다. 이를 압축적으로 표현한 것이 ‘코드가 곧 법이다(Code is law)’라는 명제이다(Lessig, 1999).
이러한 통찰은 AI 시대에 더욱 중요한 의미를 갖는다. 어떤 데이터에 접근할 수 있는지, 어떤 콘텐츠를 생성할 수 있는지, 개인정보가 어떻게 처리되는지, 인간이 AI의 판단을 수정하거나 거부할 수 있는지 등은 법률의 규정만으로 결정되지 않는다. 상당 부분은 모델과 시스템이 어떻게 설계되고 어떤 기술적 제한과 안전장치가 적용되는가에 의해 실제로 구현된다. 법률이 특정한 AI의 사용을 금지하더라도 이를 기술적으로 어떻게 식별하고 차단할 것인지가 설계되지 않으면 규제의 실효성을 확보하기 어렵다. 반대로 시스템 설계 단계에서 특정 행위를 제한하거나 인간의 개입과 통제 가능성을 보장하면 법적 원칙이 기술적으로 구현될 수 있다.
따라서 AI 거버넌스에서는 법률(law), 기술표준(standards), 코드와 시스템 설계(code and architecture), 그리고 기업의 내부규칙이 서로 분리되어 작동하기보다 상호보완적으로 연결될 필요가 있다. 법률이 사회적으로 요구되는 기본적인 원칙과 책임, 즉 ‘무엇을 지켜야 하는가’를 규정한다면, 기술표준과 시스템 설계는 이러한 원칙을 ‘어떻게 구현할 것인가’의 문제로 전환한다. 기술변화의 속도가 빠르고 시스템의 복잡성이 높은 AI 영역에서 법적 원칙과 기술표준, 그리고 시스템 설계를 하나의 거버넌스 체계 안에서 연결해야 하는 이유이다.
시민의 신뢰에서 글로벌 협력까지
AI 거버넌스의 범위는 정부와 기업의 관계에 머물 수 없다. AI가 사회적으로 수용되고 지속적으로 활용되기 위해서는 기술의 성능이나 법적 규제만큼이나 시민의 신뢰(citizen trust)가 중요하기 때문이다. 어떤 AI의 활용을 사회적으로 허용할 것인지, 개인정보를 어느 수준까지 활용할 수 있는지, 알고리즘의 판단에 어느 정도의 설명가능성과 인간의 개입을 요구할 것인지와 같은 문제에는 기술적 판단만으로 해결할 수 없는 사회적 가치의 선택이 포함되어 있다. 이러한 문제를 정부와 기업, 기술전문가만으로 결정한다면 정책의 기술적 타당성을 확보할 수는 있어도 충분한 사회적 정당성과 신뢰를 얻기는 어렵다.
따라서 시민사회와 이용자는 단순히 AI의 위험을 감시하거나 정책 결정 이후 의견을 제시하는 대상에 머물러서는 안 된다. 사회적으로 수용 가능한 AI의 기준을 형성하고, 새로운 위험과 부작용을 발견하며, 기술의 발전 방향에 사회적 가치가 반영될 수 있도록 하는 거버넌스의 중요한 주체가 되어야 한다. 특히 AI에 대한 신뢰는 기술이 완벽하게 안전하다는 믿음에서 만들어지는 것이 아니라, 문제가 발생했을 때 이를 확인하고 이의를 제기하며 책임을 물을 수 있고 필요한 경우 정책과 시스템을 수정할 수 있다는 제도적 확신에서 형성된다. 이러한 의미에서 시민의 참여와 신뢰는 AI 혁신을 제약하는 요소라기보다 지속가능한 AI의 사회적 기반이라고 할 수 있다.
AI 거버넌스는 동시에 국가의 경계를 넘어설 수밖에 없다. AI 모델과 서비스는 한 국가에서 개발되어 다른 국가의 이용자에게 거의 동시에 제공될 수 있으며, 데이터와 콘텐츠 역시 국경을 넘어 이동한다. 이러한 의미에서 AI 서비스는 처음부터 글로벌한 성격을 갖는다고 할 수 있다. 한 국가에서 만들어진 AI 시스템의 편향이나 안전성 문제, 개인정보 침해와 저작권 문제, 허위정보와 사이버 위험이 다른 국가와 사회로 빠르게 확산될 수 있기 때문에 AI의 위험 역시 국경 안에 머물지 않는다. 국가별 규제만으로 글로벌 AI의 문제를 충분히 해결하기 어려운 근본적인 이유가 여기에 있다.
이러한 문제는 AI가 오늘날과 같은 사회적 영향력을 갖기 이전부터 제기되어 왔다. 『초지능의 물결』(2019)에서도 인공지능의 발전과 통제의 문제가 특정 기업이나 국가만의 문제가 될 수 없으며, 그 위험이 현실화될수록 국제사회의 공동대응이 필요하다는 점을 지적한 바 있다. 특히 인공지능의 소유와 통제가 경제적 이해관계를 넘어 국가안보와 국제질서의 문제로 발전할 가능성을 고려하면, 인터넷 거버넌스와 같이 다양한 국가와 이해관계자가 참여하는 개방적인 거버넌스 체계를 모색할 필요가 있다는 문제를 제기하였다(현대원, 2019). 생성형 AI와 글로벌 AI 플랫폼이 현실이 된 지금 이러한 문제는 더 이상 미래의 초지능만을 가정한 논의에 머물지 않는다.
물론 글로벌 AI 거버넌스가 하나의 세계정부나 단일한 국제규제를 의미하는 것은 아니다. 국가마다 법체계와 사회적 가치, 산업구조와 안보상의 이해관계가 다르기 때문에 모든 AI 문제에 동일한 규칙을 적용하는 것은 현실적으로도 어렵다. 중요한 것은 국가별 규제를 유지하면서도 국경을 넘어 공통적으로 발생하는 위험에 대해서는 공동의 원칙과 기술표준을 마련하고, 안전성 평가와 위험정보를 공유하며, 어느 한 국가의 대응만으로 해결하기 어려운 문제에 대해서는 국제적인 협력체계를 구축하는 것이다.
결국 AI 거버넌스의 과제는 정부의 권한을 다른 주체에게 단순히 분산하는 데 있지 않다. 서로 다른 역량과 이해관계를 가진 주체들이 참여하면서도 각각의 역할과 책임이 분명하게 작동할 수 있는 구조를 만드는 것이 중요하다.
