AI 정책이 직면하는 가장 큰 어려움 가운데 하나는 정책을 결정해야 하는 시점에 기술의 발전 방향과 그 사회적 영향을 충분히 알기 어렵다는 점이다. 새로운 기술이 어떤 속도로 발전할 것인지, 어떤 산업과 서비스에서 먼저 확산될 것인지, 어떤 위험이 현실화될 것인지를 정확하게 예측하기 어렵다. 생성형 AI의 급속한 확산이 보여주었듯이 기술의 변화는 정책이 예상했던 범위와 속도를 넘어설 수 있으며, 새로운 기술이 등장한 이후에도 그 경제적·사회적 영향이 어떤 방향으로 전개될지는 상당한 시간이 지나야 확인되는 경우가 많다.

문제는 정책이 이러한 불확실성이 해소될 때까지 기다릴 수 없다는 데 있다. 위험이 충분히 확인된 이후에 개입하면 피해가 이미 광범위하게 발생했을 수 있지만, 반대로 위험이 명확하지 않은 단계에서 지나치게 강한 규제를 도입하면 아직 형성되지 않은 기술과 시장의 발전을 제약할 수 있다. 결국 AI 정책은 충분한 정보를 확보한 뒤 최적의 정책을 선택하는 전통적인 의사결정의 문제라기보다, 불완전한 정보 속에서 결정을 내리고 그 결과를 관찰하면서 정책을 계속 수정해 나가야 하는 문제에 가깝다.

이러한 특성은 정책설계(policy design)의 방식 자체를 바꿀 것을 요구한다. 전통적인 정책설계에서는 정책목표를 설정하고 이를 달성하기 위한 수단을 선택한 뒤 정책을 집행하고 그 결과를 평가하는 비교적 선형적인 과정을 상정해 왔다. 그러나 기술변화가 빠르고 미래의 영향에 대한 불확실성이 높은 AI 영역에서는 처음부터 완성된 정책을 설계한다는 접근에 한계가 있다. 현재의 기술과 위험을 기준으로 지나치게 세부적인 규칙을 만들 경우 기술이 변화하면서 규칙과 현실 사이의 간극이 빠르게 커질 수 있기 때문이다.

따라서 AI 정책에서는 정책을 하나의 완성된 제도로 보기보다 새로운 정보와 경험에 따라 수정할 수 있는 적응적 체계로 설계할 필요가 있다. 처음부터 모든 상황을 규정하기보다 우선 필요한 범위에서 개입하고, 정책의 효과와 예상하지 못했던 결과를 관찰하며, 새로운 위험과 기술변화가 나타나면 정책수단을 조정하는 방식이다. 규제 샌드박스와 시범사업, 단계적 규제, 정기적인 정책평가와 재검토, 일정 기간 이후 규제의 존속 여부를 다시 판단하는 장치 등은 이러한 접근을 구현할 수 있는 다양한 정책수단이다. 중요한 것은 특정 제도 자체가 아니라 정책을 수정할 수 있도록 처음부터 설계하는 것이다.

이러한 접근은 정책수단을 선택하는 방식에도 변화를 요구한다. 복잡한 정책문제를 하나의 규제수단으로 해결하기보다 규제와 지원, 정보제공과 기술표준, 인센티브와 자율규제 등 서로 다른 정책수단을 결합하는 정책조합(policy mix)이 중요해진다. 정책수단은 서로 독립적으로 작동하지 않으며 하나의 수단이 다른 수단의 효과를 강화하거나 반대로 약화시킬 수도 있다. 따라서 좋은 정책설계는 가능한 많은 정책수단을 사용하는 것이 아니라 서로 다른 수단들이 동일한 정책목표를 향해 일관되게 작동하도록 조합하는 데 있다. 정책수단 사이의 정합성과 상호보완성을 고려해야 한다는 정책조합의 관점이 중요한 이유이다(Howlett & Rayner, 2007).

AI 정책에서는 이러한 정책조합 역시 고정되어 있을 필요가 없다. 기술의 성숙도와 위험의 수준에 따라 정책수단의 강도와 조합을 변화시킬 수 있다. 새로운 기술의 가능성과 위험이 충분히 확인되지 않은 초기 단계에서는 정보공개와 모니터링, 자율적 기준과 실험적 제도를 중심으로 접근하고, 위험이 보다 명확해지거나 사회적 영향이 커지면 인증과 감사, 법적 의무와 같은 보다 강한 정책수단을 추가할 수 있다. 반대로 기존 규제가 기술변화로 인해 필요성을 잃거나 혁신을 불필요하게 제한한다면 이를 수정하거나 폐지할 수도 있어야 한다. 정책의 안정성만큼이나 변화할 수 있는 능력 자체가 정책의 중요한 역량이 되는 것이다.

그러나 적응성과 유연성만을 강조하는 데에도 위험이 있다. 정책이 상황에 따라 계속 달라질 수 있다면 기업과 시민은 정부가 어떤 기준에 따라 판단하는지 예측하기 어렵고, 정책결정자의 재량이 지나치게 커질 수도 있다. 기술변화에 신속하게 대응한다는 이유로 정책의 기본방향까지 수시로 달라진다면 오히려 시장의 불확실성을 높이고 사회적 신뢰를 약화시킬 수 있다. 따라서 변화할 수 있는 정책에는 동시에 변화하지 않아야 할 기준이 필요하다.

바로 이 지점에서 원칙에 기반한 정책(principles-based policy)의 중요성이 나타난다. AI처럼 기술의 형태와 활용방식이 빠르게 변화하는 영역에서는 모든 가능한 상황을 사전에 세부적인 규칙으로 정하기 어렵다. 특정 기술이나 서비스의 형태를 기준으로 규칙을 만들면 새로운 기술이 등장할 때마다 규제의 공백이나 중복이 발생할 수 있다. 반면 인간의 안전과 권리, 책임성, 투명성, 인간의 통제와 같은 기본적인 원칙은 기술의 구체적인 형태가 변화하더라도 정책이 지향해야 할 방향을 제시할 수 있다.

원칙에 기반한 정책은 규칙을 없애거나 기업의 자율에 맡기는 것을 의미하지 않는다. 오히려 원칙은 정책이 지켜야 할 방향을 제시하고, 규칙과 기술표준은 그 원칙을 구체적인 상황에서 구현하는 역할을 담당한다. 예를 들어 인간의 통제라는 원칙이 있다면 의료, 금융, 교육, 국방 등 각각의 영역에서 인간이 언제 개입해야 하고 어떤 결정을 AI에 맡길 수 있는지는 서로 다르게 설계될 수 있다. 개인정보 보호나 투명성 역시 모든 AI에 동일한 절차를 적용하기보다 위험의 수준과 활용환경에 따라 구체적인 의무와 기술적 기준을 달리할 수 있다.

이러한 접근은 원칙과 규칙을 서로 대립적인 것으로 볼 필요가 없다는 점을 보여준다. 원칙만으로는 실제 행동의 기준이 불분명할 수 있고, 세부적인 규칙만으로는 빠르게 변화하는 기술환경에 대응하기 어렵다. 따라서 기본적인 가치와 책임은 비교적 안정적인 원칙으로 제시하되, 이를 구현하는 규칙과 기술표준, 정책수단은 기술과 사회의 변화에 따라 수정할 수 있도록 설계하는 것이 필요하다. 원칙은 정책의 방향을 안정시키고, 적응성은 그 방향을 현실의 변화에 맞게 구현하도록 한다.

결국 불확실성 시대의 AI 정책설계에서 중요한 것은 미래를 정확하게 예측하는 능력만이 아니다. 오히려 예측이 틀릴 수 있다는 사실을 정책설계의 출발점으로 받아들이는 것이 중요하다. 처음부터 완벽한 규칙을 만드는 대신 변화하는 기술과 위험을 관찰하고 정책의 효과를 학습하면서 필요한 경우 정책수단을 수정할 수 있어야 한다. 동시에 이러한 변화가 자의적인 정책변경으로 이어지지 않도록 인간의 권리와 안전, 책임성과 투명성 등 지속적으로 지켜야 할 원칙을 분명하게 설정해야 한다.

따라서 AI 시대의 좋은 정책은 가장 많은 규칙을 가진 정책도, 가장 유연한 정책도 아니다. 지켜야 할 원칙은 분명하게 유지하면서 이를 구현하는 정책수단은 변화하는 환경에 맞추어 조정할 수 있는 정책, 다시 말해 원칙에 기반하면서도 적응할 수 있는 정책이어야 한다. 불확실성을 제거하려 하기보다 불확실성 속에서도 학습하고 수정할 수 있는 정책체계를 만드는 것, 이것이 빠르게 변화하는 AI 시대에 요구되는 정책설계의 핵심이다.