챗봇에서 에이전틱 국가로: 에스토니아 뷰로크라트(Bürokratt)의 실험

[에스토니아 탈=현대원 칼럼리스트] “정부 서비스를 받기 위해 시민이 어느 부처가 무슨 일을 하는지 알아야 하는 것일까?” 에스토니아 정보시스템청(RIA)에서 국가 AI 비서이자 디지털 행정 서비스 플랫폼인 뷰로크라트(Bürokratt)의 총괄 책임자인 라스무스 에임라(Rasmus Eimla)를 만나 이야기를 나누면서 계속 머릿속에 남았던 질문이다.

뷰로크라트의 궁극적인 비전은 의외로 단순하다. 시민이 어느 부처가 어떤 일을 담당하는지 몰라도 하나의 창구를 통해 정부에 질문하고 서비스를 받을 수 있게 하자는 것이다. 그러나 이 단순한 목표를 구현하는 기술은 지난 몇 년 사이 근본적으로 달라졌다.

뷰로크라트가 시작될 당시에는 지금과 같은 생성형 AI가 존재하지 않았다. 초기 시스템은 시민이 어떤 질문을 할 것인지를 미리 예상하고, 질문의 의도(intent)를 분류한 뒤 준비된 답변을 제공하는 방식이었다. 문제는 많은 수작업이 필요했다는 것이다. 가능한 질문을 예상하고, 의도(intent)를 분류하고, 학습시키고, 답변을 관리해야 했다. 공공기관 입장에서는 상당한 시간과 노력이 필요했지만 그에 비해 얻는 효용은 제한적이었다.

그러던 중 LLM이 등장했다. 뷰로크라트도 달라지기 시작했다. 이제 기관이 관리하는 웹사이트와 공식 자료를 지식 기반으로 활용하고, RAG(Retrieval-Augmented Generation)를 통해 시민의 자연어 질문에 답할 수 있게 됐다. 중요한 것은 AI가 아무 지식이나 이용하지 않는다는 점이다. 각 기관이 제공하고 관리하는 통제된 정보원(controlled sources)​을 기반으로 답하도록 설계한다. 알지 못하는 질문에는 임의로 답을 만들어내기보다 모른다고 답하고 다른 방식의 문의를 안내한다.

흥미롭게도 이 과정에서 예상하지 못했던 효과도 나타났다. 기관들이 자신의 웹사이트와 자료를 AI의 지식 기반으로 넣어 테스트하면서 기존 정보의 오류와 모순을 발견하기 시작한 것이다. AI를 도입했더니 AI의 문제가 아니라 기존 정부 정보의 품질 문제가 드러난 것이다. 결국 AI가 정부의 기존 정보체계를 비추는 거울 역할을 하기 시작했다.

뷰로크라트에서 더욱 흥미로운 것은 그 구조다. 에스토니아는 모든 정부기관의 정보를 하나의 거대한 AI 지식베이스에 넣으려 하지 않는다. 각 기관은 자신의 뷰로크라트를 운영하고 자신의 지식에 책임을 진다. 이것은 에스토니아 디지털정부가 오랫동안 유지해 온 분산형 철학과 닮아 있다. RIA는 현재 여러 공공기관에서 뷰로크라트가 실제 사용되고 있으며, 개별 기관의 뷰로크라트를 서로 연결하고 향후 AI 에이전트들이 협력할 수 있는 네트워크로 발전시키고 있다고 설명한다.

예를 들어 시민이 A기관의 뷰로크라트에게 질문했지만 실제로는 B기관이 담당하는 문제라면 시스템이 이를 판단해 B기관의 뷰로크라트로 연결한다. 시민은 정부조직도를 알 필요가 없다. 그러나 뒤에서는 각 기관의 책임과 전문성이 그대로 유지된다. 즉 시민에게는 하나의 정부처럼 보이지만, 정부 내부의 데이터와 책임까지 하나로 중앙집중시키지는 않는 것이다.

Answering에서 Acting으로

에스토니아의 새로운 비전인 에이전틱 국가(Agentic State)의 본질은 질문에 대답(Answering)의 수준을 넘어 실질적인 행위(Acting)로의 전환이라고 본다. 현재의 생성형 AI는 주로 질문에 답한다. 그러나 AI 에이전트는 목표를 부여받으면 필요한 정보를 찾고 다른 시스템과 통신하며 일련의 업무를 수행한다. 정부에 적용하면 변화의 의미는 더욱 크다.

지금까지 시민은 자신이 무엇을 해야 하는지를 알고 정부 사이트를 찾아가 신청서를 작성하고 필요한 서류를 제출해야 했다. 에이전틱 국가에서는 이 관계가 뒤집힐 수 있다. 시민이 목표만 말하면 AI 에이전트가 필요한 정부기관을 찾아가고 데이터를 확인하고 필요한 절차를 수행한다. 에스토니아가 추진하고 있는 아루아이트(Aruait, 영어로 Reason Reserve) 프로젝트가 바로 이 미래를 준비하는 실험이다.

RIA는 아루아이트의 목적을 자율적으로 행동하는 AI 에이전트를 공공부문에서 안전하게 활용하기 위한 법적·기술적·거버넌스 기반을 만드는 것이라고 설명한다. 여기서 흥미로운 사실은 현재 에스토니아의 정보시스템도 데이터를 교환할 수는 있지만 AI 에이전트에게 안전하게 업무를 위임하고, 권한을 부여하고, 에이전트끼리 신뢰할 수 있는 방식으로 대화하고, 시민을 대신해 법적 효력이 있는 행위를 수행하게 하는 체계는 아직 갖추지 못했다는 점이다.

그래서 아루아이트는 새로운 문제를 다룬다. AI 에이전트는 누구인가. 누가 그 에이전트에게 권한을 주었는가. 어디까지 행동할 수 있는가. 그 권한은 언제든 철회할 수 있는가. 잘못 행동하면 누가 책임지는가.

RIA는 이를 위해 AI 에이전트의 신원을 확인하고 시민이나 기업이 제한적이고 추적·철회 가능한 권한을 부여할 수 있도록 하는 ‘Identity 2.0 for Machines’ 체계를 연구하고 있다. 또한 공공·민간의 AI 에이전트를 등록하고 신뢰성을 검증하는 일종의 공적 등록·검증체계인 ‘AI Agent Trust Registry’, 그리고 서로 다른 에이전트들이 안전하게 소통하고 협력할 수 있도록 하는 상호운용 표준도 함께 개발하고 있다.

에이전틱 국가(Agentic State)의 가장 어려운 문제는 정작 AI가 아니다. 인터뷰에서 나는 라스무스(Rasmus) 총괄책임자에게 물었다. “그렇다면 언제쯤 에스토니아는 Agentic State가 되는가. 2030년 정도인가?” 그는 웃으며 누구도 아직 그렇게 구체적인 로드맵을 제시할 만큼 용감하지 않다고 답했다.

이 대답이 오히려 인상적이었다. 기술적으로 가능하다고 국가가 바로 시행할 수 있는 것은 아니기 때문이다. 법적 문제가 있다. 사이버보안 문제가 있다. AI에게 시민의 권한을 어디까지 위임할 것인가라는 문제가 있다. 책임의 문제가 있다. 그리고 무엇보다 사람이 있다.

이미 일부 사람들은 자신이 만든 AI 에이전트에게 인증정보나 PIN까지 제공하려 한다는 이야기도 들었다. AI를 전혀 믿지 않는 사람도 있지만, 반대로 지나치게 믿는 사람도 있다. 결국 에이전틱 국가가 해결해야 할 문제는 단순한 AI 성능의 문제가 아니다. AI가 무엇을 할 수 있는가에서 시작하지만, 결국 누가 그 행동을 허용하고 누가 책임지며 시민이 어느 정도 신뢰할 수 있는가의 문제로 이동한다.

Digital State에서 Agentic State로

에스토니아의 경험을 살펴보면 디지털정부의 진화를 하나의 흐름으로 볼 수 있다. 온라인으로 공공서비스를 제공하는 디지털 정부는 데이터 연계를 기반으로 시민이 일일이 서비스를 찾아 신청하지 않아도 필요한 서비스를 먼저 파악해 제공하는 ‘선제적 행정(Proactive Government)’으로 발전해 왔다. 여기에 최근 LLM과 RAG가 결합되면서 시민의 자연어 질문과 요구를 이해하고 적절한 정보와 서비스를 연결하는 ‘AI 기반 정부(AI-enabled Government)’로 진화하고 있다. 그리고 그 다음 단계인 ‘에이전틱 국가(Agentic State)’에서는 시민이 권한을 위임한 AI 에이전트가 여러 정부 시스템과 상호작용하며 시민을 대신해 실제 행정업무를 수행하게 된다.

하지만 단계가 올라갈수록 더 중요한 것이 있다. 바로 거버넌스다. AI가 단순히 정보를 제공할 때보다 시민을 대신해 행동할 때 훨씬 강력한 신원·권한·책임·보안체계가 필요하기 때문이다. 그래서 에스토니아의 에이전틱 국가 실험이 흥미로운 것은 세계에서 가장 뛰어난 LLM을 개발하고 있기 때문이 아니다. 오히려 그 반대다. 에스토니아는 지난 20여 년 동안 구축한 디지털 신원, 데이터 상호운용성, 분산된 책임체계, 사이버보안과 제도적 신뢰라는 기반 위에서 AI가 국가 시스템 안에서 실제로 행동하려면 어떤 새로운 거버넌스가 필요한가를 실험하고 있다.

이것은 에스토니아만의 문제가 아니다. AI 에이전트가 보편화되면 모든 국가가 결국 같은 질문과 마주하게 될 것이다. AI가 나를 대신해 세금을 신고하고, 허가를 신청하고, 의료서비스를 예약하고, 정부와 소통하게 된다면 국가는 그 AI를 어떻게 신뢰할 것인가. AI가 잘못된 결정을 내렸다면 책임은 시민에게 있는가, AI 개발자에게 있는가, 서비스를 제공한 정부기관에 있는가. 그리고 국가가 AI에게 허용해서는 안 되는 마지막 영역은 어디인가.

탈린에서 확인한 것은 에이전틱 국가가 먼 미래의 추상적인 개념만은 아니라는 사실이었다. 그러나 동시에 그것은 단순히 더 뛰어난 AI 모델을 개발한다고 도달할 수 있는 미래도 아니다. AI가 고도화될수록 국가의 과제는 더 좋은 기술을 확보하는 데서, 그 기술에 어떤 권한을 부여하고 어떻게 책임지게 할 것인가라는 거버넌스의 문제로 이동한다. 에스토니아의 뷰로크라트와 아루아이트의 실험은 그 전환이 이미 시작되고 있음을 보여준다.