트럼프, 프런티어 AI에 ‘자발적 사전 검증’ 도입…혁신과 안보 사이 새 균형점 찾는다

도널드 트럼프 미국 대통령이 2026년 6월 2일 인공지능 혁신과 사이버보안을 동시에 겨냥한 새 행정명령에 서명했다. 명령의 제목은 “첨단 인공지능 혁신과 안보 촉진”이다. 표면적으로는 친혁신 기조를 강조하지만, 내용을 들여다보면 미국 정부가 최첨단 AI 모델, 이른바 프런티어 모델의 안보 위험을 더 체계적으로 들여다보겠다는 선언에 가깝다.

이번 행정명령의 핵심은 두 가지다. 첫째, 연방정부와 핵심 인프라의 사이버 방어에 AI를 적극 활용한다. 둘째, 일정 수준 이상의 고도화된 AI 모델에 대해 정부가 비공개 벤치마킹과 사전 평가를 수행할 수 있는 자발적 협력 체계를 만든다. 다시 말해 미국은 AI 혁신을 막는 강제 허가제는 피하되, 국가안보에 영향을 미칠 수 있는 모델에 대해서는 정부가 출시 전 최대 30일간 접근해 평가할 수 있는 틀을 마련하려 한다.

이번 명령은 트럼프 행정부의 AI 정책이 단순한 규제 완화에서 한 단계 이동하고 있음을 보여준다. 트럼프 대통령은 명령문에서 이전 행정부의 과도한 규제가 미국 AI 개발자와 연구자를 억눌렀다고 비판했다. 동시에 첨단 AI 역량이 국가를 강하게 만들지만, 새로운 국가안보 고려사항을 낳고 있다고 밝혔다. 즉, 미국의 기본 노선은 여전히 “규제로 혁신을 질식시키지 않겠다”는 것이지만, 프런티어 AI가 사이버공격·핵심 인프라·지식재산 탈취와 결합할 경우에는 정부 차원의 조율이 필요하다는 판단이다.

무엇을 지시했나

행정명령은 먼저 미국 정부 시스템의 사이버 방어 강화를 요구했다. 국가안보시스템을 관할하는 국가안보시스템위원회는 30일 안에 관련 사이버 방어 조치를 우선순위에 올려야 한다. 국방 영역을 담당하는 부처도 같은 기간 안에 정보시스템 방어를 우선해야 한다. 민간 연방정부 시스템에 대해서는 국토안보부 산하 사이버보안·인프라보안국, 즉 CISA가 예산관리국, 국가안보보좌관, 국가사이버국장과 협의해 구속력 있는 운영지침과 관련 가이던스를 내도록 했다.

여기서 중요한 표현은 “AI-enabled defensive tools”다. 미국 정부는 AI를 위험 요소로만 보지 않는다. 오히려 AI를 활용해 연방정부와 핵심 인프라의 취약점을 더 빠르게 발견하고, 방어 체계를 강화하려 한다. 농촌 병원, 지역 은행, 지방 공공시설 같은 핵심 인프라 운영자도 필요한 경우 사이버보안 도구와 서비스에 접근할 수 있도록 지원한다는 내용이 포함됐다. 이는 AI 보안 정책이 빅테크와 연방기관만의 문제가 아니라, 지역사회 기반 인프라까지 확장되고 있음을 보여준다.

행정명령은 또 재무부 장관이 국가사이버국장, NSA, CISA와 협의해 ‘AI 사이버보안 클리어링하우스’를 구성하도록 했다. 이 기구는 AI 업계와 핵심 인프라 운영자와의 자발적 협력을 통해 소프트웨어 취약점 스캔, 취약점 발견과 검증, 패치 배포와 우선순위 조정을 담당한다. 쉽게 말해 AI를 활용한 취약점 탐지와 패치 대응을 민관 합동으로 조율하는 허브를 만들겠다는 것이다.

‘covered frontier model’이 핵심이다

이번 명령에서 가장 중요한 개념은 ‘covered frontier model’이다. 이는 행정명령의 적용 대상이 되는 고도화된 프런티어 AI 모델을 의미한다. 명령은 재무부, 국방 관련 기관, NSA, CISA, 국가사이버국장, 과학기술보좌관, 상무부 산하 NIST 등이 협력해 AI 모델의 고급 사이버 역량을 평가하는 기밀 벤치마킹 절차를 개발·유지하도록 했다.

이 절차의 목적은 특정 AI 모델이 어느 수준에 도달했을 때 covered frontier model로 지정돼야 하는지를 판단하는 것이다. 지정 판단은 NSA 국장이 국가사이버국장, 과학기술보좌관, CISA 국장 등과 협의해 내리도록 했다. 이 구조는 미국 정부가 프런티어 AI를 단순한 산업 기술이 아니라 사이버 역량을 가진 잠재적 전략 자산으로 보기 시작했다는 점을 보여준다.

다만 이 제도는 강제 허가제가 아니다. 행정명령은 AI 개발자가 연방정부와 자발적으로 협력할 수 있는 프레임워크를 만들도록 했다. 개발자는 자신들이 개발 중인 모델이 covered frontier model에 해당하는지 정부와 논의할 수 있다. 또한 해당 모델을 신뢰할 수 있는 파트너에게 공개하기 최대 30일 전까지, 적절한 비밀유지·사이버보안·내부자 위험·지식재산 보호 조건 아래 연방정부에 접근권을 제공할 수 있다.

이 대목은 산업계와 정부 사이의 타협 지점이다. 미국 정부는 출시 전 평가 권한을 원한다. AI 기업은 강제 허가제나 사전 승인 제도를 원하지 않는다. 행정명령은 이 갈등을 “자발적 프레임워크”라는 형식으로 봉합했다. 그러나 자발적이라고 해서 영향력이 약하다고 보기는 어렵다. 국가안보, 정부 조달, 핵심 인프라 협력, 공공 신뢰가 걸린 상황에서 주요 AI 기업이 이 틀을 무시하기는 쉽지 않다.

강제 규제는 피했지만, 사실상 ‘소프트 거버넌스’가 시작됐다

이번 행정명령은 명시적으로 정부의 강제 라이선스, 사전 승인, 허가 요건을 만들지 않는다고 밝혔다. 이는 트럼프 행정부가 AI 산업에 보내는 정치적 신호다. 미국은 중국과의 AI 경쟁에서 속도를 잃지 않겠다는 것이다. 개발·출시·배포를 정부가 일일이 허가하는 방식은 미국의 AI 우위를 약화시킬 수 있다는 판단이 깔려 있다.

그러나 동시에 이번 명령은 AI 기업에 새로운 압력을 만든다. 프런티어 모델이 사이버공격 자동화, 취약점 발굴, 악성코드 생성, 핵심 인프라 침투 지원 등 고위험 기능을 가질 수 있다는 우려가 커지는 상황에서, 정부와 협력하지 않는 기업은 안보 책임을 회피한다는 비판에 직면할 수 있다. 형식은 자발적이지만, 현실에서는 사실상 업계 표준으로 작동할 가능성이 있다.

이것이 ‘소프트 거버넌스’다. 법률로 강제하지 않지만, 정부 벤치마킹, 신뢰 파트너 선정, 출시 전 접근권, 사이버보안 협력, 핵심 인프라 보호라는 제도적 장치를 통해 기업 행동을 유도하는 방식이다. 미국은 AI 모델 개발을 직접 통제하기보다, 국가안보 영역에서 협력하지 않을 수 없는 환경을 만들고 있다.

AI를 막는 것이 아니라, AI로 방어하겠다는 전략

이번 행정명령의 또 다른 특징은 AI를 위험으로만 보지 않는다는 점이다. 명령은 AI를 활용한 방어 역량을 강화하겠다는 내용을 반복한다. 연방정부 정보시스템의 방어, 취약점 탐지, 패치 조율, 핵심 인프라 보호, 사이버보안 인력 확충이 모두 포함됐다.

이는 AI 보안 정책의 초점이 바뀌고 있음을 의미한다. 초기 AI 규제 논의는 주로 모델의 위험성, 허위정보, 편향, 개인정보 침해, 안전성 평가에 집중했다. 그러나 이번 명령은 사이버보안을 전면에 놓는다. AI가 공격자에게 강력한 도구가 될 수 있다면, 방어자 역시 AI를 활용해야 한다는 논리다.

특히 취약점 탐지 분야에서 AI의 역할은 커질 가능성이 높다. 대규모 코드베이스와 복잡한 소프트웨어 공급망에서 인간이 모든 취약점을 수동으로 찾는 것은 어렵다. AI 모델은 코드 패턴을 분석하고, 알려지지 않은 취약점 후보를 찾고, 패치 우선순위를 제안하는 데 활용될 수 있다. 미국 정부가 AI 사이버보안 클리어링하우스를 만들려는 이유도 여기에 있다. AI 시대의 방어는 개별 기관의 독립 대응만으로는 부족하다. 취약점 발견, 검증, 패치 배포가 국가 차원의 속도로 움직여야 한다.

법 집행도 강화된다

행정명령은 법무부에도 분명한 메시지를 보냈다. 법무장관은 AI를 활용해 컴퓨터에 불법 접근하거나, 무단으로 시스템을 손상하거나, 불법 접근을 통해 다른 범죄를 저지르는 행위에 대해 연방 형사법 집행을 우선시해야 한다. 명령문에는 신원사기, 컴퓨터 사기와 남용, 통신사기 관련 조항이 언급됐다.

이는 AI 에이전트 시대의 범죄 양상을 겨냥한다. 앞으로 공격자는 단순히 사람이 직접 해킹하는 방식에 머물지 않을 수 있다. AI 에이전트를 이용해 대량의 취약점을 탐색하고, 권한 없는 시스템에 접근하고, 탈취한 데이터를 사기나 협박, 산업스파이 활동에 활용할 수 있다. 행정명령은 이런 행위를 기존 형사법 체계 안에서 적극적으로 처벌하겠다는 신호다.

중요한 점은 “AI를 사용했다”는 사실이 면책 사유가 아니라는 것이다. 오히려 AI를 활용해 불법 접근을 자동화하거나 범죄를 확장했다면 법 집행의 우선 대상이 될 수 있다. 이는 기업과 개발자에게도 경고가 된다. AI 에이전트를 활용한 보안 테스트와 자동화가 합법적 권한 범위를 벗어나는 순간, 형사 리스크로 전환될 수 있다.

산업계에는 기회와 부담이 동시에 온다

AI 기업 입장에서는 이번 행정명령이 양면적이다. 한편으로는 강제 허가제가 배제됐다는 점에서 규제 부담이 제한적이다. 출시 전 정부 승인 없이는 모델을 배포할 수 없다는 방식이 아니기 때문이다. 이는 미국 AI 산업의 속도를 유지하려는 조치로 볼 수 있다.

다른 한편으로는 대형 AI 기업이 정부와 더 깊은 관계를 맺어야 하는 시대가 열렸다. covered frontier model에 해당할 가능성이 있는 모델을 개발하는 기업은 정부의 기밀 벤치마킹, 사전 접근, 신뢰 파트너 선정 과정에 참여할 압력을 받을 수 있다. 특히 공공부문, 국방, 금융, 에너지, 의료 등 핵심 인프라 시장을 노리는 기업이라면 정부 협력은 사실상 경쟁력의 일부가 될 수 있다.

이는 AI 시장의 진입장벽을 높일 가능성도 있다. 대형 기업은 정부 대응 조직, 보안 인프라, 법무팀, 정책팀, 내부자 위험 관리 체계를 갖추고 있다. 반면 스타트업은 이런 요구에 대응하기 어렵다. 비록 자발적 프레임워크라 하더라도, 프런티어 모델을 개발하는 기업에게는 사실상 규제 준수 역량이 중요한 경쟁 요소가 될 수 있다.

한국과 글로벌 시장에 주는 시사점

이번 행정명령은 미국 국내 정책이지만, 글로벌 AI 질서에도 영향을 줄 가능성이 크다. 미국은 세계 주요 AI 기업과 클라우드 인프라, 반도체 생태계를 보유하고 있다. 미국 정부가 프런티어 모델에 대해 기밀 벤치마킹과 사전 사이버 평가 체계를 만들면, 이는 사실상 글로벌 표준 논의의 출발점이 될 수 있다.

한국 기업과 정책당국도 주목해야 한다. 생성형 AI 도입이 기업 내부 업무, 금융, 의료, 공공서비스, 국방, 통신 인프라로 확대될수록 AI 모델의 성능만이 아니라 사이버 역량과 오남용 가능성까지 평가해야 한다. 특히 AI 에이전트가 실제 시스템에 접근해 작업을 수행하는 시대에는 모델 보안, 접근권한, 감사 로그, 취약점 탐지, 사고 대응 체계가 함께 설계돼야 한다.

또 하나의 시사점은 공공 AI 조달이다. 앞으로 정부와 공공기관은 AI 서비스를 구매할 때 단순히 모델 성능이나 가격만 보지 않을 가능성이 크다. 해당 모델이 어떤 보안 평가를 거쳤는지, 취약점 대응 체계를 갖췄는지, 정부와 신뢰할 수 있는 방식으로 협력할 수 있는지, 핵심 인프라 환경에서 안전하게 배포될 수 있는지가 중요한 기준이 될 수 있다.

미국 AI 정책의 중심이 ‘규제냐 혁신이냐’에서 ‘안보형 혁신’으로 이동했다

이번 행정명령은 미국 AI 정책의 방향 변화를 보여준다. 트럼프 행정부는 여전히 과도한 규제를 거부한다. 강제 허가제도 만들지 않는다. 그러나 프런티어 AI가 사이버 역량과 결합하는 순간, 그것은 더 이상 민간 기술 제품만이 아니다. 국가안보, 핵심 인프라, 지식재산, 범죄 대응과 연결되는 전략 자산이 된다.

따라서 이번 명령의 핵심은 규제 강화냐 완화냐의 이분법이 아니다. 미국은 혁신 속도를 유지하면서도, 가장 강력한 모델에 대해서는 정부가 보이지 않는 평가와 조율 체계를 갖추려 한다. 이것이 이번 행정명령이 보여주는 새로운 균형점이다.

AI 시대의 경쟁은 모델 성능 경쟁만으로 끝나지 않는다. 누가 더 안전하게 배포할 수 있는가. 누가 사이버공격에 더 강한 인프라를 만들 수 있는가. 누가 정부와 산업계, 핵심 인프라를 연결하는 신뢰 체계를 구축할 수 있는가가 중요해지고 있다.

트럼프 행정부의 이번 행정명령은 그 변화를 공식화했다. 미국은 AI를 규제로 묶기보다 안보 체계 안으로 끌어들이려 한다. 프런티어 AI 기업들에게 주어진 메시지는 분명하다. 혁신은 계속하라. 그러나 가장 강력한 모델은 더 이상 완전히 민간의 영역에만 머물 수 없다.