국가안보는 AI 기업을 침묵시키는 면허가 아니다

AI 기업과 정부의 관계가 새로운 국면에 들어섰다.

미국 캘리포니아 북부연방지방법원은 Anthropic이 미국 정부를 상대로 낸 소송에서 Anthropic의 손을 들어줬다. 법원은 트럼프 대통령과 피트 헤그세스 전쟁부 장관이 Anthropic을 국가안보상 공급망 위험으로 지정하고, 모든 연방기관에 Anthropic 제품 사용을 중단하도록 지시하며, 방산업체들에게도 Anthropic과 거래하지 못하도록 한 조치가 위법하다고 판단했다.

표면적으로 이 사건은 정부 조달과 국가안보, AI 공급망 리스크에 관한 소송처럼 보인다. 그러나 판결문을 따라가면 본질은 더 선명해진다.

정부가 AI 기업의 기술을 신뢰하지 않아 특정 공급업체를 선택하지 않을 자유는 있다. 하지만 기업이 정부의 AI 사용 방식에 공개적으로 문제를 제기했다는 이유로, 그 기업을 국가안보 위협으로 낙인찍고 연방정부 전체와 방산 생태계에서 사실상 배제할 수는 없다는 것이다.

법원은 이를 명확히 표현했다.

“국가안보라는 공허한 호출은 정부 비판자를 처벌하고 보복하기 위한 백지수표가 아니다.”

이번 판결은 Anthropic 한 회사의 승소를 넘어선다. AI 시대 정부와 민간 기술기업 사이의 권력관계, AI 안전 논쟁의 정치화, 국가안보 명분의 한계, 그리고 프런티어 AI 기업의 표현의 자유가 어디까지 보호되는지를 보여주는 중요한 사건이다.

AI가 국방과 정보, 감시, 사이버 작전의 핵심 인프라가 될수록 정부는 AI 기업에 더 깊이 의존하게 된다. 동시에 AI 기업은 자신들의 모델이 어디까지 쓰여야 하는지, 어떤 용도는 위험한지, 어떤 안전장치가 필요한지 공개적으로 말할 수밖에 없다.

이번 판결은 바로 그 경계선을 다뤘다.

정부는 AI 기업의 모델을 선택하지 않을 수 있다.
그러나 정부 비판을 이유로 기업을 응징할 수는 없다.

Anthropic은 AI 개발, 안전, 정책 연구를 중심으로 성장한 기업이다. 대표 제품은 대규모 언어모델 Claude다. 판결문에 따르면 미국 정보기관과 국방기관은 2024년부터 Claude를 사용해왔고, 2025년 3월부터 전쟁부는 국가안보 사용자를 위한 전용 모델인 Claude Gov를 Anthropic의 파트너 플랫폼을 통해 사용했다. 또 2025년 7월에는 전쟁부 최고디지털·AI사무소가 Anthropic에 최대 2억 달러 규모의 2년 계약을 부여해 AI 역량을 통합·최적화하도록 했다.

관계는 처음부터 적대적이지 않았다.

Anthropic은 보안 심사를 거쳐 최고 수준의 시설보안 인가를 받았고, Claude는 FedRAMP High와 국방부 Impact Level 4·5 워크로드에 사용할 수 있는 인증을 받았다. 판결문은 도전받은 조치 이전에 전쟁부가 Anthropic을 공급망 위험으로 식별한 적이 없었다고 적었다.

갈등은 AI 사용 제한을 둘러싸고 본격화됐다.

2025년 가을, 전쟁부는 GenAI.mil 플랫폼에서 Claude를 새로 배포하는 문제를 논의하면서 Anthropic에 모든 사용 제한을 제거하고 “모든 합법적 사용”을 허용하는 계약 조항에 동의하라고 요구했다. Anthropic은 대부분의 제한을 없애는 데 동의했지만, 두 가지 사용만큼은 제한해야 한다고 버텼다.

치명적 자율무기.
미국인에 대한 대규모 감시.

Anthropic의 입장은 단순한 윤리적 선언이 아니었다. 회사는 Claude가 치명적 자율전쟁이나 미국인 대량감시에 안전하고 신뢰성 있게 쓰일 만큼 준비되지 않았다고 봤다. 판결문에 따르면 Anthropic은 AI가 미국인 감시에서 기존 법체계가 예상하지 못한 방식으로 가능성을 바꾸며, 사용자가 의도한 것보다 더 많은 미국인 정보를 수집하게 만들 수 있다고 우려했다. 치명적 자율전쟁 역시 오류가 가져올 결과가 너무 중대하다는 이유로 Claude의 현재 능력 밖이라고 판단했다.

정부의 시각은 달랐다.

전쟁부는 사기업이 군의 작전상 판단에 제한을 걸어서는 안 된다고 봤다. 헤그세스 장관은 전쟁부가 AI 서비스를 조달하는 모든 계약에 “any lawful use” 조항을 넣어야 한다는 입장이었다. 즉 법적으로 허용되는 군사 목적이라면 정부가 자유롭게 AI를 사용할 수 있어야 한다는 것이다.

여기까지는 계약 협상의 영역이다.

정부는 특정 조건을 받아들이지 않는 기업과 계약하지 않을 수 있다. Anthropic도 전쟁부가 자사의 조건을 받아들이지 못하겠다면 Claude를 질서 있게 오프보딩하는 데 협조하겠다고 여러 차례 밝혔다.

문제가 된 것은 그 다음이었다.

2026년 2월 27일 트럼프 대통령은 Truth Social에 Anthropic을 “radical left, woke company”라고 비난하며 모든 연방기관에 Anthropic 기술 사용을 즉시 중단하라고 지시했다. 약 한 시간 뒤 헤그세스 장관은 X에 글을 올려 Anthropic이 “arrogance and betrayal”을 보였고, 전쟁부는 Anthropic을 국가안보상 공급망 위험으로 지정한다고 밝혔다. 그는 또한 미국 군과 거래하는 어떤 계약자, 공급자, 파트너도 Anthropic과 어떤 상업활동도 해서는 안 된다고 선언했다.

이 조치의 범위는 매우 컸다.

연방정부 전체의 Anthropic 기술 사용 중단.
6개월 전환기간 이후 사실상 영구 배제.
전쟁부와 거래하는 방산업체들의 Anthropic 거래 금지.
군과 무관한 사업에서도 Anthropic과의 거래를 제한하는 2차 보이콧.

법원은 이 조치가 정부 조달 판단의 범위를 넘어섰다고 봤다. 전쟁부가 Anthropic 제품을 쓰지 않겠다고 결정하는 것과, 모든 연방기관과 방산업체 생태계에 Anthropic 배제를 명령하는 것은 다르다는 것이다.

정부는 이를 국가안보와 공급망 리스크로 포장했다. 하지만 판결문은 그 근거가 매우 빈약했다고 지적한다.

행정기록의 핵심은 4쪽짜리 Michael Memo였다. 이 문서는 Anthropic이 Claude의 작동을 중단시키거나, 전쟁 수행 중 모델 행동을 바꾸거나, 숨은 편향과 백도어를 포함시킬 위험이 있다고 봤다. 그러나 법원은 그 전제가 사실과 맞지 않는다고 판단했다.

판결문에 따르면 Anthropic은 전쟁부 시스템에 배포된 모델에 접근하거나, 이를 수정하거나, 중단시킬 기술적 수단이 없었다. 배포된 Claude 모델은 정적이며 스스로 변화하거나 성능이 저하되지 않는다. Claude 모델은 일반 소프트웨어처럼 업데이트되는 방식도 아니고, 새 모델을 훈련해 기존 모델을 완전히 대체해야 한다. 그때마다 제3자 클라우드 제공업체와 전쟁부가 보안 테스트와 독립 평가를 수행한다.

즉 정부가 주장한 핵심 위험, 다시 말해 Anthropic이 배포된 모델을 은밀하게 조작해 국방 작전을 방해할 수 있다는 우려는 뒷받침되지 않았다.

법원은 남은 근거가 사실상 “신뢰”뿐이라고 봤다. 정부는 Anthropic이 언론을 통해 점점 더 적대적 태도를 보였고, 전쟁부의 AI 사용 관점에 비판적이었기 때문에 모델의 무결성을 보장할 수 없다고 주장했다.

그러나 법원은 그 신뢰 부족이 헌법적 처벌의 근거가 될 수 없다고 판단했다.

Anthropic이 한 일은 정부의 AI 사용에 대해 공개적으로 문제를 제기한 것이다. 특히 대량감시와 치명적 자율전쟁에서 AI 안전장치가 필요하다는 입장을 밝힌 것이다. 이는 단순한 계약 조건 다툼을 넘어 중대한 공적 관심사에 대한 발언이다.

법원은 Anthropic의 발언이 수정헌법 제1조가 보호하는 표현이라고 봤다. AI 안전, 군사적 AI 사용, 감시와 민주주의의 관계는 공적 논쟁의 중심에 있는 사안이다. 기업이 정부와 계약 협상 중이라고 해서 그 주제에 대해 말할 권리가 사라지는 것은 아니다.

오히려 판결문은 정부가 Anthropic의 발언과 관점을 직접 문제 삼았다고 봤다.

트럼프 대통령은 Anthropic을 “woke company”와 “leftwing nut jobs”라고 불렀다. 헤그세스 장관은 Anthropic의 “effective altruism”과 “corporate virtue-signaling”, “Silicon Valley ideology”를 비난했다. Michael Memo도 Anthropic이 전쟁부와의 협상을 자기 홍보에 이용하고 언론을 통해 적대적으로 행동했다고 적었다.

법원은 이런 표현들이 Anthropic의 공개 발언과 관점을 문제 삼은 직접 증거라고 판단했다. 단순히 계약 조건이 맞지 않아 거래를 중단한 것이 아니라, 정부 비판을 공개적으로 했다는 이유로 기업을 본보기로 삼으려 했다는 것이다.

이 지점이 이번 판결의 핵심이다.

정부는 국가안보 분야에서 폭넓은 재량을 가진다. 그러나 그 재량은 비판자를 처벌하기 위한 도구가 될 수 없다. 법원은 정부가 “Anthropic을 공개적 본보기로 만들려는 욕구”에 따라 행동했다고 봤다.

특히 법원은 정부의 말과 행동이 서로 맞지 않는다고 지적했다.

도전받은 조치가 있기 며칠 전 헤그세스 장관은 Anthropic에 방위생산법 적용 가능성을 언급했다. 이는 Anthropic이 국가안보에 필수적이라는 의미이지, 국가안보 위협이라는 의미가 아니다. 조치 직후에도 전쟁부 고위관계자는 Anthropic과 계약 문안을 두고 “우리는 매우 가까워졌다”고 이메일을 보냈다. 이후에도 정부는 Anthropic의 새 모델 Mythos와 관련해 방어적 사이버보안 등 민감한 영역에서 협력 방안을 논의했다.

법원의 시각에서 이는 모순이었다.

정말 Anthropic이 미국의 적대자이고, 모델을 독살해 국가안보를 해칠 수 있는 기업이라면, 정부가 바로 다음 날 계약 협상을 계속하고 새 모델 협력을 논의하는 것은 설명하기 어렵다.

따라서 법원은 정부의 국가안보 논리가 진정한 이유라기보다 사후적 명분에 가깝다고 봤다.

이번 판결은 절차적 적법성 측면에서도 정부에 불리했다.

법원은 Anthropic이 적법절차 권리를 침해당했다고 판단했다. 정부가 Anthropic을 공급망 위험으로 낙인찍고 연방정부 및 방산업체와의 거래 가능성을 박탈하면서도, 사전에 의미 있는 통지와 반박 기회를 제공하지 않았다는 것이다.

정부는 국가안보를 이유로 사전 절차를 생략할 수 있다고 주장했지만, 법원은 일반적인 국가안보 언급만으로는 부족하다고 봤다. Anthropic은 미국 국내 기업이고, 연방정부 계약 사업에 중대한 이해관계를 갖고 있었다. 정부가 긴급성을 구체적으로 입증하지 못했다면, 최소한 어떤 근거로 위험 지정이 이뤄지는지 알리고 반박할 기회를 줬어야 한다는 것이다.

행정절차법 측면에서도 문제가 있었다.

전쟁부는 10 U.S.C. § 3252에 근거해 Anthropic을 공급망 위험으로 지정했다. 이 조항은 원래 국가안보 시스템에 사용되는 민감한 정보기술 조달에서, 적대자가 시스템을 사보타주하거나 악성 기능을 넣거나 설계·무결성·운영을 전복할 위험을 줄이기 위한 장치다.

법원은 Anthropic의 행위가 이 법률상 공급망 위험 정의에 맞지 않는다고 판단했다. 공개적으로 계약 조건을 주장하고 정부의 AI 사용에 문제를 제기하는 것은 은밀한 사보타주나 악성 코드 삽입과 다르다. 공급망 위험 지정은 적대적 행위나 시스템 전복 위험을 다루기 위한 것이지, 까다로운 계약 상대나 정부 정책에 비판적인 공급업체를 배제하는 도구가 아니라는 것이다.

더구나 전쟁부는 덜 침해적인 조치를 검토해야 한다는 법적 요건도 제대로 이행하지 않았다. 법원은 기록상 “덜 침해적인 수단이 합리적으로 이용 가능하지 않았다”는 문구는 있었지만, 실제로 어떤 대안을 검토했고 왜 충분하지 않았는지에 대한 논의가 없었다고 봤다.

결국 법원은 Anthropic의 수정헌법 제1조 청구, 적법절차 청구, 행정절차법상 청구를 대부분 받아들였다. 반면 대통령의 권한남용에 관한 일부 초헌법적 분리권력 주장은 받아들이지 않았다.

이 판결의 비즈니스적 의미는 작지 않다.

AI 기업은 이제 국방, 정보, 행정, 보건, 금융, 규제기관의 핵심 인프라 공급자가 되고 있다. 정부는 점점 더 AI 모델을 구매하고, 배포하고, 민감한 업무에 통합하려 한다. 이 과정에서 AI 기업은 단순한 소프트웨어 공급업체가 아니라, 국가 기능의 일부를 담당하는 민간 인프라가 된다.

그러나 AI 기업은 동시에 자신들의 모델이 어디까지 안전한지 가장 잘 아는 주체이기도 하다. 특정 용도에 대해 기술적 한계나 안전 우려를 말해야 한다. 특히 군사·감시·사이버 영역에서는 그 발언이 정치적으로 민감해질 수밖에 없다.

이번 판결은 AI 기업에게 하나의 신호를 준다.

정부와 계약한다고 해서 AI 안전에 관한 공적 발언권을 포기하는 것은 아니다. 기업이 정부의 요구를 무조건 수용하지 않는다고 해서 곧바로 국가안보 위협으로 낙인찍힐 수는 없다.

동시에 AI 기업에게도 부담을 준다.

AI 안전을 이유로 정부 사용을 제한하겠다면, 그 기준은 기술적 근거와 일관된 정책, 계약상 투명성을 갖춰야 한다. Anthropic이 이번 사건에서 설득력을 얻은 이유 중 하나는 치명적 자율전쟁과 미국인 대량감시라는 두 가지 제한을 비교적 좁고 명확하게 제시했기 때문이다. 또 전쟁부가 다른 공급업체를 선택하겠다면 전환을 돕겠다고 밝혔다는 점도 중요했다.

즉 AI 기업의 안전 원칙은 추상적 선언이 아니라, 실제 조달과 배포 환경에서 설명 가능한 정책이어야 한다.

정부 입장에서도 이번 판결은 경고다.

국가안보 조달에서 정부는 넓은 재량을 갖지만, 그 재량을 정치적 보복이나 공개 망신주기 방식으로 행사하면 법원의 심사를 피하기 어렵다. 특히 소셜미디어를 통한 즉흥적 지시와 공개적 낙인은 행정기록과 절차, 법적 권한의 한계를 드러내는 증거가 될 수 있다.

AI 산업 전반에도 파장이 있다.

판결문에 따르면 정부의 조치는 Anthropic뿐 아니라 정부 계약 생태계 전체에 냉각 효과를 만들었다. 방산업체와 기술기업들은 Anthropic이 들어간 API와 제품을 계속 써도 되는지 혼란에 빠졌고, AI 분야 주요 기업 직원들은 이런 조치가 AI 기술의 위험과 오용 가능성을 공개적으로 토론하는 분위기를 위축시킬 수 있다고 우려했다.

이는 AI 안전 논쟁에서 중요한 지점이다.

프런티어 AI의 위험을 가장 잘 아는 사람들은 종종 그 기술을 만드는 기업 내부와 협력 생태계에 있다. 이들이 정부 정책에 비판적 의견을 냈다는 이유로 공급망에서 배제될 수 있다면, AI 안전 논의는 침묵하게 된다. 그렇게 되면 정부도 더 위험한 기술을 더 적은 경고 속에서 사용하게 될 수 있다.

결국 이번 판결은 AI 시대 국가안보의 역설을 드러낸다.

정부는 안전한 AI를 원한다.
그러려면 AI 기업과 연구자들이 위험을 말할 수 있어야 한다.
그러나 위험을 말한 기업을 처벌하면, 안전 논의는 사라진다.
안전을 이유로 침묵을 강요하는 순간, 오히려 안전은 약해질 수 있다.

이 사건은 앞으로 반복될 가능성이 크다.

AI 모델은 국방 작전, 정보분석, 사이버방어, 감시, 행정 자동화, 무기체계 지원, 공공서비스에 더 깊게 들어갈 것이다. 정부는 “모든 합법적 사용”을 요구할 수 있고, AI 기업은 “기술적으로 아직 안전하지 않은 사용”을 거부할 수 있다. 이 충돌은 Anthropic만의 문제가 아니다.

OpenAI, Google DeepMind, Meta, xAI, Mistral, Cohere, 그리고 각국의 AI 기업 모두 같은 질문을 마주할 수 있다.

민간 AI 기업은 국가안보 고객에게 어디까지 사용 제한을 걸 수 있는가.
정부는 안전 우려를 제기한 공급업체를 어디까지 배제할 수 있는가.
AI 모델의 안전장치와 군사적 자율성은 어떻게 조정되어야 하는가.
계약 협상과 공적 발언은 어디서 구분되는가.
국가안보라는 명분은 어느 선까지 사법심사의 대상이 되는가.

이번 판결은 그 첫 번째 답을 제시한다.

정부는 원하는 AI 공급업체를 고를 수 있다.
그러나 AI 안전에 관한 비판을 이유로 기업을 처벌할 수는 없다.
국가안보는 중요하지만, 헌법 위에 있지는 않다.

AI 시대의 공급망은 더 이상 반도체, 서버, 클라우드만의 문제가 아니다. 모델의 가치관, 안전정책, 사용제한, 기업의 공적 발언까지 공급망 리스크 논쟁 안으로 들어오고 있다. 정부가 이를 관리하려면 더 정교한 절차와 근거, 투명성이 필요하다.

무엇보다 중요한 것은 신뢰의 방향이다.

정부가 AI 기업을 신뢰할 수 있어야 한다는 말은 맞다. 그러나 AI 기업과 연구자들도 정부가 자신들의 안전 우려와 공개 비판을 보복하지 않을 것이라고 신뢰할 수 있어야 한다.

그 신뢰가 무너지면 AI 안전 논쟁은 기술 논쟁이 아니라 권력 논쟁이 된다.

이번 판결은 그 선을 그었다.

국가안보는 AI 기업을 선택하는 이유가 될 수 있다.
하지만 AI 기업을 침묵시키는 면허가 될 수는 없다.