8월 27일 미국 캘리포니아 북부연방법원이 앤트로픽(Anthropic)과 미 국방부의 소송에서 회사 측 손을 들어줬다. 클로드(Claude)를 군사적으로 어디까지 쓸 수 있는가를 둘러싼 갈등에서 나온 첫 본격적인 본안 판단이었다.
발단은 계약 조항 하나였다. 국방부는 법이 허용하는 모든 용도에 제한 없이 쓸 수 있어야 한다고 요구했고, 앤트로픽은 대규모 국내 감시와 완전자율무기에는 클로드를 사용할 수 없도록 하는 안전장치를 요구했다. 회사는 자사 모델이 그런 용도에 쓰일 만큼 충분히 신뢰할 수 있는 수준이 아니라는 점도 근거로 들었다.
협상이 결렬되자 헤그세스 국방장관은 2월 27일 앤트로픽을 공급망 위험으로 지정하겠다고 공개했고, 3월 3일 국방부가 이를 공식 지정했다. 앞서 대통령은 전 연방기관에 앤트로픽 제품 사용 중단을 지시했고, 국방부와 거래하는 주요 계약업체들에도 관련 업무에서 클로드를 사용하지 않도록 하는 조치가 이어졌다. 앤트로픽은 3월 9일 이를 부당한 제재라며 소송을 제기했다.
이 사건을 맡은 리타 린 판사는 공급망 위험 지정과 관련 조치가 수정헌법 제1조와 제5조, 행정절차법과 근거 법률을 위반했다고 판단했다. 정부가 제시한 사유는 법이 상정한 공급망 위험과 맞지 않았고, 이를 뒷받침하는 핵심 위험평가 문서도 2월 27일 공개 방침이 나온 뒤인 3월 2일에 작성됐다.
그런데 판결이 나온 지 일주일도 지나지 않아 정부에서는 온도가 다른 발언이 나왔다.
9월 2일 하워드 러트닉 상무장관은 앤트로픽과의 관계가 회복됐다는 취지로 말했지만, 이튿날 에밀 마이클 국방부 연구·공학 담당 차관은 X에 앤트로픽이 여전히 국방부와 방위산업 기반의 공급망 위험으로 간주된다고 적었다. 다만 두 부처가 다루던 사안은 완전히 같지 않았다.
법원에서 이긴 회사가 여전히 위험 기업으로 남아 있는 상황은 모순처럼 보이지만, 실제로는 두 가지가 겹쳐 있다.
첫째, 공급망 위험 지정은 하나의 법적 조치가 아니었다. 국방부는 앤트로픽을 제한하기 위해 서로 다른 두 법률을 사용했다. 하나는 10 U.S.C. §3252로, 국방부의 국가안보 시스템과 조달망에서 특정 공급자를 배제할 수 있도록 한 규정이다. 린 판사가 8월 27일 위법하다고 판단하고 무효화한 것은 이 조항에 따른 지정과 그 후속조치였다.
하지만 이와 별개로 41 U.S.C. §4713, 이른바 연방 공급망 보안체계(FASCSA)를 근거로 한 조치도 있었다. 이 조치는 국방부에 한정되지 않고 연방정부의 조달·공급망에서 위험한 공급자를 배제하기 위한 별도의 제도다. 앤트로픽은 이 조치도 다퉜지만, 사건은 캘리포니아 지방법원이 아니라 D.C. 연방항소법원에서 별도로 진행됐다. 4월에는 앤트로픽의 긴급 효력정지 신청이 기각됐고, 5월 19일 구두변론까지 진행됐다.
따라서 8월 27일 판결은 앤트로픽을 둘러싼 모든 공급망 위험 조치를 한꺼번에 없앤 판결이 아니었다. 국방부의 §3252 지정은 무효가 됐지만, §4713을 둘러싼 별도 분쟁은 다른 법원에서 계속되고 있었다.
둘째, 더 중요한 점은 이번 판결이 AI의 군사적 사용에 관한 모든 쟁점을 정리한 것은 아니라는 점이다.
법원은 앤트로픽이 미국의 군사정책을 제한할 일반적 권리를 갖는다고 선언하지 않았다. 완전자율무기나 대규모 감시에 클로드를 사용하는 것이 옳은지 자체를 판단한 것도 아니다. 오히려 국방부가 원하는 AI 공급업체를 선택할 자유가 있다는 점은 판결문에서도 인정됐다.
이번 판결의 중심은 다른 데 있었다. 국방부와 연방정부가 앤트로픽의 사용조건과 공개 비판을 문제 삼아 공급망 위험 지정과 광범위한 거래 제한 조치를 취한 과정이 법률과 헌법이 요구하는 기준을 충족했는지였다.
따라서 8월 27일 판결로 정부 조치의 상당 부분은 정리됐지만, 정작 사건을 만들어낸 질문은 그대로 남았다.
AI 기업은 국가의 사용을 어디까지 거부할 수 있는가.
국가는 그 거부를 어디까지 받아들여야 하는가.
그리고 그 경계는 누가, 어떤 절차로 정하는가.
시작은 ‘모든 합법적 사용’이었다
앤트로픽은 원래 미 국방부와 대립하던 회사가 아니다. 오히려 클로드가 미국 정부의 기밀 환경에서 정보분석과 모델링·시뮬레이션, 작전계획, 사이버 작전 등에 활용될 정도로 양측의 협력관계는 상당히 깊었다. 앤트로픽 또한, 자신들이 미국 국방과 정보기관에 적극적으로 AI를 공급해왔다는 점을 공개적으로 강조해왔다.
갈등이 본격화된 것은 2025년 가을, 국방부의 새로운 AI 플랫폼 GenAI.mil에 클로드를 배치하는 문제를 논의하면서였다.
국방부가 요구한 조건의 핵심은 짧았다.
“all lawful uses(모든 합법적 사용).”
미국 법과 군의 규정상 금지되지 않은 용도라면, 국방부가 클로드를 어디에 사용할지 앤트로픽이 별도로 제한하지 말라는 내용이었다. 2026년 1월 9일, 피트 헤그세스 국방장관은 AI 서비스를 조달하는 국방부 계약에 이런 원칙을 반영하도록 지시했고, 앤트로픽은 기존 제한 대부분을 없애는 데 동의했지만 두 가지는 남겼다. 하나는 미국인을 대상으로 한 대규모 국내 감시, 다른 하나는 인간의 직접적인 통제 없이 표적을 선택하고 공격하는 완전자율무기였다.
두 제한의 논리는 조금 달랐다. 대규모 국내 감시에 대해서는 기본권과 민주주의 원칙을 강조했고, 완전자율무기에 대해서는 현재의 프런티어 AI가 사람을 죽이는 판단을 완전히 맡을 만큼 안정적이고 신뢰할 수 있지 않다는 기술적 판단을 함께 내세웠다. 부분적인 자율성을 가진 무기나 일반적인 군사용 AI 활용 자체에 반대하는 것은 아니라고도 밝혔다.
이 차이는 뒤의 논쟁에서 중요해진다.
“우리는 그 정책에 반대한다”와 “우리 제품은 그 용도로 쓰기에 아직 충분히 안전하지 않다”는 같은 주장이 아니기 때문이다. 전자는 민간 기업이 국가 정책에 어디까지 선을 그을 수 있느냐는 문제이고, 후자는 공급자가 자신이 만든 제품의 사용 한계를 어디까지 정할 수 있느냐는 문제다.
하지만 계약에서는 결국 둘 다 하나의 사용 제한으로 나타났다.
2월 24일 헤그세스와 앤트로픽 CEO 다리오 아모데이가 직접 만났다. 법원 기록에 따르면 헤그세스는 클로드의 성능을 높게 평가하면서도 국방부에는 다른 공급자가 있고, 그 업체들은 국방부에 ‘거부권’을 행사하려 하지 않는다는 취지로 말했다. 이어 앤트로픽이 2월 27일까지 모든 합법적 사용을 허용하지 않으면 공급망 위험으로 지정할 수 있다고 경고했다.
이후 상황은 빠르게 악화됐다.
2월 27일, 트럼프 대통령은 연방 기관에 앤트로픽 기술 사용을 중단하도록 지시했다. 이미 클로드를 사용 중인 일부 기관에는 최대 6개월의 전환 기간을 두겠다고 했다. 약 한 시간 뒤 헤그세스 국방부장관도 앤트로픽을 국가 안보 상 공급망 위험으로 지정하도록 지시하고, 미군과 거래하는 계약자·공급자·파트너가 앤트로픽과 상업적 거래를 하지 못하도록 하겠다고 발표했다.
3월 2일, 앤트로픽이 제기하는 공급망 위험을 설명하기 위한 국방부 내부 핵심 평가 메모가 작성됐다. 훗날 법원은 이 시간 순서를 중요하게 봤다. 공개적인 제재 방침이 먼저 나온 뒤, 이를 뒷받침하는 핵심 행정기록이 작성됐기 때문이다.
3월 3일, 헤그세스 국방부장관은 '10 U.S.C. §3252' 조항을 근거로 앤트로픽의 제품과 서비스가 국방부 국가 안보 시스템에 공급망 위험을 초래한다고 공식 판단했다. 이 조항은 국방부가 국가안보 시스템의 공급망 위험을 이유로 특정 공급업체를 배제하거나 제한할 수 있도록 한 법적 근거다. 앤트로픽은 해당 서한을 이튿날인 3월 4일 받았다. 같은 시기 '41 U.S.C. §4713'에 따른 별도의 공급망 조치도 진행됐다. '41 U.S.C. §4713'은 연방 정부의 공급망 보안을 위해 위험하다고 판단되는 제품·서비스나 공급업체를 연방 조달에서 제한할 수 있도록 한 별도의 법적 근거다.
3월 9일, 앤트로픽은 두 갈래로 법적 대응에 들어갔다. 캘리포니아 북부연방법원에서는 대통령 지시와 §3252 지정, 연방기관들의 후속조치를 다퉜고, §4713 조치는 법률이 정한 직접심사 절차에 따라 D.C. 연방항소법원에서 별도로 다퉜다.
3월 26일, 캘리포니아 법원은 예비금지명령을 내려 정부 조치의 집행에 제동을 걸었다.
그리고 8월 27일, 캘리포니아 북부연방법원이 59쪽의 요약판결을 내렸다.
이 판결로 §3252에 따른 지정과 관련 조치에는 큰 제동이 걸렸지만, 앤트로픽을 둘러싼 모든 공급망 분쟁이 한꺼번에 정리된 것은 아니었다. §4713에 따른 별도 사건은 다른 법원에서 별개의 절차로 진행되고 있기 때문이다.
법원이 인정한 것, 그리고 판단하지 않은 것
8월 판결에서 법원이 인정한 핵심은 세 가지였다.
먼저 수정헌법 제1조다. 법원은 앤트로픽이 정부의 AI 정책과 사용조건을 공개적으로 비판한 것이 보호받는 표현이며, 이후 내려진 광범위한 제재에는 그 발언에 대한 보복 성격이 있었다고 판단했다.
판결문은 특히 시간 순서를 중요하게 봤다. 앤트로픽과 국방부의 비공개 협상이 이어지는 동안에는 공급망 위험이라는 표현이 본격적으로 등장하지 않았지만, 다리오 아모데이가 정부와의 이견을 공개한 직후 대통령과 국방장관이 앤트로픽의 태도와 입장을 공개적으로 비판하며 제재를 발표했다. 이후 작성된 위험평가에도 앤트로픽이 언론을 통해 정부와 공개적으로 충돌했다는 점이 불신의 근거로 포함됐다. 법원은 이런 정황을 다른 AI 기업들에 대한 본보기 성격의 조치로 볼 여지가 있다고 판단했다.
두 번째는 수정헌법 제5조상 적법절차다. 정부는 앤트로픽과의 계약과 사업관계를 광범위하게 제한하면서도 사전에 충분한 통지와 의견 제출 기회를 주지 않았다. 실제로 여러 기관의 사용 중단 조치가 진행된 뒤에야 앤트로픽이 정식 통보를 받았다.
세 번째는 §3252에 따른 공급망 위험 지정의 법적 근거였다. 이 조항이 상정하는 공급망 위험은 적대자가 시스템을 훼손하거나 악성 기능을 삽입해 설계·무결성·운영을 교란하는 경우에 가깝다. 반면 국방부가 문제 삼은 핵심은 앤트로픽이 계약상 사용제한을 고수했다는 사실이었다.
법원은 이 둘을 같은 종류의 위험으로 보기 어렵다고 판단했다. 특히 앤트로픽이 이미 국가안보망에 배포된 모델에 사후 접근해 임의로 기능을 바꾸거나 중단할 수 없다는 점도 확인됐다.
다만 법원이 앤트로픽의 모든 주장을 받아들인 것은 아니다. 대통령 지시 자체가 대통령의 권한을 명백히 넘어섰다는 별도의 권력분립 주장은 받아들여지지 않았고, 일부 연방기관에 대한 청구에서는 정부 측 판단도 인정됐다.
더 중요한 것은 이번 판결이 무엇을 결정하지 않았는가다.
법원은 앤트로픽이 합법적인 군사 목적의 AI 사용을 거부할 일반적 권리를 갖는다고 선언하지 않았다. 완전자율무기나 대규모 국내 감시에 AI를 사용하는 것이 정당한지도 판단하지 않았다. 정부가 AI 조달 계약에서 ‘모든 합법적 사용’을 요구하는 것 자체가 위법하다고 본 것도 아니다.
오히려 판결문에는 국방부가 원하는 AI 공급업체를 선택할 자유가 있다는 전제가 분명하다. 정부가 앤트로픽의 조건을 받아들이기 싫었다면 다른 공급업체를 선택할 수 있었다는 뜻이다.
법원이 문제 삼은 것은 앤트로픽을 선택하지 않은 것이 아니라, 계약상 이견과 공개 비판에 대응해 불이익을 연방정부와 민간 방산망 전체로 확장한 방식이었다.
따라서 이번 판결을 “AI 기업이 군의 사용을 거부할 권리를 인정받았다”고 요약하면 지나치다.
정부의 논리도 가볍지 않다
앤트로픽이 남긴 두 가지 제한만 보면 회사 쪽 주장이 더 쉽게 설득력 있게 들릴 수 있다. 대규모 국내 감시와 완전자율 살상무기는 모두 논쟁적인 사용처이기 때문이다.
하지만 그렇다고 국방부의 입장을 단순히 “AI를 마음대로 쓰려 했다” 정도로 줄이는 것도 정확하지 않다.
첫 번째 쟁점은 조달 주권이다. 국가안보의 핵심 시스템에 민간 AI를 도입했는데, 공급업체가 자체 정책에 따라 사용 가능한 임무를 계속 제한한다면 정부 입장에서는 새로운 의존성이 생긴다. 오늘 허용된 사용이 내일 기업 정책 변경으로 금지될 수 있다면, 문제는 모델의 성능보다 공급망의 안정성과 예측 가능성으로 옮겨간다.
두 번째는 민주적 정당성이다. 군사력 사용의 한계는 원칙적으로 헌법과 의회가 만든 법률, 행정부의 정책, 군법과 교전규칙 같은 공적 제도를 통해 정해진다. 반면 AI 기업의 경영진은 선출되지 않는다. 그런 기업이 “법으로는 허용되지만 우리 모델은 이 용도로 사용할 수 없다”고 정하면, 기존 공적 제도 바깥에 하나의 추가 관문이 생긴다.
헤그세스 국방부장관이 이를 ‘거부권’이라고 표현한 이유도 여기에 있다. 그는 앤트로픽과의 회의에서 국방부에는 다른 공급업체가 있으며, 민간 AI 기업이 군의 작전 판단에 사실상의 거부권을 가져서는 안 된다는 취지로 말했다.
세 번째는 작전 신뢰성이다. 평시에는 다른 AI로 바꾸면 된다고 말하기 쉽지만, 실제로는 군사 시스템에 모델을 통합하고 기밀환경에서 검증한 뒤 관련 인력과 시스템을 다시 준비해야 할 수 있다. 이런 전환 비용이 크다면 공급업체의 정책 변경 가능성 자체가 작전 리스크로 받아들여질 수 있다.
여기에 선례의 문제도 있다. AI 기업이 국가의 사용 목적을 자체 정책으로 제한하는 것이 일반화되면 같은 질문은 클라우드, 위성, 통신, 데이터센터 기업으로도 이어질 수 있다.
결국 정부 측의 핵심 질문은 이것이다.
국가안보 인프라의 상당 부분을 민간기업이 제공하는 시대에, 기업은 자신의 기술이 투입될 국가 활동을 어디까지 고를 수 있는가.
이 문제제기 자체에는 무게가 있다. 다만 이번 법원이 판단한 것은 이런 우려가 존재하더라도, 그것만으로 앤트로픽을 §3252의 ‘공급망 위험’으로 지정한 방식까지 정당화되지는 않는다는 점이었다.
국가가 요구하면 무엇이든 해야 하는가
반대편 질문도 피하기 어렵다.
정부가 어떤 활동을 합법이라고 판단했다는 이유만으로 기술 공급자가 모든 책임에서 벗어나는 것은 아니다. 특히 앤트로픽이 완전자율무기에 대해 내세운 주장은 윤리적 거부만이 아니라 제품의 신뢰성 문제이기도 했다.
앤트로픽은 현재의 프런티어 AI가 사람을 직접 공격할 대상을 판단하고 교전하는 과정을 온전히 맡길 만큼 안정적이고 신뢰할 수 있는 단계가 아니라고 주장했다.
미 국방부 내부에도 자율무기와 관련된 안전 규칙은 이미 존재한다. DoD Directive 3000.09(Autonomy in Weapon Systems, 미국 국방부가 자율·반자율 무기체계를 어떻게 개발하고 승인하고 운용할지 정한 공식 지침)는 자율·반자율 무기체계가 현실적인 작전환경에서 의도대로 작동하고, 실패 가능성과 그 결과를 줄일 만큼 충분한 안전성과 신뢰성을 갖추도록 요구한다. 일부 자율무기체계에는 개발과 배치 전에 별도의 고위급 검토와 승인 절차도 필요하다.
즉 정부 역시 단순히 “합법적이면 무엇이든 사용할 수 있다”는 원칙만으로 움직이는 것은 아니다. 실제 사용에는 안전성과 신뢰성에 대한 판단이 함께 따라붙는다.
그렇다면 모델 개발사가 “우리 제품은 이 용도로 사용할 만큼 검증되지 않았다”고 말하는 것은 국가정책에 대한 월권일까, 아니면 제품을 만든 공급자로서 감당해야 할 책임일까.
대규모 국내 감시에서는 문제가 조금 달라진다. 여기서는 기술적 신뢰성보다 민주주의와 기본권이라는 가치판단이 더 강하게 들어간다. 앤트로픽은 기존 법률이 허용하는 범위 안에서도 AI가 방대한 데이터를 결합하면 과거와는 다른 규모와 방식의 감시가 가능해질 수 있다고 우려했다.
이 지점에서는 정부 측 반론도 다시 힘을 얻는다.
민간기업이 법률보다 높은 기준을 만들어 국가에 적용해도 되는가.
하지만 질문을 반대로 돌리면 답은 다시 어려워진다.
국가가 요구했다는 이유만으로 기업은 자신이 위험하다고 판단하는 사용까지 제공해야 하는가.
결국 문제는 정부와 기업 중 어느 한쪽의 판단을 절대적인 기준으로 삼기 어렵다는 데 있다.
같은 협상이었지만, 가진 힘은 달랐다
정부와 앤트로픽은 서로 다른 계약조건을 원했다. 하지만 양측이 동원할 수 있는 수단까지 대칭적이었던 것은 아니다.
앤트로픽이 취할 수 있었던 가장 직접적인 선택은 정부가 요구한 조건에 동의하지 않고 계약을 맺지 않는 것이었다. 그리고 그 이유를 공개적으로 설명할 수 있었다.
이미 국가안보망에 배포된 클로드를 앤트로픽이 원격으로 임의 변경하거나 중단할 수 있었던 것도 아니었다. 법원 기록에서도 그런 통제권은 없는 것으로 확인됐다.
반면 정부가 사용할 수 있는 수단은 특정 계약을 포기하는 수준을 훨씬 넘어섰다.
2월 27일 대통령의 지시는 모든 연방기관을 대상으로 했고, 헤그세스의 조치는 미군과 거래하는 민간업체들까지 영향을 받도록 설계됐다. 군과 직접 관계없는 상업활동에서도 앤트로픽과의 거래를 제한하는 수준까지 범위가 넓어졌고, 법원은 이 부분에 대해 국방부가 충분한 법적 근거를 제시하지 못했다고 지적했다.
실제로 여러 연방기관이 클로드 접근을 차단하거나 기존 프로젝트와 계약을 중단하는 절차에 들어갔다.
앤트로픽은 법원 제출자료에서 이런 조치가 유지될 경우 방산업체와 국방부 관련 고객 매출의 50~100%를 잃을 수 있고, 2026년 전체 매출에서도 수십억 달러의 손실이 발생할 수 있다고 주장했다.
법원이 수정헌법 제1조 문제를 중요하게 본 것도 이 차이와 연결된다.
정부가 앤트로픽과 계약하지 않는 것과, 정부 정책을 공개적으로 비판한 기업을 연방정부와 민간 방산망에서 광범위하게 배제하는 것은 같은 행위가 아니었다.
이번 판결이 기업의 계약조건을 국가의 판단보다 우위에 둔 것은 아니다. 오히려 정부가 가진 더 큰 조달·행정 권한을 어떤 절차와 근거 아래 행사해야 하는지를 문제 삼은 판결에 가깝다.
AI 기업은 정말 ‘민간 규제자’가 되고 있는가
이 사건에서 한 걸음 더 나가면 이런 질문이 생긴다.
AI 기업이 사용조건을 정하고 공급을 거부한다면, 결국 민간기업이 국가가 할 수 있는 일을 사실상 제한하게 되는 것 아닐까.
말하자면 민간 규제자다.
가능성은 있다. 하지만 이번 앤트로픽 사건만으로 이미 그런 단계에 들어섰다고 보기는 어렵다. 가장 큰 이유는 대체 공급자가 존재하기 때문이다.
오픈AI와 구글, xAI 등 다른 프런티어 AI 기업들도 정부 시장에 들어와 있다. 헤그세스 국방부장관 역시 앤트로픽과의 회의에서 국방부에는 다른 선택지가 있다고 말했다. 실제로 대체 가능한 모델이 있고 정부가 공급업체를 바꿀 수 있다면, 한 기업이 “이 조건에는 계약하지 않겠다”고 말하는 것은 규제라기보다 계약 선택에 가깝다.
다만 상황은 바뀔 수 있다. 특정 모델만이 필요한 임무를 수행해 성능 격차가 커지거나, 다른 모델로 바꾸는 데 필요한 통합·인증 시간이 지나치게 길어 전환 비용이 커질 수 있다. 주요 AI 기업들이 자율무기나 감시에 비슷한 제한을 두기 시작하면 개별 회사의 정책이 사실상의 업계 표준처럼 작동할 수도 있다.
이런 조건이 겹칠수록 민간 AI 기업의 선택은 단순한 계약조건을 넘어 실제 정책 집행에 영향을 주는 힘을 갖게 된다.
하지만 현재 사건에서 더 강한 배제 권한을 실제로 행사한 쪽은 정부였다.
8월 법원이 §3252에 따른 지정과 관련 조치에 제동을 걸었지만, 9월 3일 에밀 마이클 국방부 연구·공학 담당 차관은 앤트로픽이 여전히 국방부와 방위산업 기반의 공급망 위험으로 간주된다고 밝혔다. 이 발언은 법원이 무효화한 §3252 지정이 그대로 살아 있다는 뜻이라기보다, 사법적 판단과 별개로 국방부의 정책적 불신은 여전히 남아 있다는 신호에 가깝다.
결국 이번 사건은 기업이 이미 국가를 규제하고 있다는 증거라기보다, AI 공급자가 충분히 중요해질 경우 기업의 계약조건이 어디까지 공적 권력과 비슷한 효과를 낼 수 있는가를 미리 보여준 사례인 것이다.
규칙의 사이가 비어 있다
이 사건을 두고 AI를 규율할 제도가 없어서 벌어진 일이라고 말하기 쉽다. 하지만 관련 규칙은 이미 존재한다.
자율무기에는 DoD Directive 3000.09가 있고, 연방 조달에는 FAR과 공급망 관련 법령이 있다(§3252와 §4713은 각각 공급망 위험을 이유로 특정 공급자를 제한할 수 있는 권한과 절차를 두고 있다). 정부의 처분에는 행정절차법이 적용되고, 정부 비판에 대한 보복이나 적법절차 침해에는 수정헌법 제1조와 제5조가 작동한다.
이번 사건에서도 실제로 이런 규범들이 작동했다. 하지만 문제는 각 규칙이 다루는 영역 사이에 빈틈이 있다는 것이다.
자율무기 지침은 무기체계의 안전성과 승인 절차를 다루지만, 클로드 같은 범용 AI 모델 공급자가 계약 단계에서 어떤 용도를 거부할 수 있는지는 직접 다루지 않는다.
공급망 관련 법률은 시스템 훼손이나 악성 기능 삽입 같은 위험을 중심으로 설계됐다. 기업의 제품 안전정책이나 윤리정책과 정부의 사용 요구가 충돌했을 때 어떤 협상 절차를 거쳐야 하는지는 본래 중심 대상이 아니다.
헌법과 행정법은 문제가 발생한 뒤 정부 조치의 적법성을 심사할 수 있다. 하지만 계약을 맺기 전에 정부가 어디까지 요구할 수 있고, 기업은 어떤 근거로 거부할 수 있는지를 구체적으로 정해주지는 않는다.
그래서 ‘모든 합법적 사용’이라는 계약 문구를 둘러싼 충돌이 공급망 위험 지정과 헌법 소송으로까지 커질 수 있었다.
이번 사건이 드러낸 것은 새로운 거대한 규제법의 필요성이라기보다, 기존 제도만으로는 다루기 어려운 공백이 있다는 점이다.
정부가 프런티어 AI를 어디까지 사용할 수 있는지, 기업이 어떤 근거로 특정 용도를 거부할 수 있는지, 그 충돌을 누가 어떤 절차로 심사할 것인지에 대한 기준은 아직 충분히 정리돼 있지 않다.
특히 완전자율 살상이나 대규모 국내 감시처럼 영향이 큰 문제를 개별 기업과 정부 부처의 계약협상만으로 정하기에는 부담이 크다. 반대로 모든 판단을 기업의 자체 정책이나 정부의 재량에 맡기는 것도 각각 다른 문제를 낳는다.
이번 소송에서 법원이 주목한 것도 결국 판단의 근거와 절차였다. 공급망 위험으로 규정하겠다는 공개 방침이 먼저 나왔고, 이를 뒷받침하는 핵심 위험평가는 그 뒤에 작성됐다. 기업의 사용제한이 실제로 국가안보상 위험을 만드는지 충분히 검토한 뒤 제재가 내려진 것이 아니라, 제재 방침이 먼저 정해지고 그 근거가 뒤따랐다는 점이 문제로 지적된 것이다.
그래서 이번 사건이 남긴 최소한의 기준은 분명하다.
위험평가가 제재를 정당화하기 위해 뒤따라가는 문서가 되어서는 안 된다.
국가는 무제한으로 쓸 수 있는가, 기업은 마음대로 거부할 수 있는가
이 사건에는 두 가지 쉬운 결론이 있다.
하나는 국가안보는 민주적으로 구성된 정부가 책임지는 일이므로, 민간기업은 합법적인 사용이라면 모두 허용해야 한다는 것이다. 다른 하나는 기술의 위험을 가장 잘 아는 개발사에 최종적인 사용 거부권을 줘야 한다는 주장이다.
하지만 어느 쪽도 그대로 받아들이기 어렵다.
정부에 사실상 무제한의 사용권을 인정하면 기업은 자신의 모델이 특정 용도에서 충분히 안전하지 않다고 판단하더라도 국가가 요구하는 한 제공해야 할 수 있다. 반대로 기업에 일방적인 거부권을 주면 선출되지 않은 소수 기술기업이 국가안보 정책의 실제 경계를 정하는 상황이 생길 수 있다.
결국 중요한 것은 어느 한쪽에 최종 권한을 몰아주는 것보다, 정부의 요구와 기업의 거부가 충돌했을 때 이를 판단할 근거와 절차를 어떻게 만들 것인가다.
이번 사건은 그 필요성을 선명하게 보여줬다. 정부는 앤트로픽의 조건을 받아들이지 않고 다른 공급자를 선택할 수 있었다. 앤트로픽 역시 자신이 받아들일 수 없는 사용조건을 거부할 수 있었다. 문제가 커진 것은 계약상의 충돌이 공급망 위험 지정과 광범위한 거래 제한으로 확대되면서부터였다.
8월 27일 법원은 이런 방식의 정부 조치에 제동을 걸었다. 그렇다고 어떤 군사적 AI 사용이 허용돼야 하는지, 기업이 어디까지 거부할 수 있는지에 대한 답까지 내놓은 것은 아니다.
그래서 이 사건을 단순히 앤트로픽이 정부에 승리한 소송으로만 보는 것은 충분하지 않다.
법원이 확인한 것은 국가안보라는 이유만으로 정부의 조달·행정 권한이 법과 절차의 통제를 벗어날 수는 없다는 것이었다. 반면 AI 기업의 사용제한이 어디까지 정당한지는 여전히 남아 있는 문제다.
AI가 국가안보 인프라의 일부가 될수록 중요한 것은 모델의 성능만이 아니다. 그 기술을 누가, 어떤 조건에서, 어디까지 사용할 수 있는지를 정하는 통제 구조 역시 중요해진다. 그리고 그 구조를 기업의 약관 하나나 정부의 지시 하나에만 맡기기는 어렵다.
결국 남는 질문은 이것이다.
어떤 사용을, 누가, 어떤 근거와 절차로 제한할 것인가.
