네이버클라우드와 LG CNS는 지난 8월 27일 과학기술정보통신부와 정보통신산업진흥원(NIPA)이 추진하는 ‘특화 인공지능 파운데이션 모델 개발’ 사업의 사이버보안 분야에 공동 컨소시엄으로 참여한다고 발표했다. 이후 9월 3일 최종 사업자로 선정됐으며, 오는 9월 18일부터 본격적인 개발에 들어갈 예정이다.
눈에 띄는 점은 방어 AI만 만드는 게 아니라는 것이다. 네이버클라우드는 HyperCLOVA X를 기반으로 방어 능력을 강화하고, LG AI연구원의 EXAONE을 기반으로 한 모델은 공격에 집중한다. 공격과 방어에 특화된 AI를 따로 만든 뒤 두 모델을 교차 검증해 서로의 성능을 끌어올리는 구조다.
두 모델은 최종적으로 약 7,000억 개 파라미터 규모의 대형 AI를 목표로 하며, 입력에 따라 필요한 전문 영역만 선택적으로 활용하는 MoE 구조를 적용할 예정이다. 학습 과정도 서로 다르다. HyperCLOVA X는 사전학습 단계부터 보안 데이터를 반영해 방어 역량을 키우는 반면, EXAONE 기반 모델은 기존 모델에 보안 데이터를 추가로 학습시키는 지속 사전학습을 통해 공격 역량을 강화한다. 하나의 범용 모델에 두 역할을 모두 맡기기보다, 처음부터 공격과 방어를 나눠 각자의 전문성을 높이겠다는 접근이다.
여기에 투입되는 데이터와 인프라 규모도 상당하다. 현재 21개 기관에서 확보한 126개 항목, 약 831.59TB의 보안 데이터를 활용하며, 수집된 위협 정보는 라벨링과 표준화, 검증을 거쳐 학습 데이터로 정제된다. 정부가 제공하는 GPU뿐 아니라 네이버클라우드와 LG도 자체 인프라를 투입하고 있으며, 네이버클라우드는 정식 사업 착수 전부터 관련 사전학습을 진행해왔다.
컨소시엄에는 네이버클라우드를 중심으로 LG CNS, LG AI연구원, LG유플러스와 보안기업, 대학·연구기관, 국가 기반시설 관련 기관 등 총 33개 기관이 참여한다. 범위도 단순한 모델 개발에 그치지 않는다. 데이터 확보와 전처리, 모델 개발, 평가와 검증을 거쳐 실제 산업 환경에 적용하고 사업화하는 과정까지 하나의 사업 안에 포함돼 있다.
완성된 모델은 전력과 금융, 과학기술, 통신, 반도체, 방위산업, 항공우주 등 7개 분야에서 실증할 예정이다. 특히 국가 핵심시설에서도 활용할 수 있도록 외부 인터넷 연결이 제한된 폐쇄망이나 온프레미스 환경에서의 운용도 고려하고 있다. 이후에는 API와 SDK, 보안 에이전트 등의 형태로 활용 범위를 넓혀 국내 보안 생태계에서 실제로 쓸 수 있도록 하는 것이 목표다.
이런 개발 구조는 사이버보안에서 오래전부터 사용해온 레드팀과 블루팀의 관계를 떠올리게 한다. 공격자의 입장에서 시스템의 약점을 찾는 레드팀과 이를 방어하는 블루팀이 서로를 시험해왔듯, 이번 프로젝트에서는 그 역할 일부를 AI가 맡는다.
다만 이를 두 AI가 알아서 끝없이 공격과 방어를 반복하며 스스로 진화하는 구조로 볼 필요는 없다. 현재 공개된 계획은 공격과 방어에 각각 특화된 모델을 따로 개발한 뒤, 서로의 결과를 활용해 반복적으로 성능을 검증하는 방식이다. 기존 보안 AI가 주로 이미 발생한 공격을 탐지하고 대응하는 역할에 초점을 맞췄다면, 이번 프로젝트는 방어를 강화하기 위해 공격하는 AI까지 직접 만든다는 점에서 차이가 있다.
더 큰 AI보다 더 깊은 AI
생성형 AI 경쟁은 지금까지 주로 범용성을 중심으로 전개돼왔다. 더 많은 지식을 알고, 더 복잡한 질문에 답하고, 여러 종류의 업무를 한 번에 처리할 수 있는지가 중요한 평가 기준이었다. 모델의 크기와 성능, 처리할 수 있는 작업의 폭이 경쟁력을 보여주는 지표로 쓰인 것도 같은 이유다.
하지만 사이버보안은 조금 다른 조건을 요구한다. 공격이 실제로 발생하는 환경에서는 폭넓은 상식이나 일반적인 추론 능력보다, 취약점과 공격 패턴을 얼마나 정확히 이해하고 빠르게 대응할 수 있는지가 더 중요하다. 같은 AI라도 문서를 요약하거나 코드를 작성하는 능력과 실제 네트워크 공격이나 악성 행위를 분석하는 능력은 요구되는 데이터와 학습 방식부터 다르다.
여기에 최근에는 공격자도 AI를 활용하기 시작했다. 피싱 문구 작성이나 악성 코드 분석, 취약점 탐색, 공격 경로 탐색처럼 시간이 많이 들던 작업을 AI가 빠르게 처리할 수 있게 되면서 공격 준비에 필요한 시간도 줄어들고 있다. 공격 방식이 더 자주 바뀌고 변형 속도까지 빨라진다면, 기존처럼 사람이 공격을 분석한 뒤 대응 규칙을 추가하는 방식만으로는 한계가 생길 수 있다. 그래서 이번 프로젝트의 방향은 단순히 “더 큰 AI를 만들자”는 데 있지 않다. 사이버보안이라는 좁고 민감한 영역에 필요한 데이터를 집중적으로 학습시키고, 공격과 방어를 각각 따로 훈련해 실제 상황에 필요한 대응력을 높이겠다는 것이다.
범용 AI 경쟁이 하나의 모델로 가능한 일의 범위를 넓히는 방향이었다면, 이번 프로젝트는 특정 분야의 전문성을 더 깊게 가져가는 쪽에 무게를 둔다.
국산보다 중요한 것은 '통제 가능성'
여기서 한 번 더 봐야 할 개념이 소버린 AI다. 소버린 AI는 단순히 ‘국산 AI’를 만들자는 개념이 아니다. 국가가 자국의 데이터와 인프라를 기반으로 AI를 개발하고, 외부 기술에 대한 의존을 줄이면서 핵심 시스템의 운영과 통제권을 확보하려는 전략을 의미한다.
이 개념은 특히 사이버보안 분야에서 더 직접적인 의미를 갖는다. 전력과 금융, 통신, 반도체, 방위산업처럼 국가 핵심 인프라에 AI가 들어갈 경우 모델의 성능만으로는 충분하지 않기 때문이다. 어떤 데이터를 학습에 사용했는지, 민감 정보가 외부로 빠져나가지 않는지, 누가 모델에 접근할 수 있는지, 문제가 생겼을 때 자체적으로 수정하고 대응할 수 있는지가 모두 보안과 연결된다.
일반적인 AI 서비스라면 외부 클라우드나 해외 모델을 호출해도 큰 문제가 없을 수 있다. 하지만 국가 기반시설의 로그, 취약점 정보, 공격 패턴처럼 민감도가 높은 데이터를 다루는 환경에서는 같은 방식을 그대로 적용하기 어렵다. 외부 인터넷 연결이 제한된 폐쇄망이나 온프레미스 환경에서 모델을 직접 운용해야 하는 이유도 여기에 있다.
이번 네이버클라우드와 LG CNS의 사업 역시 이런 조건을 전제로 한다. 모델 자체뿐 아니라 학습 데이터와 GPU 인프라, 운영 환경까지 국내에서 확보하고, 실제 국가 핵심시설에서도 운용할 수 있도록 설계하는 것이 목표다. 단순히 성능이 좋은 보안 AI를 만드는 데서 끝나는 게 아니라, 필요할 때 직접 운영하고 수정할 수 있는 체계를 함께 갖추려는 것이다.
결국 소버린 AI에서 중요한 건 ‘국산’이라는 이름보다 실제 통제 가능성이다. 어떤 기술을 외부에서 가져오더라도 핵심 데이터와 운영 권한을 내부에 두고, 중요한 시스템을 외부 공급자에게 전적으로 의존하지 않는 구조를 만들 수 있느냐가 더 중요하기 때문이다.
공격으로 방어를 검증
사이버보안은 오래전부터 창과 방패의 싸움에 비유돼왔다. 공격자가 새로운 방법을 찾으면 방어자가 이를 막고, 다시 공격자가 다른 빈틈을 찾는 과정이 반복됐다. 이번 프로젝트는 그 과정의 일부를 AI에게 맡긴다.
여기에는 분명한 역설도 있다. 방어 AI의 성능을 높이려면 상대가 되는 공격 AI 역시 충분히 강해야 한다. 취약점을 더 잘 찾고 새로운 공격 경로를 제시할수록 방어 모델이 마주하는 문제도 어려워지고, 그만큼 실제 상황에 가까운 검증이 가능해진다.
반대로 공격 능력이 높아질수록 관리해야 할 위험도 커진다. 취약점 탐색이나 공격 경로 분석 능력이 뛰어난 모델은 방어에 유용한 도구인 동시에, 잘못 사용될 경우 공격 수단으로 활용될 가능성도 있기 때문이다. 결국 성능을 높이는 일만큼 누가 접근할 수 있는지, 어떤 환경에서 운영할지, 공격 기능을 어느 수준까지 공개할지 같은 통제 장치가 중요해진다.
이 때문에 이번 사업의 성과도 단순한 성능 수치만으로 판단하기는 어렵다. 실제 환경에서 공격과 방어 모델이 얼마나 유효하게 작동하는지, 동시에 공격 기능을 얼마나 안전하게 관리할 수 있는지가 함께 검증돼야 한다.
사이버보안은 공격과 방어가 서로의 변화를 따라가며 발전해온 분야다. 이제는 그 과정에 AI가 들어오면서, 공격을 가정하고 방어를 검증하는 방식도 달라지고 있다.
가장 강한 방패를 만들기 위해, 먼저 강한 창을 만들어보는 것.
어쩌면 AI 시대의 보안은 이제 그 역설에서 출발하고 있는지도 모른다.
