앤트로픽과 미 국방부의 충돌은 AI를 국가안보와 군사 분야에 활용할 때 사용 범위를 누가 결정할 것인지를 보여준 사건이다. 국방부는 ‘모든 합법적 사용’을 요구했지만, 앤트로픽은 대규모 국내 감시와 완전자율 살상무기에 대한 제한을 유지했다. 법원은 정부의 공급망 위험 지정과 광범위한 제재 방식에 제동을 걸었지만, 기업이 군사적 사용을 최종적으로 거부할 권리까지 인정한 것은 아니다. 결국 쟁점은 정부의 사용권과 기업의 거부권 사이에서 어떤 근거와 절차로 AI 사용의 경계를 정할 것인가에 있다.

젠슨 황은 “이미 AGI에 도달했다”고 말하면서도, 정작 중요한 것은 그 이름보다 AI가 실제로 무엇을 해내는가라고 했다. 실제로 ARC-AGI-3에서는 같은 모델이 어떤 시스템에 들어가느냐에 따라 성능이 크게 달라졌고, 게임은 오래전부터 AI를 더 똑똑하게 만드는 대신 어떤 역할에 배치할지를 고민해왔다. '인조이'와 '미메시스'는 같은 AI의 불완전함도 한쪽에서는 결함이 되고, 다른 쪽에서는 플레이의 단서가 될 수 있음을 보여준다. 결국 AGI 시대의 핵심은 지능의 크기보다 그 지능을 어디에, 어떻게 배치하느냐에 있을지 모른다.

OpenAI가 AI 정렬 연구의 핵심 인물인 폴 크리스티아노를 이사회에 선임했습니다. 그는 RLHF 토대를 마련하고 AI 위험을 진지하게 다뤄온 독립적 안전 연구자입니다. 이번 인사는 모델 성능을 넘어선 AI 거버넌스의 중요성을 보여줍니다.