'AGI 시대', AI의 지능보다 중요한 것은 무엇인가

AGI는 여전히 AI 산업이 즐겨 꺼내는 가장 큰 이정표 가운데 하나다. 어디까지 와야 AGI라고 부를 수 있는지에 대해서는 합의가 없지만, 업계 주요 인사들은 저마다 다른 기준으로 그 시점을 이야기하고 있다. 지난 8월 26일 엔비디아 실적 발표 콜에서도 AGI 관련 질문이 나왔는데, 젠슨 황의 답은 비교적 단정적이었다.

“여러 측면에서, 그리고 많은 과제에 대해서는 이미 AGI를 달성했다고 말할 수 있다.”
(“In a lot of ways, and for many tasks, we could say that we’ve already achieved AGI.”)

하지만 그는 곧바로 그 선언의 무게를 낮췄다.

“그런 이정표들은 이제 어느 정도 의미가 없어졌다.”
(“I think all of those milestones … they’re kind of senseless at this point.”)

황이 이어서 강조한 것은 AGI의 정의나 특정 벤치마크가 아니었다. AI가 실제로 생산적이고 유용한 일을 하고 있는지, 수익을 만들어내는 결과를 내고 있는지, 더 많은 컴퓨트가 주어졌을 때 그 능력을 얼마나 확장할 수 있는지가 더 중요하다고 말했다. 동시에 AI가 단순히 프롬프트에 반응하는 모델을 넘어, 여러 단계를 스스로 수행하고 다음 행동을 이어가는 에이전트형 시스템으로 이동하고 있다는 점도 강조했다.

말하자면 황은 “AGI에 도달했는가”라는 질문에 답한 뒤, 곧바로 평가의 초점을 다른 곳으로 옮겼다. 어떤 이름을 붙일 수 있는가보다, 실제로 무엇을 해내고 있는가를 보자는 쪽이다. 물론, 명확한 정의 없이 AGI 달성을 선언하는 방식에는 여전히 논쟁의 여지가 있다. 다만 젠슨 황의 발언에서 눈에 띄는 것은 관심의 초점이 AGI라는 이름 자체보다, AI가 실제 환경에서 무엇을 해내고 있는가로 옮겨가고 있다는 점이다.

평가 방식도 이에 맞춰 달라지고 있는데, 최근에는 모델의 단일 점수만 보는 대신 어떤 도구와 메모리를 연결했는지, 어떤 방식으로 행동하게 했는지 같은 시스템 구성까지 함께 살피는 흐름이 강해지고 있다.

같은 모델도 시스템에 따라 달라진다

최근 ARC-AGI-3에서 나온 결과는 모델 하나의 성능만으로 AI의 실제 능력을 설명하기 어려워졌다는 점을 잘 보여준다.
ARC Prize는 AI가 새로운 규칙을 찾아내고 낯선 문제에 적응하는 능력을 평가하는 AGI 벤치마크 프로젝트다. 이들이 최근 공개한 ARC-AGI-3은 기존의 정적인 문제 풀이에서 한발 더 나아가, AI가 인터랙티브 환경 안에서 직접 행동하고 결과를 관찰하며 목표를 찾아가도록 설계됐다.

7월 24일 ARC Prize는 ARC-AGI-3 공개 세트에서 Claude Opus 5의 성능을 30.16%로 검증했다. 그런데 한 달이 채 지나지 않은 8월 21일, 엔비디아는 같은 모델로 같은 공개 세트에서 100.00을 기록했다고 보고했다. 모델 자체가 달라진 것도, 가중치를 새로 학습시키거나 더 큰 모델로 교체한 것도 아니다. 차이를 만든 것은 모델을 둘러싼 하네스(harness)였다.

하네스는 모델이 어떤 정보를 기억할지, 무엇을 먼저 시도할지, 실패했을 때 어떻게 다시 접근할지, 한 문제에 얼마나 많은 행동을 허용할지를 정하는 에이전트 시스템이다. 쉽게 말해 모델이 ‘생각하는 능력’만 제공한다면, 하네스는 그 능력을 실제 행동으로 어떻게 이어갈지를 결정한다.

이 차이가 중요한 이유는 ARC-AGI-3의 평가 방식에 있다. 이 벤치마크는 문제를 읽고 정답 하나를 고르는 형태가 아니다. AI는 규칙을 알려주지 않은 인터랙티브 환경에 들어가 직접 행동하고, 그 결과를 관찰하면서 무엇을 해야 하는지를 찾아야 한다. 한 번의 답변보다 탐색과 수정, 반복적인 의사결정이 중요하다.

따라서 같은 모델이라도 어떤 정보를 남겨두는지, 이전 실패를 어떻게 활용하는지, 다음 행동을 어떤 방식으로 선택하는지에 따라 결과는 크게 달라질 수 있다. 다만 엔비디아가 기록한 100점을 그대로 모델 자체의 절대적인 성능 향상으로 받아들이기는 어렵다. 해당 결과는 공개 세트에서 나온 것이고, 비공개 세트에서는 아직 같은 수준으로 검증되지 않았다. 물론 연구진 역시 이 한계를 명시하고 있다.

그렇더라도 이번 사례가 남긴 의미는 분명하다.
결국 점수를 만든 것은 모델 하나가 아니라, 모델을 둘러싼 시스템 전체였다.

AI를 ‘시스템’으로 설계해 온 분야, 게임

게임 AI는 오래전부터 하나의 범용 지능을 만드는 것보다, 적이 언제 숨고 공격할지, NPC가 어떤 행동을 선택할지, 전투의 긴장도를 어떻게 조절할지처럼 필요한 역할을 먼저 정하고 그 역할에 맞는 시스템을 설계해왔다.

2001년 출시된 SF 1인칭 슈팅게임 '헤일로(Halo)'에서는 AI로 제어되는 적 캐릭터가 엄폐하고 측면으로 이동하며 전투 상황에 반응한다. 2005년 출시된 공포·액션 FPS 'F.E.A.R.'에서는 적들이 현재 상황과 목표에 따라 이동과 공격 방식을 바꾸며, 서로 협력하는 듯한 전투 흐름을 만든다. 2000년 출시된 생활 시뮬레이션 게임 '더 심즈(The Sims)'에서는 캐릭터가 허기나 피로, 위생 같은 여러 욕구를 바탕으로 그때그때 필요한 행동을 선택한다.이들이 사람처럼 사고해서 그렇게 움직이는 것은 아니지만, 각각의 게임이 필요로 하는 역할에 맞춰 행동 규칙과 판단 구조가 설계돼 있기 때문이다.

가장 분명한 사례 가운데 하나는 2008년 출시된 협동 좀비 FPS '레프트 4 데드(Left 4 Dead)'다. 이 게임에는 실제로 ‘AI Director’라고 불리는 시스템이 적용됐다. 개별 좀비의 지능을 높이는 것보다 플레이어의 상태와 전투 흐름을 바탕으로 적의 등장과 아이템 배치, 전투 강도를 조절해 전체 플레이의 리듬을 만드는 역할을 맡았다.

말하자면 지능을 캐릭터 하나에 몰아넣기보다, 게임 전체의 흐름을 조절하는 역할에 배치한 것이다.

이런 시스템들은 일반적인 의미의 지능 테스트를 통과할 필요가 없었다. 중요한 것은 얼마나 사람처럼 생각하는지가 아니라, 게임 안에서 맡은 자리를 얼마나 잘 수행하느냐였기 때문이다.

생성형 AI가 넓힌 역할의 선택지

2020년대 초반, 생성형 AI가 등장하면서 게임 AI가 맡는 역할에도 변화가 나타나기 시작했다. 하지만 달라진 것은 역할의 범위와 방식이지, 필요한 자리에 맞춰 AI를 설계한다는 원칙 자체는 아니었다.

기존 게임 AI가 전투 판단이나 이동, 욕구 선택, 전투 강도 조절처럼 비교적 명확하게 정의된 기능을 수행했다면, 생성형 AI는 여기에 자연어 이해와 기억, 맥락 해석, 계획 같은 능력을 더했다. 플레이어와 대화를 이어가고, 이전 상황을 기억하며, 주변 맥락에 맞춰 다음 행동을 정하는 식의 역할도 가능해졌다. 하지만, 할 수 있는 일이 늘어났다고 해서 그 자체로 더 좋은 게임 경험이 만들어지는 것은 아니다. 역할이 복잡해질수록 오히려 AI의 능력과 한계를 어떤 자리에 놓고, 게임의 규칙이 그것을 어떻게 받아들이도록 설계했는가가 더 중요해지기 때문이다.

이 차이는 '인조이(inZOI)'와 '미메시스(MIMESIS)'를 비교하면 더 선명해진다.

'인조이'의 스마트조이는 캐릭터가 스스로 판단하고 행동하면서 보다 자연스러운 생활을 만들어내는 데 초점을 둔다. 성격과 생활 목표에 따라 주변 상황에 반응하고, 하루 동안의 경험을 바탕으로 다음 일정을 조정하는 식이다. 플레이어는 스마트조이의 내적 생각을 확인하거나 자유 입력을 통해 행동과 목표에 영향을 줄 수도 있다.

이런 구조에서 AI에게 기대되는 것은 결국 자연스러운 사람처럼 행동하는 것이다. 그래서 맥락에서 벗어난 행동이나 반복되는 반응, 예상하기 어려운 움직임은 쉽게 불완전함으로 드러난다. 실제로 스마트조이는 서비스 과정에서 특정 행동이 반복되거나 기능이 일시적으로 비활성화되는 문제도 겪었고, 2026년에도 관련 수정이 이어졌다.

'미메시스'는 AI의 불완전함을 전혀 다른 자리에 놓는다. 이 게임에서 AI는 인간 플레이어의 행동과 목소리를 흉내 내며 사람 사이에 섞여든다. 플레이어의 과제는 누가 실제 사람이고 누가 모방하는 존재인지 의심하고 찾아내는 것이다. 그래서 어색한 이동이나 미묘하게 빗나간 반응, 조금 이상한 타이밍은 단순한 결함으로만 남지 않는다. AI임을 눈치챌 수 있는 단서가 된다. 다른 게임에서는 몰입을 깨뜨릴 수 있는 불완전함이 여기서는 오히려 긴장과 추리를 만드는 재료가 되는 셈이다.

두 게임에서 AI가 기능하는 방식의 차이는 단순한 성능 우열로 설명하기 어렵다. 더 중요한 것은 AI의 특성을 어떤 역할에 배치했고, 그 특성이 게임 안에서 어떤 의미를 갖도록 설계했는가다. '인조이'에서는 어색함이 몰입을 깨는 결함으로 드러날 수 있지만, '미메시스'에서는 같은 어색함이 플레이어가 읽어야 할 단서가 된다.

생성형 AI가 게임에 가져온 변화도 결국 여기에 있다. 단순히 더 많은 행동을 가능하게 한 것이 아니라, AI가 잘하는 것과 잘하지 못하는 것까지 게임의 규칙과 역할 안에 끌어들일 수 있는 설계의 선택지가 늘어난 것이다.

게임 AI가 던지는 질문

게임에서 확인한 원리는 게임 안에서만 유효한 것은 아니다. 최근의 AI 시스템 역시 모델 하나만으로 작동하지 않는다. 검색과 메모리, 외부 도구, 행동 구조가 결합되면서 하나의 에이전트 시스템이 만들어진다. 앞서 ARC-AGI-3에서 같은 모델의 점수가 크게 벌어진 것도 결국 이런 구성의 차이와 연결돼 있었다.

이 지점에서, 게임 AI가 오래전부터 다뤄온 문제가 겹친다. 게임에서는 모든 AI를 가능한 한 똑똑하게 만드는 것이 목표가 아니었다. 적은 적절한 압박을 줘야 하고, 동료는 필요한 순간에 도움을 줘야 하며, AI 디렉터는 플레이의 흐름을 조절해야 했다. 맡은 역할이 다르면 필요한 능력과 허용해야 할 행동의 범위도 달라졌다.

게임 밖의 AI도 마찬가지다. 고객 상담 AI와 연구 보조 AI, 코딩 에이전트, 자율 로봇에게 필요한 능력은 서로 다르다. 같은 모델을 사용하더라도 어떤 업무를 맡겼는지, 어느 정도까지 스스로 결정하게 했는지, 실수를 누가 확인하고 어디서 멈추게 하는지에 따라 좋은 시스템의 기준도 달라진다.

특히 에이전트형 AI에서는 이 차이가 더 중요해진다. 한 번의 답변으로 끝나는 모델과 달리 에이전트는 여러 단계를 이어가고, 외부 시스템에 실제 행동을 취할 수도 있다. 이때 높은 성능만으로는 충분하지 않다. 무엇을 맡겼는지뿐 아니라, 실패했을 때 어디까지 영향을 미치고 그 실패를 시스템이 어떻게 흡수하도록 설계했는지까지 함께 봐야 한다.

결국 높은 벤치마크 점수만으로 실제 성과를 설명하기는 어렵다. 모델의 능력과 맡긴 역할, 그리고 그 역할을 둘러싼 시스템이 얼마나 잘 맞물리는지가 함께 중요하다.

좋은 AI는 가장 많은 것을 할 수 있는 AI가 아니라, 맡은 일을 필요한 수준으로 해낼 수 있도록 설계된 AI일 수 있다.

AGI 이후에 남는 질문

젠슨 황이 AGI라는 이정표보다 AI가 실제로 무엇을 해내고 있는지를 강조한 발언은, 앞서 살펴본 사례들과 함께 보면 조금 다르게 읽힌다. 모델의 성능은 여전히 중요하지만, 실제 결과를 만드는 것은 모델의 능력만이 아니다.

ARC-AGI-3에서는 같은 모델도 어떤 시스템에 들어가느냐에 따라 전혀 다른 결과를 냈고, 게임에서는 오래전부터 AI의 능력보다 어떤 역할을 맡기고 어떻게 배치했는가가 플레이 경험을 좌우해왔다. 생성형 AI가 등장한 뒤에도 이 원칙은 크게 달라지지 않았다. 오히려 AI가 할 수 있는 일이 많아질수록, 어떤 도구를 쓸 수 있는지, 어느 정도의 권한을 가졌는지, 실패를 어떻게 다루는지, 그리고 그 능력이 맡은 역할과 얼마나 잘 맞는지가 더 중요해지고 있다.

결국 가장 뛰어난 지능을 만드는 것과 가장 좋은 결과를 만드는 것은 같은 문제가 아니다. AGI에 도달했는지를 둘러싼 논쟁은 계속되겠지만, 실제 현장에서는 그보다 먼저 답해야 할 질문이 남는다.

그 지능을 어디에, 어떻게 배치할 것인가.