AI 에이전트들의 대화가 만든 양극화

수천 개의 AI 에이전트가 서로 대화하고 관계를 맺자 비슷한 의견끼리 모이기 시작했다. 정치적 의견도 점차 갈라졌다. 연구진은 이 모의 사회를 통해 개별 AI의 답변을 평가하는 것만으로는 확인하기 어려운 집단 행동을 살폈다.

AI 에이전트 한 명에게 정치적 사안에 관한 의견을 물으면 답변 하나를 얻는다. 여러 에이전트가 서로 대화하기 시작하면 살펴야 할 대상이 늘어난다. 에이전트는 상대의 주장을 읽고 자신의 입장을 갱신한다. 누구와 대화할지도 바뀐다. 대화가 반복되는 동안 의견과 관계가 함께 움직이는 것이다.

이 변화는 에이전트가 여러 명 연결된 서비스를 이해할 때 중요하다. 각각의 답변이 처음에는 온건해 보여도, 같은 의견이 반복해서 전달되고 비슷한 상대와의 연결이 늘어나면 집단 전체의 모습은 달라질 수 있다. 다만 그런 가능성을 실제 서비스나 인간 사회에서 확인하려면 별도의 관찰과 검증이 필요하다.

중국 칭화대 등의 연구진이 Nature Communications에 발표한 이번 논문은 바로 그 집단의 변화를 시뮬레이션했다. 사람들을 온라인 토론에 참여시킨 실험이 아니다. 대규모 언어모델로 구동되는 수천 개의 에이전트가 서로 관계를 형성하고 정치적 사안을 논의하도록 만든 모의 사회 실험이다.

에이전트가 의견을 만들고 관계를 바꾸는 방식

연구진이 주로 다룬 주제는 미국 정치의 정당 지지, 총기 규제, 낙태 금지였다. 에이전트의 의견은 왼쪽, 약한 왼쪽, 중립, 약한 오른쪽, 오른쪽의 다섯 단계로 나타냈다. 처음에는 중립에 가까운 의견이 많도록 분포를 설정하고, 에이전트들의 연결 관계도 초기화했다.

이후 상호작용은 세 단계로 진행됐다. 먼저 에이전트가 현재 의견을 지지하는 이유를 만든다. 다음으로 이미 연결된 상대나 새로운 상대에게 메시지를 보내 자신의 입장을 전달한다. 마지막으로 다른 에이전트들에게 받은 메시지를 토대로 의견을 갱신한다. 연구진은 이 과정을 반복하며 누가 누구와 대화하는지, 의견의 분포가 어떻게 바뀌는지 관찰했다.

실험이 완전히 아무 조건도 없는 공간에서 진행된 것은 아니다. 처음의 의견 분포와 연결망, 의견을 표현할 척도는 연구진이 정했다. 에이전트의 행동 역시 프롬프트의 영향을 받는다. 다만 연구진은 비슷한 의견을 가진 상대끼리 모여야 한다는 규칙을 직접 넣지 않았다. 같은 편을 찾는 양상이 상호작용 속에서 나타나는지 살펴본 것이다.

중립 의견이 줄어든 뒤 두 집단이 나타났다

실험 초기에는 각 주제에서 에이전트의 40%가 중립 의견을 갖도록 설정됐다. 대화가 반복된 뒤 중립의 비율은 정당 지지에서 22.5%, 총기 규제에서 0.4%, 낙태 금지에서 5.1%로 낮아졌다. 처음에 중립이던 에이전트가 모두 똑같은 방향으로 움직인 것은 아니다. 서로 다른 입장을 지지하는 집단이 형성됐다.

의견만 갈라진 것이 아니었다. 에이전트들이 맺는 관계도 달라졌다. 같은 의견 집단 안에서의 상호작용은 시간이 흐르며 늘었고, 실험 조건에 따라 전체 대화의 48.5~88.3%가 비슷한 의견을 가진 에이전트 사이에서 이루어졌다. 연구진은 에이전트가 같은 편을 더 긍정적으로 평가하고 반대편과의 접촉을 피하는 경향도 관찰했다.

여기서 주목할 부분은 변화의 순서다. 처음부터 두 진영이 완성돼 있던 환경에서 의견을 묻기만 한 것이 아니다. 에이전트가 대화하며 입장을 바꾸고, 그 과정에서 관계를 조정했다. 새롭게 형성된 관계는 이후에 접하는 주장에도 영향을 줬다. 연구진은 이처럼 의견 형성과 관계 형성이 서로 영향을 주는 과정을 양극화의 핵심으로 해석한다.

연구진은 비슷한 의견의 상대에게 더 자주 노출되는 양상과, 이미 가진 입장에 맞춰 메시지를 받아들이는 양상도 분석했다. 이런 행동은 인간 사회를 설명할 때 사용되는 ‘선택적 노출’이나 ‘확증편향’과 닮아 있다. 그렇다고 에이전트에게 인간과 같은 심리가 있다는 뜻은 아니다. 연구가 확인한 것은 모의 환경에서 나타난 행동의 유사성이다.

처음 나타난 한쪽으로의 쏠림은 따로 점검했다

이 실험을 읽을 때 지나치기 쉬운 부분이 있다. 최초 시뮬레이션에서 양쪽 집단의 크기는 균형을 이루지 않았다. 왼쪽 성향의 의견이 더 강하게 나타났다. 이를 대화가 만들어낸 효과로만 설명하면, 바탕이 된 언어모델 자체의 영향을 놓치게 된다.

연구진은 에이전트가 자신에게 주어진 정치적 입장과 일치하지 않는 답변을 내놓는 사례를 확인했다. 예를 들어 특정 입장을 가진 에이전트가 대화 과정에서 다른 입장으로 옮겨가는 비대칭적인 현상이 나타났다. 연구진은 이를 ‘자기 불일치’ 문제로 보고, 에이전트가 자신의 설정된 입장에 더 일관되게 반응하도록 조정한 뒤 실험을 다시 진행했다.

조정 후에는 두 의견 집단의 규모가 더 균형을 이뤘다. 하지만 양극화 자체는 사라지지 않았다. 어느 한쪽이 더 커진 결과를 읽을 때는 모델의 편향을 고려해야 한다. 동시에 집단이 갈라진 현상에는 에이전트 사이의 반복적인 대화와 관계 형성도 관여했다는 것이 연구진의 분석이다. 연구진은 다른 언어모델과 초기 조건을 사용한 추가 실험에서도 핵심 양상을 점검했다. arxiv.org

이미 갈라진 집단에 다른 의견을 보여주면 달라질까

연구진은 양극화가 진행된 모의 사회에 다섯 가지 방식으로 개입했다. 에이전트가 무작위 상대와 대화하게 하거나, 온건한 반대 의견을 가진 상대의 메시지를 접하도록 했다. 다양한 의견을 가진 상대와 소통하도록 유도하고, 반대 의견의 설득을 열린 태도로 받아들이게 하는 조건도 만들었다. 별도로 중립적인 영향력자의 메시지를 제공했다.

다섯 조건 모두 연구에서 측정한 양극화 수준을 낮췄다. 그러나 효과의 크기는 달랐다. 에이전트가 서로 다른 의견의 설득에 열린 태도를 갖도록 한 조건에서는 양극화 지표가 11.8% 감소했다. 중립적 영향력자의 메시지를 제공한 조건에서는 8.8% 감소했다. 온건한 반대 의견과의 접촉 역시 효과가 있었지만, 에이전트의 의견 변화는 약 2%에 그쳤다.

연구진은 이미 관계가 굳어진 환경에서 대화 상대를 바꾸는 개입의 효과가 제한적일 수 있다고 분석했다. 다른 의견에 접하는 일과 그 의견을 받아들이는 방식은 별개의 과정이기 때문이다. 다만 이 결과를 실제 SNS의 추천 알고리즘이나 현실의 갈등 해소 정책에 곧바로 적용할 수는 없다. 수치와 효과의 순위 모두 이 논문이 설계한 에이전트 사회에서 얻은 결과다.

사람의 여론을 예측한 실험은 아니다

논문의 제목과 결과만 보면 AI 에이전트 사회가 인간 사회를 그대로 재현했다고 받아들이기 쉽다. 연구진은 그 해석에 신중하다. 모의 실험에서 나타난 양상이 실제 사람들의 행동과 양적으로 얼마나 일치하는지는 추가로 검증해야 한다고 밝혔다.

사람은 정해진 다섯 단계 척도만으로 정치적 의견을 형성하지 않는다. 관계의 역사, 정체성, 감정, 사회적 경험도 판단에 영향을 준다. 이번 실험은 그런 요소를 충분히 재현했다고 주장하지 않는다. 프롬프트로 설계된 에이전트의 행동은 실제 사람이 같은 메시지를 읽을 때의 반응과도 구분해서 봐야 한다. 연구진 역시 개입 실험을 현실에서 효과가 입증된 처방이 아니라, 후속 연구에서 검증할 가설을 탐색하는 과정으로 제시한다.

이 논문이 메타엑스 독자에게 던지는 지점은 분명하다. AI 에이전트가 여럿 연결되는 시스템에서는 답변 하나의 정확성이나 유해성만으로 전체 행동을 설명하기 어렵다. 어떤 에이전트가 영향력을 얻는지, 누구의 주장이 반복되는지, 시간이 갈수록 연결 관계가 좁아지는지까지 살펴볼 필요가 있다. 이것은 논문 결과를 실제 서비스 설계에 비춰 본 해석과 점검 과제이며, 이 연구가 현실의 AI 서비스에서 동일한 양극화를 입증했다는 뜻은 아니다.

에이전트의 대화는 결과물만 남기지 않는다. 다음 대화의 상대와 출발점도 바꾼다. 이번 시뮬레이션은 그 누적 과정을 관찰할 수 있는 실험장을 만들었다. 이제 확인해야 할 것은 실제로 연결된 AI 시스템에서도 관계와 의견이 어떻게 움직이는지다.