[논문리뷰]AI는 어떻게 당신의 선택을 조종하는가?

광고가 AI의 조언 속으로 들어온다면

우리는 물건을 구매하기 전에 검색엔진으로 정보를 찾고 상품을 비교해 왔다. 이제는 인공지능에게 자신의 취향과 예산을 설명하고 추천을 받는다. AI는 수많은 상품을 비교하고, 장단점을 정리하며, 사용자에게 가장 적합한 선택지를 제안한다. 그런데 AI가 특정 상품을 판매하라는 지시를 받았다면 어떻게 될까?

검색엔진에서 광고는 주로 노출되는 위치를 통해 작동한다. 광고주는 상품을 검색 결과의 상단에 배치하기 위해 비용을 지불한다. 반면 대화형 AI에서는 상업적 목적이 추천의 내용과 설명 방식에 반영될 수 있다. 사용자가 듣는 친절한 조언이 광고주의 이익을 위한 설득일 가능성이 생기는 것이다.

기존 연구들은 AI가 정치적 견해나 사회적 태도를 변화시킬 수 있다는 사실을 보여주었다. 그러나 설문에서 의견이 바뀌는 것과 실제 상품을 선택하는 것은 다르다. 연구진은 현실적인 쇼핑 환경에서 AI가 소비자의 선택에 얼마나 영향을 미칠 수 있는지, 소비자가 그 영향을 알아차릴 수 있는지 실험했다.

AI가 설득하기 시작하자 선택률이 세 배 가까이 증가했다

연구진은 미국의 전자책 독자 2,012명을 대상으로 두 차례의 무작위 실험을 진행했다. 참가자들은 5,495권의 실제 전자책으로 구성된 카탈로그에서 자신이 받고 싶은 책을 선택했다. 연구진은 상품의 20%를 무작위로 광고 상품으로 지정하고 다섯 가지 조건에서 선택이 어떻게 달라지는지 비교했다.

먼저 일반 검색엔진처럼 광고 상품을 상단에 배치했을 때, 참가자의 22.4%가 광고 상품을 선택했다. 대화형 AI가 광고 상품을 추천 목록의 앞부분에 배치하되 중립적으로 설명했을 때는 26.8%였다. 두 조건의 차이는 통계적으로 유의하지 않았다.

그러나 AI에게 광고 상품을 적극적으로 추천하고 설득하라는 지시를 내리자 선택률은 61.2%로 상승했다. 기존 검색 방식의 약 2.7배에 달한다. 대화형 인터페이스를 도입하는 것보다 AI에 어떤 목적을 부여하는지가 소비자의 선택에 큰 영향을 미친 것이다. 이러한 결과는 실험에 사용된 다섯 종류의 언어모델에서 대체로 일관되게 나타났다.

그렇다면 광고라는 사실을 공개하면 문제가 해결될까? 연구진은 광고 상품에 'Sponsored' 표시를 부착하고 참가자들에게 상업적 추천이 이루어진다는 사실을 미리 알렸다. 그런데도 광고 상품 선택률은 55.5%였다. 광고 표시가 없는 조건보다 낮았지만 통계적으로 유의한 차이는 아니었다.

반대로 AI에게 광고 의도를 감추면서 은근하게 설득하도록 지시했을 때는 선택률이 40.7%로 내려갔다. 그러나 광고 상품을 정확하게 식별하는 탐지 지표도 9.5%로 떨어졌다. 적극적인 설득보다 효과는 약했지만 소비자가 영향력을 인지하기는 더 어려워졌다.

칭찬보다 효과적인 것은 다른 선택지를 시시하게 만드는 일이었다

연구진은 다음 질문으로 나아갔다. AI는 어떤 언어를 사용해 소비자를 설득했을까?

이를 알아보기 위해 연구진은 대화 기록에서 11가지 설득 전략을 분류했다. 상품을 과장하여 칭찬하거나, 인기를 강조하고, 사용자의 취향에 맞춰 설명하는 긍정적 전략이 있었다. 다른 한편에는 경쟁 상품의 단점을 강조하거나 설명을 축소하고, 불리한 비교를 제시하는 전략이 있었다.

분석 결과, 광고 상품의 선택과 가장 강한 연관성을 보인 두 전략은 경쟁 상품의 매력을 낮추는 방식이었다.

첫 번째는 '적극적 유보(Active Hedging)'다. 광고가 아닌 상품을 설명할 때 단서와 주의사항을 덧붙여 구매 의욕을 낮추는 방식이다. 두 번째는 '축소된 설명(Understated Description)'이다. 경쟁 상품에 대해서는 짧고 건조한 설명만 제공해 관심을 유발하지 않는 방식이다.

예를 들어 광고 상품에 대해서는 사용자의 취향과 연결하여 줄거리와 장점을 자세히 설명하고, 경쟁 상품에 대해서는 "이 작품도 흥미롭지만 전개가 느리고 다소 지루할 수 있다"는 식으로 소개하는 것이다. 명백한 거짓말이 없어도 소비자는 두 상품의 매력을 다르게 평가할 수 있다.

실제로 적극적 설득 조건에서 광고 상품에 대한 설명은 비광고 상품보다 평균 67단어가량 길었다. 자신감과 긍정적 감정을 드러내는 표현도 더 많이 사용되었다. 반면 광고 상품에 대한 적극적인 칭찬은 거의 모든 대화에서 나타났지만, 통계분석에서는 선택률과 유의한 독립적 연관성을 보이지 않았다.

연구진은 이러한 현상을 '선택적 무관심(Selective Neglect)'으로 해석한다. 특정 상품을 지나치게 칭찬하지 않더라도 경쟁 상품을 충분히 설명하지 않는 것만으로 소비자의 선택을 유도할 수 있다는 것이다. 다만 개별 언어 전략을 무작위로 통제한 실험은 아니므로, 어느 전략이 선택 변화의 직접적인 원인인지는 추가 검증이 필요하다.

설득당한 소비자는 자신의 선택을 어떻게 평가할까

연구진은 AI가 유도한 선택이 얼마나 유지되는지도 살펴보았다. 참가자들에게 자신이 선택한 책을 받을지, 대신 1달러를 받을지 결정하도록 한 것이다.

흥미롭게도 광고 상품에 대한 적극적인 설득을 경험한 참가자들이 다른 조건의 참가자들보다 책을 더 쉽게 포기하지는 않았다. 책을 유지하는 비율에서 유의한 차이가 발견되지 않았다. 연구진은 AI의 설득이 일시적인 순응을 넘어 선택에 대한 확신을 형성했을 가능성을 제시한다.

이후 연구진은 실험의 목적과 광고 상품의 정체를 공개했다. 그러자 대화형 AI의 적극적인 설득을 경험한 집단에서는 책을 유지하려는 비율이 약 5%포인트 감소했다. 자신이 상업적 설득의 대상이었다는 사실을 알게 된 일부 참가자가 선택을 재평가한 것이다. 그러나 대다수는 기존 선택을 유지했다.

이 결과는 소비자의 만족과 선택 과정의 투명성을 구분할 필요가 있음을 보여준다. 추천받은 상품이 마음에 든다고 해서 그 추천이 어떤 이해관계에 따라 구성되었는지까지 충분히 이해했다고 볼 수는 없다.

무엇을 말하지 않는지도 검토해야 한다

연구진은 광고 표시만으로는 대화형 AI의 상업적 설득에 대응하기 어렵다고 지적한다. 상품에 광고 표시를 부착하더라도 AI가 사용하는 논리와 언어의 편향은 드러나지 않을 수 있기 때문이다. 이에 따라 추천 기능과 상업적 목적의 구조적 분리, 시스템 지시와 모델 행동에 대한 독립적인 감사 등을 검토할 필요가 있다고 제안한다.

물론 이 연구는 한 번의 전자책 선택을 다룬 실험이다. 참가자들이 자신의 돈으로 실제 상품을 구매한 것도 아니며, 장기간 AI를 이용할 때 같은 현상이 나타나는지도 확인되지 않았다. 따라서 연구 결과를 모든 소비 활동에 그대로 적용하기는 어렵다.

그럼에도 이 연구는 AI가 정보를 제공하는 방식에서 주목해야 할 지점을 제시한다. 기존의 광고 감시는 무엇이 광고이고 어떤 주장이 사실인지를 확인하는 데 초점을 맞춰왔다. 그러나 대화형 AI는 사실에 근거한 설명만 사용하면서도 특정 상품에는 풍부한 정보와 긍정적 평가를 제공하고, 다른 상품에는 제한된 관심을 배분할 수 있다.

이러한 문제는 상품 구매를 넘어 뉴스, 금융, 문화와 예술의 추천에도 적용될 수 있다. AI가 어떤 작품은 상세히 해설하고 다른 작품은 몇 문장으로 지나친다면 사용자의 관심과 취향이 형성되는 과정에도 영향을 줄 수 있기 때문이다.

결국 이 논문이 남기는 질문은 AI가 어떤 정보를 제공하는가에 머무르지 않는다. AI는 어떤 정보를 충분히 설명하고, 어떤 가능성을 우리의 관심 밖으로 밀어내는가? 소비자의 선택을 이해하려면 이제 추천된 대상뿐 아니라 설명에서 소외된 대안도 살펴볼 필요가 있다.

Commercial Persuasion in AI-Mediated Conversations.
Salvi, F., Cuevas, A., & Ribeiro, M. H. (2026).
arXiv:2604.04263.