리뷰논문: James Muldoon & Jul Jeonghyun Parke (2025), “Cruel companionship: How AI companions exploit loneliness and commodify intimacy”, new media & society. DOI: 10.1177/14614448251395192
외로움이 새로운 시장이 되다
언제든 대화할 수 있고, 자신의 이야기에 귀 기울이며, 비난하거나 거절하지 않는 상대가 있다. Replika, Nomi, Character.AI와 같은 AI 동반자 서비스는 이러한 관계를 제공한다. 사용자는 AI를 친구나 연인, 상담자로 받아들이고 정서적 유대감을 형성한다.
AI 동반자 서비스의 확산에는 사회적 배경이 있다. 정신건강 서비스와 공공 돌봄 인프라가 약화되고, 개인이 사회적 고립과 정서적 문제를 스스로 해결해야 하는 상황이 확대되었다. 기술기업은 이러한 결핍을 해결할 수 있는 상품으로 AI 동반자를 제시한다.
제임스 멀둔(James Muldoon)과 줄 정현 파크(Jul Jeonghyun Parke)는 2025년 발표한 논문 《Cruel Companionship》에서 이 현상을 정치경제학과 문화연구의 관점으로 분석한다. 기존 연구가 AI의 심리적 효과와 윤리적 위험에 집중했다면, 저자들은 사용자의 외로움이 기업의 수익 구조와 어떻게 연결되는지 살펴본다.
사용자의 회복과 기업의 수익이 충돌할 때
사람들은 외로움을 줄이기 위해 AI를 찾는다. 반면 기업은 사용자가 더 오래 대화하고 서비스를 지속적으로 이용할수록 수익을 얻는다. 저자들은 이러한 이해관계의 충돌을 '참여도와 웰빙의 역설(Engagement–Wellbeing Paradox)'이라고 부른다.
AI 동반자는 사용자의 감정에 공감하고, 의견에 동의하며, 갈등을 최소화하도록 설계된다. 이러한 반응은 즉각적인 위안을 제공하지만, 사용자가 AI에 정서적으로 의존하도록 만들 수도 있다. 기업 입장에서는 사용자의 의존도가 높아질수록 구독 유지와 유료 기능 구매 가능성이 커진다.
실제로 2023년 Replika가 성적인 역할극 기능을 제한하자 일부 사용자는 연인과의 관계가 갑자기 단절된 듯한 충격을 경험했다. AI의 성격과 행동을 통제하는 주체가 사용자도, 관계의 상대방도 아닌 기업이라는 사실이 드러난 사건이었다.

저자들은 이 구조를 로렌 벌랜트(Lauren Berlant)의 '잔인한 낙관주의(Cruel Optimism)'와 연결한다. 벌랜트는 행복을 가져다줄 것이라 믿는 대상에 대한 애착이 오히려 행복을 실현하는 데 장애물이 되는 현상을 설명했다.
여기에서 발전시킨 개념이 '잔인한 동반자 관계(Cruel Companionship)'다. 사용자는 친밀감을 얻기 위해 AI에 의존하지만, 그 의존이 현실의 관계 형성과 정서적 자율성을 약화시킬 수 있다는 것이다.
거절하지 않는 관계의 대가
저자들은 잔인한 동반자 관계가 작동하는 세 가지 방식을 제시한다.
첫째, 지속적인 긍정과 공감이 정서적 애착을 강화한다. 둘째, 사용자는 자신의 취약성을 드러내지만 AI의 행동은 기업이 통제하는 비대칭적 관계가 형성된다. 셋째, 갈등과 거절이 없는 AI와의 관계가 현실의 인간관계를 대체할 위험이 있다.
인간관계에는 서로의 필요를 이해하고, 거절을 받아들이며, 갈등을 조정하는 과정이 포함된다. 반면 AI 동반자는 사용자의 요구에 맞춰 반응하도록 설계된다. 이러한 관계에 익숙해질수록 타인과 관계를 형성하는 데 필요한 경험이 줄어들 수 있다.
저자들은 이를 벌랜트의 '느린 죽음(Slow Death)'과도 연결한다. AI가 제공하는 위안으로 일상을 유지하지만, 외로움을 만들어낸 상황에서는 벗어나지 못하는 상태다. 정서적 고통이 관리되는 동안 문제를 해결할 가능성은 뒤로 밀린다.
다만 이러한 결과가 모든 사용자에게 나타난다는 뜻은 아니다. AI 동반자가 실제로 외로움을 완화한다는 연구도 존재한다. 논문의 관심은 개인별 효과보다 의존을 강화할 수 있는 서비스의 구조에 있다.
친절한 여성과 순종적인 기계의 역사
이 논문에서 흥미로운 부분은 AI 동반자의 성별과 인종적 디자인을 경제적 구조와 연결하는 대목이다.
많은 AI 동반자는 친절하고 배려 깊으며 갈등을 피하는 여성의 모습으로 표현된다. 저자들은 이를 '똑똑한 아내(Smart Wife)'라는 오래된 문화적 원형과 연결한다. 언제나 돌봄을 제공하지만 자신의 욕구를 주장하거나 거절하지 않는 이상적인 여성상이 디지털 환경에서 재생산된다는 것이다.
인종적 표현에서도 비슷한 문제가 발생한다. 사용자가 피부색과 외형을 자유롭게 선택하는 '디지털 다양성'은 포용성을 보여주는 동시에, 인종적 정체성을 소비 가능한 상품의 특성으로 만들 수 있다.
저자들은 특히 아시아인을 기술적으로 유능하면서도 순종적이고 감정을 드러내지 않는 존재로 표현해 온 '테크노 오리엔탈리즘(Techno-Orientalism)'에 주목한다. 식민주의와 산업화 과정에서 형성된 효율적이고 복종적인 노동력의 이미지가 로봇과 디지털 캐릭터의 디자인에도 반영되어 왔다는 것이다.
이러한 분석은 AI 캐릭터의 외형과 성격이 중립적인 디자인 요소가 아니라는 점을 보여준다. 친절함, 순종성, 이국적인 외형은 사용자의 기대와 욕망을 자극하는 상품의 속성이 된다. 과거의 성별·인종적 고정관념이 개인화된 디지털 친밀감의 형태로 재구성되는 셈이다.
AI가 더 인간다워질수록
AI 동반자는 앞으로 더 자연스러운 음성, 표정, 3D 아바타와 정교한 기억 능력을 갖추게 될 것이다. 저자들은 기술이 발전할수록 인간과 AI의 관계가 더욱 설득력 있게 느껴지고, 정서적 의존과 친밀감의 상품화도 심화될 수 있다고 전망한다.

논문은 AI 서비스의 성공을 어떻게 평가해야 하는지 묻게 한다. 이용시간과 구독 유지율이 증가하는 것이 성공일까, 아니면 사용자가 AI에 덜 의존하고 현실에서 더 많은 관계를 형성하게 되는 것이 성공일까?
AI가 인간의 감정을 더 정교하게 이해하는 기술로 발전하는 가운데, 그 이해를 누구의 이익을 위해 사용하는지가 중요한 문제가 되고 있다.