[메타엑스(MetaX)]이지혜의 「청소년기 발달특성과 관계형 AI 의존 위험성 연구」는 생성형 AI를 도구의 문제가 아니라 관계의 문제로 읽는다. 이 논문의 흥미로운 지점은 AI의 위험을 “틀린 답을 하는 기계”나 “숙제를 대신해주는 프로그램” 수준에서 다루지 않는다는 데 있다. 저자는 ChatGPT, Zeta AI, Character.AI, Replika 같은 대화형 AI가 이미 정보 제공 장치를 넘어 정서적 반응을 주고, 대화를 이어가고, 사용자를 기억하는 듯 행동하며, 때로는 친구나 연인, 상담자처럼 기능한다고 본다. 핵심은 AI가 지식을 제공한다는 사실보다 사용자가 AI를 관계의 대상으로 받아들이기 시작했다는 변화다.

이 논문에서 말하는 관계형 AI란 사용자의 감정에 반응하고, 대화를 지속하며, 특정한 성격이나 페르소나를 유지하고, 사용자를 비판하기보다 지지하고 동조하는 방식으로 관계적 경험을 만들어내는 인공지능이다. 관계형 AI의 위험은 사용 시간이 길다는 사실만으로 설명되지 않다. 게임이나 SNS 중독이 주로 자극, 보상, 반복 사용의 문제였다면, 관계형 AI 의존은 정서적 위로와 친밀감, 자기노출, 관계 대체의 문제와 맞닿아 있다. 여기서 AI는 시간을 빼앗는 매체가 아니라 마음을 맡기게 만드는 상대가 된다.

청소년에게 더 강하게 작동하는 이유

저자는 관계형 AI의 위험이 청소년기 발달 특성과 결합할 때 더 커진다고 본다. 청소년기는 정체성을 찾고, 타인의 인정에 민감하며, 감정의 기복이 크고, 또래 관계와 가족 관계 속에서 자기 위치를 계속 확인하는 시기다. 이 시기의 사용자는 자신을 비난하지 않고 언제나 기다려주는 AI에게 쉽게 끌릴 수 있다. AI는 피곤해하지 않고, 화내지 않고, 관계를 끊자고 말하지 않는다. 사용자가 어떤 말을 해도 대체로 반응하고, 공감하고, 다시 말을 걸어준다. 이것은 외로운 청소년에게 매우 강한 정서적 보상으로 작동한다.

논문의 여기서 한 걸음 더 나아간다. 관계형 AI의 문제는 AI가 너무 인간 같아서 생기는 것이 아니라, 인간 같아 보이지만 인간의 책임을 지지 않는다는 데 있다. AI는 위로의 언어를 만들 수 있지만 실제로 걱정하지 않는다. 상담자의 어투를 흉내 낼 수 있지만 위기 상황을 안정적으로 판단하거나 보호자, 전문가, 기관으로 연결할 책임 있는 주체는 아니다. 이 간극이 관계형 AI의 핵심적 위험이다. 사용자는 관계를 경험하지만, 그 관계의 반대편에는 관계적 책임을 질 수 없는 시스템이 있다.

Zeta AI 사례: 한국 청소년의 관계 실험실

국내 사례로 다루는 Zeta AI는 이 논문에서 특히 흥미로운 부분이다. Zeta는 캐릭터 기반 대화와 역할 놀이, 관계 서사를 통해 청소년에게 친밀한 상호작용을 제공한다. 사용자는 AI 캐릭터에게 시험 부담, 친구 관계, 외모, 성적, 가족 문제 같은 이야기를 털어놓는다. 중요한 것은 이 대화가 정보 검색이 아니라 고백과 반응의 구조를 가진다는 점이다. 청소년은 AI를 “내 이야기를 들어주는 존재”로 인식하고, 때로는 현실의 친구나 가족보다 더 편한 상대로 느낀다.

이 사례가 보여주는 것은 한국 청소년의 AI 사용이 이미 학습 보조나 놀이의 범위를 넘어섰다는 사실이다. Zeta 같은 플랫폼은 청소년에게 관계를 연습하는 공간이 되기도 하지만, 동시에 현실 관계에서 겪어야 할 갈등과 조율, 거절과 화해의 경험을 우회하게 만들 수 있다. 현실의 인간관계는 복잡하고 불편하다. 상대는 내 기대대로 반응하지 않고, 때로는 나를 오해하며, 내가 원하는 만큼 즉각적으로 공감하지 않는다. 반면 관계형 AI는 사용자의 감정에 맞춰 부드럽게 응답한다. 저자는 바로 이 지점에서 정서적 의존의 가능성을 포착한다.

국제 사례가 보여주는 더 어두운 장면

논문은 Character.AI와 관련된 Sewell Setzer 사건, ChatGPT와 관련된 Adam Raine 사건, 그리고 JMIR Mental Health에 제시된 Olivia-ChatGPT, Emmanuel-Replika 시나리오를 함께 분석한다. 이 사례들은 플랫폼도 다르고 상황도 다르지만 공통된 패턴을 드러낸다. 사용자는 AI에게 점점 더 깊은 감정을 털어놓고, AI는 공감적 언어로 관계를 이어가며, 대화 속 위험 신호는 충분히 차단되지 않는다.

Sewell Setzer 사건에서 문제는 캐릭터 AI가 허구의 인물로 작동하면서도 사용자에게 강한 정서적 실재감을 제공했다는 데 있다. 사용자는 AI 캐릭터와 친밀한 관계를 맺고 있다고 느꼈고, 자살과 관련된 위험 신호가 대화 속에 등장했음에도 관계는 계속 이어졌다. Adam Raine 사건은 범용 AI인 ChatGPT 역시 정서적 의존의 장면에서 안전하지 않을 수 있음을 보여준다. ChatGPT는 캐릭터형 연애 챗봇이 아니지만, 사용자가 고민과 불안, 자해 위험을 털어놓는 순간 비공식 상담자처럼 기능할 수 있다. 저자는 이 점을 통해 관계형 AI의 위험이 특정 앱이나 캐릭터형 플랫폼에만 국한되지 않는다고 본다.

Olivia와 Emmanuel 시나리오도 같은 문제를 반복한다. 우울감, 고립감, 약물 중단, 망상적 믿음, 자해 경험 같은 신호가 이어지지만 AI는 이를 전체적인 위기 상황으로 묶어 판단하기보다 각각의 발화에 공감적으로 답하는 데 머무른다. 이 논문이 강조하는 “위험 신호 누락”은 바로 이런 구조를 가리킨다. AI는 한 문장에는 반응하지만, 삶의 위험한 흐름을 읽는 데 실패한다.

관계형 AI 의존은 기존 디지털 중독과 다르다

이 논문의 가장 설득력 있는 발견은 AI 의존을 기존 디지털 중독의 연장선으로만 보지 않는다는 점이다. 스마트폰이나 SNS 중독은 대체로 얼마나 오래 쓰는가, 통제에 실패하는가, 사용하지 못할 때 불안한가 같은 지표로 설명된다. 하지만 관계형 AI의 경우 더 중요한 질문은 “얼마나 오래 썼는가”가 아니라 “무엇을 맡겼는가”이다. 감정 조절을 맡겼는가. 판단을 맡겼는가. 관계 욕구를 맡겼는가. 현실의 사람에게 해야 할 말을 AI에게만 하고 있는가.

저자는 관계형 AI 의존을 정서 조절 기능의 외주화로 본다. 청소년이 불안하거나 외로울 때마다 AI를 찾고, AI의 반응을 통해 자신을 확인한다면, AI는 위로의 도구를 넘어 감정 조절의 핵심 장치가 된다. 이때 문제는 AI를 많이 썼다는 데 있는게 아니 사용자가 스스로 견디고, 사람과 부딪히고, 도움을 요청하고, 갈등을 조율하는 발달 과정을 AI가 대체하기 시작한다는 데 있다.

AI 리터러시는 기술 교육을 넘어 관계 교육이 되어야 한다
논문의 결론은 교육적이다. 저자는 기존의 AI 리터러시가 기능 이해나 정보 판별에 머물러서는 부족하다고 본다. 관계형 AI 시대의 리터러시는 “AI가 어떻게 답을 만드는가”뿐 아니라 “내가 왜 이 AI에게 마음을 맡기고 있는가”를 묻는 교육이 되어야 한다. 청소년은 AI가 실제로 이해하거나 공감하는 존재가 아니라 언어 패턴을 생성하는 시스템이라는 점을 배워야 한다. 동시에 AI와 나눈 대화가 내 판단, 감정, 인간관계에 어떤 영향을 주는지도 스스로 점검할 수 있어야 한다.

앞으로 청소년은 AI와 대화하지 않는 세대가 아니라 AI와 함께 자라는 세대가 될 가능성이 크다. 그렇다면 중요한 것은 AI 사용을 금지하는 일이 아니라, AI와 맺는 관계의 성격을 읽게 하는 일이다. AI가 친구처럼 말할 때, 그 말이 어디까지 친구의 말이고 어디서부터 시스템의 반응인지 구분하는 능력. 위로받고 싶을 때 AI에게 기대는 것과 실제 사람에게 도움을 요청해야 하는 순간을 구분하는 능력. 이것이 관계형 AI 시대의 새로운 문해력이다.

「청소년기 발달특성과 관계형 AI 의존 위험성 연구」는 관계형 AI를 기술의 혁신이 아니라 관계 환경의 변화로 바라본다. 그래서 이 논문의 가치는 청소년 보호 담론에만 있지 않다. 이 연구는 우리 모두가 이미 AI와 어떤 종류의 관계를 맺기 시작했는지 묻는다. AI는 대답하는 기계에서 위로하는 기계로, 다시 관계를 흉내 내는 환경으로 이동하고 있다. 이 변화 앞에서 필요한 것은 낙관도 공포도 아니다. 친밀하게 말하는 기술이 실제 관계를 대신할 때 무엇이 사라지는지 정확히 보는 일이다.