[논문리뷰] 진실적 글쓰기 vs 통계적 글쓰기

[메타X(MetaX)] 생성형 인공지능(AI)의 시대에 교육 현장은 효율성과 윤리라는 두 가지 낡은 틀 안에서 논쟁을 반복해 왔다. 그러나 가정준과 강채희의 논문 「AI 자기서사 글쓰기에 나타난 인지부조화와 불쾌한 골짜기 반응」은 이러한 통념적인 질문들을 과감히 우회하여 글쓰기의 본질적인 문제, 즉 '주체성'의 문제로 논의를 확장한다. 이 연구는 "AI가 얼마나 효율적인가?" 혹은 "윤리적으로 타당한가?" 대신 "AI가 개입했을 때, 학습자는 그 글을 온전히 자기 자신의 것으로 느끼는가?"라는 훨씬 더 근원적인 질문을 던진다. 저자들은 AI가 매끄러운 문장을 산출해 줄수록, 자기 고유의 경험을 서술해야 하는 '자기서사(Self-narrative)' 영역에서는 오히려 학습자가 강한 거부감과 이질감을 느낀다는 역설적인 현상을 포착했다. 이 논문의 핵심적인 통찰은 AI의 기술적 실패가 아닌, 기술적 성공(매끄러움)이 인간의 '진실된 경험'과 충돌할 때 발생하는 심리적 균열을 다룬다는 점에 있다. 이는 글쓰기 교육의 방법론을 넘어, 통계적 확률에 기반한 AI의 언어와 고유한 경험에 기반한 인간의 언어가 어떻게 다른지를 규명하는 시도로 읽힌다.

언어적 불쾌한 골짜기

이 논문에서 흥미로운 지점은 '불쾌한 골짜기(Uncanny Valley)' 이론을 텍스트의 영역으로 확장한 '언어적 불쾌한 골짜기(Linguistic Uncanny Valley)'의 도입이다. 통상적으로 불쾌한 골짜기는 로봇의 외형이 인간과 어설프게 닮았을 때 느끼는 시각적 혐오감을 의미한다. 그러나 저자들은 이를 글쓰기 과정에서 AI가 생성한 문장이 문법적으로 완벽하고 유려함에도 불구하고, 정서적 맥락이 미세하게 어긋날 때 학습자가 느끼는 소름 끼치는 위화감으로 재정의한다.

실험에 참여한 학생들의 반응은 이 개념을 생생하게 증언한다. 학생들은 챗지피티가 수정한 글을 보며 "글이 뉴스 보도처럼 작성되었다"거나 "매우 건조하고 매끈한 철 같다"는 표현을 사용하여 거부감을 드러냈다. 이는 문장의 오류가 있어서가 아니라, 오히려 지나치게 완벽하고 매끄럽기 때문에 발생한 공포다. AI는 학습자의 울퉁불퉁하고 거친 감정의 결을 '평균적인 언어'로 매끄럽게 마모시켰고, 이 과정에서 학습자는 자신의 고유한 경험이 박제되거나 타자화되는 경험을 하게 된 것이다. 이 연구는 AI의 문장 생성 능력이 인간과 유사해질수록, 그 속에 담긴 '진실된 감정'의 부재가 더욱 뚜렷하게 부각되며, 이것이 인간에게 심리적 불편함을 유발한다는 사실을 실증적으로 보여주었다는 점에서 중요한 학술적 의의를 갖는다.

과제 유형에 따른 극명한 반응 차이

저자들은 연구 설계를 통해 AI의 유용성이 절대적이지 않으며, 글쓰기의 장르와 목적에 따라 완전히 다른 양상으로 나타남을 밝혀냈다. 연구진은 동일한 텍스트를 읽은 학생들에게 논리적 설명이 중심이 되는 '논술형 과제(A)'와 개인의 경험과 감정을 서술하는 '자기서사형 과제(B)'를 수행하게 한 뒤 AI를 활용하도록 했다 . 결과는 극명하게 갈렸다. 객관적 정보와 논리적 구조가 중요한 논술형 과제에서 학생들은 AI의 개입을 '유용한 도구'이자 효율적인 보조자로 환영했다.

그러나 자신의 내면과 경험을 서술해야 하는 자기서사형 과제에서는 정반대의 현상이 일어났다. 학생들은 AI가 자신의 개성적인 문장을 표준화하는 것에 대해 "내 말을 알아듣지 못했다", "나의 이야기가 아니다", "감정이 제거되었다"며 강한 불만을 제기했다. 이는 효율성이라는 잣대가 인간의 진정성이 요구되는 영역에서는 오히려 '독'이 될 수 있음을 시사한다. 자기서사에서 중요한 것은 매끄러운 문장이 아니라, 비록 투박하더라도 그 경험을 겪은 '나'의 고유성이 문장에 묻어나는 것이다. 따라서 이 논문은 AI가 모든 글쓰기의 만능키가 될 수 없으며, '진실성(Truth)'이 담보되어야 하는 글쓰기에서는 통계적 확률 모델인 AI가 필연적으로 한계를 드러낼 수밖에 없음을 논증한다.

인지부조화의 교육적 역설: 거부감이 만들어낸 주체성의 회복

통상적으로 교육 현장에서 학습자의 '인지부조화(Cognitive Dissonance)'는 해소되어야 할 혼란이나 부정적인 상태로 간주된다. 그러나 저자들은 이 인지부조화를 '주체적 사고가 시작되는 지점'으로 재해석하는 탁월한 관점을 제시한다. 학습자들은 AI가 써준 유려한 글을 보고 "이건 내가 쓴 글이 아니다"라고 느끼는 순간, 역설적으로 "그렇다면 진짜 내 생각은 무엇인가?", "나다운 표현은 무엇인가?"를 치열하게 고민하게 된다.

즉, AI가 제공한 '평균화된 타인의 언어'와의 충돌은 학습자로 하여금 자신의 고유성과 서사적 정체성을 지키려는 의지를 각성시키는 촉매제가 되었다. 학생들은 AI의 결과물을 거부함으로써 자신의 감정과 경험에 대한 소유권을 재확인했다. "앞으로는 내 감정이 들어가는 글에는 AI를 쓰지 않겠다"는 학생의 다짐은, AI의 실패가 오히려 인간 글쓰기의 본질을 회복시키는 계기가 될 수 있음을 보여준다. 이 논문은 AI에 대한 의존을 줄이는 방법이 강제적인 금지가 아니라, 학습자 스스로 AI 결과물과의 비교를 통해 자신의 언어가 가진 고유한 가치를 깨닫게 하는 것임을 시사한다.

평균의 소멸과 고유성의 저항: 통계적 모델 vs 서사적 정체성

이 논문의 기저에는 AI의 작동 원리인 '확률적 통계 모델'과 인간 존재의 본질인 '서사적 정체성(Narrative Identity)' 간의 충돌에 대한 철학적 통찰이 깔려 있다. AI(LLM)는 방대한 데이터를 학습하여 가장 확률이 높은, 즉 '가장 평균적이고 보편적인' 다음 단어를 예측하여 문장을 생성한다. 반면, 인간의 자기서사는 삶의 불균질한 사건들과 튀어나온 기억들을 엮어 만드는 지극히 사적이고 '고유한' 것이다.

따라서 자기서사 글쓰기에 AI를 활용한다는 것은, 나의 고유하고 구체적인 삶의 궤적을 거대한 데이터의 평균값으로 환원시키는 행위와 같다. 저자들은 이것이 필연적으로 '자아의 소멸(Identity erasure)'과 같은 공포를 유발한다고 분석한다. 학생들의 거부감은 단순히 글이 마음에 안 든다는 취향의 문제가 아니라, 자신의 존재가 평균으로 수렴되는 것에 대한 본능적인 저항이었다. 이 연구는 AI가 인간의 흉내를 낼 수는 있어도, 결코 인간의 고유한 서사적 정체성을 대신 구축해 줄 수는 없음을 명확히 한다.

AI 시대, 인간 중심 글쓰기 설계를 위한 이정표

 저자들은 AI의 사용을 원천적으로 봉쇄하거나, 반대로 무비판적으로 수용하는 양극단의 태도를 모두 지양한다. 대신 과제 설계를 통해 AI가 개입하더라도 인간의 사유가 중심이 될 수밖에 없는 조건을 만들어야 한다고 제안한다.

이 연구의 수확은 "AI가 가장 잘 작동하지 않는 과제 유형"을 역설적으로 밝혀냈다는 점이다. 자기서사 글쓰기와 같이 진실된 경험과 감정의 해석이 요구되는 과제에서는, 학습자 스스로가 AI의 한계를 인식하고 주체성을 회복하려는 자정 작용이 일어난다. 이는 기술이 인간을 대체할 것이라는 막연한 공포와 달리, 기술이 고도로 발달할수록 인간은 더욱더 '결함이 있더라도 진실된 인간성'을 갈구하게 될 것이라는 희망적인 메시지를 던진다. 이 논문은 AI라는 거울에 비친 인간의 얼굴을 들여다봄으로써, 우리가 지켜야 할 글쓰기의 가치가 무엇인지를 다시금 묻게한다.

[METAX = 류성훈 기자]

[저작권자ⓒ META-X. 무단전재-재배포 금지]