논문제목: Generative AI 기반 콘텐츠 수용에서 인식 임계점의 이동 -인식 임계점 3단계 모델을 중심으로저자: 김영호, 김정기
DOI: https://doi.org/10.47294/KSBDA.27.3.7

김영호와 김정기의 연구 「Generative AI 기반 콘텐츠 수용에서 인식 임계점의 이동」은 생성형 AI 콘텐츠를 둘러싼 최근의 논쟁에서 흥미로운 모순을 포착한다. 이미지와 영상 생성 기술은 불과 몇 년 사이 급격히 발전했다. 2023년의 ‘윌 스미스 스파게티 먹기’ 영상에서는 얼굴과 음식물이 뒤엉키고 신체가 무너졌지만, 이제는 전문가조차 AI 생성 여부를 바로 판별하기 어려운 결과물이 나온다. 기술적 결함이 줄어들었다면 거부감도 감소해야 할 듯하다. 그러나 실제로는 AI가 영화, 광고, 음악, 게임에 자연스럽게 들어갈수록 논란이 더 자주 발생한다.

이 논문은 그 원인을 AI 콘텐츠를 접하는 인간의 판단 기준이 기술 발전에 따라 이동하고 있다고 본다. 초기에는 “진짜처럼 보이는가”가 중요했다면, 기술이 그 기준을 통과한 뒤에는 “누가 만들었다고 믿었는가”, 다시 말해 창작 주체를 둘러싼 신뢰가 중요해진다. 그 신뢰까지 안정되면 마지막으로 “어떤 규칙과 맥락에서 이 기술을 받아들일 것인가”가 문제가 된다. 논문은 이 이동을 감각적 임계점, 귀속적 임계점, 유희적 임계점이라는 세 단계로 설명한다.

첫 번째 임계점: 의미를 생각하기 전에 몸이 먼저 거부한다

첫 단계인 감각적 임계점은 가장 빠르게 작동한다. 사람은 AI 사용의 윤리나 창작자의 의도를 따지기 전에 화면 속 물체와 신체가 같은 세계의 법칙을 따르는지 먼저 확인한다. 손가락 수가 맞지 않거나 얼굴이 순간적으로 변형되고, 안경이 장면마다 사라졌다 나타나면 몰입은 즉시 끊어진다. 이때의 판단은 “좋은 AI인가, 나쁜 AI인가”가 아니라 “이 장면은 하나의 현실로 유지되는가”에 가깝다.
논문에서 분석한 윌 스미스 영상, 맥도날드 네덜란드 광고, 마블의 「시크릿 인베이전」 오프닝, 토이저러스의 소라 광고는 모두 이 단계에서 차단된다. 특히 토이저러스 광고에서 안경의 소실과 재등장은 개별 프레임의 미적 수준보다 장면 사이의 연속성이 더 중요할 수 있음을 보여준다. 이미지 하나는 그럴듯해도 앞 장면과 뒤 장면이 같은 세계라는 믿음을 유지하지 못하면 영상 전체가 무너진다.

여기서 논문의 중요한 발견은 투명성이 감각적 실패를 구제하지 못한다는 점이다. 발렌티노는 AI 협업 사실을 공개했지만 신체 변형과 부자연스러운 합성 때문에 거부 반응을 피하지 못했다. AI 사용을 솔직히 밝혔다는 윤리적 태도와 결과물의 감각적 완성도는 서로 다른 층위에서 판단된다. 더구나 럭셔리 브랜드나 전문 오케스트라처럼 정교함과 숙련을 핵심 가치로 내세우는 분야에서는 임계점이 더 높아진다. 같은 오류라도 개인의 실험 영상에서는 우스운 결함으로 넘어갈 수 있지만, 연주자의 손을 기형적으로 묘사하면 직업적 존엄성을 훼손한 것으로 받아들여진다. 기술적 결함은 화면 안에 머물지 않고, 묘사된 사람과 기관의 정체성으로 번진다.

두 번째 임계점: 좋은 결과물일수록 배신의 낙차가 커진다

감각적 임계점을 통과한 콘텐츠에서는 문제가 달라진다. 화면이 충분히 자연스러우면 수용자는 그 배후에 인간 배우, 가수, 감독, 디자이너가 존재한다고 가정한다. 논문은 이를 ‘귀속 구조’라고 부른다. 우리는 작품의 형식만 보는 것이 아니라 누군가가 어떤 의도로 행동했다는 전제를 함께 읽는다. 배우의 발음에는 연습과 연기가, 가수의 목소리에는 신체와 생애가, 다큐멘터리 영상에는 실제 사건을 목격한 카메라가 있다고 믿는다.

AI 활용 사실이 나중에 밝혀지면 결과물의 픽셀이나 음질은 그대로인데 평가가 뒤집힌다. 수용자가 다시 판단하는 대상은 완성도가 아니라 자신이 앞서 맺었던 해석 관계다. 「에이리언: 로물루스」에서 고인이 된 배우 이안 홈의 외형과 음성을 AI로 재현한 사례, 「더 브루탈리스트」에서 배우의 발음을 AI로 보정한 사례가 여기에 해당한다. 제작진에게 적극적으로 속이려는 의도가 없었더라도, 관객은 자신이 인간의 실연이라고 받아들였던 경험을 사후에 수정해야 한다.

논문은 의도적인 기만과 비의도적인 미공개를 제작 동기에서는 구분하면서도, 수용자의 경험에서는 두 경우가 비슷한 결과로 수렴한다고 본다. 바이든의 목소리를 복제한 로보콜처럼 처음부터 속이려 한 사례와, 제작 도구를 별도로 알리지 않았던 영화 사례는 윤리적 무게가 같지 않다. 그럼에도 수용자 입장에서는 이미 형성된 귀속이 무너졌다는 공통점이 있다. 사후 해명이 “우리는 일부만 사용했다”거나 “법적 동의를 얻었다”고 설명해도 최초의 경험은 복구되지 않는다.

오히려 기술적으로 뛰어난 콘텐츠일수록 낙차가 커질 수 있다. 조악한 AI 결과물은 처음부터 AI로 보이기 때문에 인간 창작이라는 믿음이 깊게 형성되지 않는다. 반대로 완성도가 높으면 수용자는 더 안정적으로 인간의 행위와 의도를 귀속한다. 이후 AI 사용이 드러났을 때 철회해야 하는 믿음도 그만큼 많아진다. 기술의 성공이 귀속적 배신의 조건을 강화하는 역설이 여기서 발생한다.

투명성은 설명문이 아니라 감상 조건을 배치하는 일이다

이 연구에서 투명성은 콘텐츠 옆에 ‘AI 사용’이라는 라벨을 붙이는 행정적 절차에 머물지 않는다. 공개 시점과 방식이 수용자의 해석 순서를 바꾸는 장치로 작동한다. 사람은 콘텐츠를 본 뒤 정보를 추가하는 것이 아니라, 자신이 먼저 받은 정보를 바탕으로 이후의 장면과 소리를 조직한다. 따라서 AI 사용을 감상 이후에 알리는 것과 감상 전에 알리는 것은 같은 사실을 전달하는 행위가 아니다.
사후 공개는 이미 형성된 인간 창작의 전제를 해체한다. 반면 사전 공개는 그 전제가 애초에 잘못 형성되지 않도록 한다. 수용자는 AI가 개입했다는 조건을 알고 작품에 들어가며, 어느 부분이 인간의 선택이고 어느 부분이 기계적 생성인지 탐색한다. 질문도 “왜 인간인 척했는가”에서 “인간은 이 기술을 무엇에 사용했는가”로 이동한다.

따라서 투명성의 실질적인 기능은 창작자와 수용자가 어떤 규칙 아래 만나는지를 미리 정하는 데 있다. 공개가 늦으면 해명이 되고, 공개가 앞서면 작품의 프레임이 된다. 이 시간적 차이가 동일한 기술을 기만과 실험으로 갈라놓는다.

세 번째 임계점: AI임을 알기 때문에 즐길 수 있다

세 번째인 유희적 임계점은 논문의 관점이 가장 선명하게 드러나는 부분이다. 여기서 ‘유희’는 가볍거나 웃긴 콘텐츠만을 뜻하지 않는다. AI라는 조건이 공개된 상태에서 수용자가 자발적으로 새로운 규칙에 참여하는 태도를 가리킨다. 진지한 다큐멘터리와 공포 게임도 이 의미에서는 유희적 수용에 포함될 수 있다.

게임 「미메시스」에서 AI 플레이어는 인간을 흉내 내며 다른 이용자를 속인다. 일상이나 정치에서 같은 행동은 기만이지만, 이 게임에서는 AI의 정체를 찾아내는 일이 핵심 규칙으로 사전에 제시된다. 귀속의 불확실성이 제거되는 대신 오히려 놀이의 긴장감으로 보존된다. 속임수가 사라진 것이 아니라, 속임수의 경계와 목적이 공개된 것이다.

다큐멘터리 「어나더 바디」는 딥페이크 피해자를 보호하고 사건을 재현하기 위해 딥페이크 기술을 사용한다. 기술만 보면 피해를 만든 수단과 피해자를 보호하는 수단이 같다. 그러나 제작 의도와 사용 방식이 먼저 공개되면서 AI는 현실을 위조하는 장치가 아니라 증언을 가능하게 하는 장치로 귀속된다. 기술의 의미는 기능 내부에 고정되어 있지 않고, 누가 어떤 조건에서 사용하는지에 따라 달라진다.

비틀스의 「Now and Then」 역시 이를 잘 보여준다. AI는 존 레논의 목소리를 새로 만들어낸 존재로 소개되지 않고, 기존 녹음의 잡음 속에서 목소리를 분리해낸 복원 도구로 제시된다. 메이킹 과정과 활용 방식이 함께 공개되면서 창작 주체의 자리는 AI로 넘어가지 않는다. 반면 그라임스의 Elf.Tech에서는 자신의 AI 음성을 팬들에게 공개해 공동 창작을 유도한다. 한쪽은 귀속을 보존하고, 다른 한쪽은 귀속을 개방한다. 방식은 반대지만 창작자가 규칙을 먼저 제시했다는 점은 같다.

뉴로사마의 팬들이 AI임을 알면서도 캐릭터에게 인격과 감정을 부여하는 현상도 같은 구조다. 사람들은 AI를 인간으로 오인해서 참여하지 않는다. AI라는 사실을 유지한 채 일시적으로 인격을 부여하고, 그 행동의 예측 불가능성을 콘텐츠로 즐긴다. 인간과 기계의 경계를 지우는 것이 아니라, 경계를 알고 넘나드는 데서 경험이 만들어진다.

플랫폼은 기술보다 먼저 수용 태도를 준비시킨다

논문은 투명성과 함께 수용 맥락을 중요한 변수로 제시한다. 같은 AI 합성이라도 뉴스에서 사용되면 사실성의 훼손으로 읽히지만, 게임에서는 규칙으로 받아들여질 수 있다. 광고에서는 브랜드가 약속해온 품질과 노동 윤리가 판단 기준이 되며, 미술관에서는 실험적 기술을 경험하리라는 기대가 먼저 형성된다.
아트테크하우스의 AI 전시는 공간과 전시 제목, 설명 체계 전체가 인간과 AI의 협업을 전제로 구성된다. 관람객은 작품 앞에서 뒤늦게 AI 사용 여부를 추궁하기보다, 협업이 어떤 감각을 만드는지 살핀다. 플랫폼은 콘텐츠를 담는 중립적 그릇이 아니다. 무엇을 의심하고 무엇을 허용할지 미리 조정하는 장치다.

이 관점은 AI 수용자를 찬성자와 반대자로 나누는 익숙한 구도를 벗어나게 한다. 한 사람이 AI 광고를 거부하면서 AI 게임을 즐기고, 딥페이크 범죄를 비판하면서 딥페이크 다큐멘터리를 지지하는 것은 모순이 아니다. 각 콘텐츠가 요구하는 신뢰의 종류와 참여 규칙이 다르기 때문이다. 수용자는 AI 자체에 일관된 태도를 보이기보다, 기술이 자신과 맺으려는 관계를 판단한다.

이제 설계해야 할 것은 결과물뿐 아니라 ‘공개의 순서’다

이 논문이 바꾸는 핵심 질문은 “AI가 인간과 같은 콘텐츠를 만들 수 있는가”에서 “그 콘텐츠는 어떤 관계를 전제로 제시되었는가”로의 이동이다. 생성 기술이 발전할수록 감각적 임계점은 뒤로 물러나지만, 판단이 사라지는 것은 아니다. 판단의 위치가 화면 표면에서 창작 주체와 제도, 플랫폼의 관계로 이동한다.
따라서 AI 콘텐츠 제작에서 중요한 것은 완성도와 투명성 가운데 하나를 선택하는 일이 아니다. 감각적 완성도는 첫 단계의 통과 조건이고, 사전 공개는 귀속 구조를 안정시키며, 사용 목적과 플랫폼 맥락은 그 기술을 경험할 이유를 만든다. 어느 하나가 다른 하나를 대신하지 못한다.