[논문리뷰]딥페이크와 생성형인공지능 사이의 딜레마

[메타X(MetaX)]과거 범죄의 온상으로 불리던 딥페이크는 생성형 AI의 한 하위 범주다. 한때는 전문적인 기술 시연이나 제한된 범죄에 활용되던 이 기술이 이제는 몇 번의 터치만으로 스마트폰에서 구현될 만큼 급속히 대중화되었다. 누구나 손쉽게 ‘딥페이크 영상’을 제작할 수 있는 환경이 형성된 지금, 이 글은 미성년자를 대상으로 한 딥페이크 범죄의 확산과 대학생들의 인식 변화를 함께 짚어본다.

박희숙의 논문 <딥페이크 기술 활용 및 윤리교육에 대한 대학생들의 인식 조사>는 생성형 인공지능의 어두운 이면인 딥페이크 범죄와 이에 대한 대학생들의 인식을 다루고 있다. 저자는 설문 조사를 통해 대학생들이 딥페이크 기술을 대체로 부정적으로 인식하고 있으며(58%), 잠재적 위험성을 심각하게 받아들이고 있다는 점(90%)을 들어 윤리 교육과 법적 처벌의 강화를 주장한다. 논문은 딥페이크를 주로 '범죄의 도구'로 규정하며, 이에 대한 경각심을 고취해야 한다는 결론으로 귀결된다. 하지만 논문이 제시한 통계 수치를 면밀히 들여다보면, 저자가 해석한 '부정적 인식'의 이면에는 훨씬 복합적인 맥락이 숨어 있음을 발견할 수 있다.

딥페이크 vs 생성형 인공지능: 딜레마에 빠진 대학생들

이 논문의 데이터에서 가장 주목해야 할 지점은 '위험성 인식'과 '사회적 영향력 인식' 사이의 명백한 간극이다. [Table 2]에 따르면, 문항 7번인 딥페이크 기술의 잠재적 위험성에 대해서는 응답자의 90%(110명 중 99명)가 '매우 심각하다' 혹은 '심각하다'고 답하며 압도적인 우려를 표했다. 반면, 문항 6번인 기술 발전의 사회적 영향력을 묻는 질문에서는 '부정적이다'라고 답한 비율이 58%(64명)로 뚝 떨어졌으며, '잘 모르겠다'는 유보적 입장이 무려 36%(40명)에 달했다.

저자는 이를 두고 단순히 긍정적 응답이 5%에 불과하다는 점을 들어 대학생들이 기술 자체를 매우 부정적으로 인식한다고 뭉뚱그려 해석했다. 그러나 이 32%포인트의 차이(위험성 90% vs 부정적 영향 58%)와 높은 유보층(36%)은 단순한 부정이 아니다. 이는 대학생들이 딥페이크의 범죄 악용 가능성은 명확히 인지하면서도, 이 기술의 기반이 되는 '생성형 인공지능'이 제공하는 일상의 편의와 창작 도구로서의 긍정적 효용(필터, 엔터테인먼트 등) 사이에서 딜레마를 겪고 있음을 시사한다. 즉, 대학생들은 기술을 무조건 거부하는 것이 아니라, 효용과 윤리 사이에서 가치 판단의 균형을 고민하고 있는 것이다.

따라서 향후의 윤리 교육은 논문이 제언하듯 단순히 범죄 예방을 위한 법적 처벌 강조나 공포 소구에 그쳐서는 안 된다. 이미 대학생의 95%는 강력한 법적 처벌에 동의하고 있다. 진정으로 필요한 교육은 '잘 모르겠다'고 응답한 36%의 학생들이 기술의 양면성을 이해하고, 생성형 AI의 효용을 누리되 윤리적 경계선을 스스로 설정할 수 있도록 돕는 '균형 감각'을 키우는 데 집중해야 할 것이다.

디지털 성범죄의 판도가 바뀌었다. 과거 텔레그램 'N번방' 사건이 은밀한 지하 세계의 조직적 범죄였다면, 현재의 딥페이크(Deepfake) 성범죄는 교실 안으로 침투해 일상적인 '놀이'처럼 번지고 있다. 기술의 발전은 간단한 어플만으로도 긴 딥페이크 동영상을 만들 수 있어 범죄의 문턱을 낮췄고, 그 결과 가해자의 연령대는 급격히 하락했다. 2024년 11월까지 검거된 딥페이크 성범죄 피의자 573명 중 10대는 무려 463명(80.8%)에 달했으며, 그중 형사 처벌을 받지 않는 만 10세 이상 14세 미만의 촉법소년이 16.4%(94명)를 차지했다.

논문 <촉법소년 조사의 개선방안>은 딥페이크라는 디지털 범죄의 특성과 이를 따라가지 못하는 아날로그식 소년법 사이의 괴리를 다룬다. 

14세 미만의 딥페이크 가해자들

딥페이크 포르노는 초기에는 레딧(Reddit) 등 해외 커뮤니티에서 유명 연예인을 대상으로 한 전문가들의 영역이었다. 그러나 페이크앱(FakeApp)과 같은 애플리케이션의 등장은 누구나 스마트폰 하나만 있으면 지인의 얼굴을 음란물에 합성할 수 있게 한다. 세계 딥페이크 피해자의 53%가 한국인이라는 통계는 이 문제가 우리 사회에 얼마나 깊숙이 파고들었는지를 보여준다.

문제는 가해자인 청소년들이 이를 심각한 범죄가 아닌 단순한 '장난'으로 인식한다는 점이다. 교육부 조사에 따르면, 학생의 절반 이상(54.5%)이 "장난으로", 혹은 "호기심 때문에(49.3%)" 딥페이크를 제작한다고 답했다. 과거의 소년범죄가 폭력이나 절도 등 물리적 행동을 동반했다면, 현재의 범죄는 스마트폰 터치 몇 번으로 한 사람의 인격을 파괴하는 형태로 진화했다. 그러나 우리 사회의 대응 시스템은 여전히 과거의 문법에 갇혀 있다.

수사권의 공백: 경찰은 13세 소년의 스마트폰을 압수할 수 없다

일반 대중은 딥페이크 범죄가 발생하면 경찰이 당연히 가해 학생의 스마트폰을 압수해 포렌식하고 증거를 찾을 것이라 믿는다. 그러나 현행법상 이는 불가능에 가깝다.

현행 소년법과 형사소송법 체계에서 촉법소년은 형벌의 대상이 아니므로, 경찰은 원칙적으로 이들을 '수사'할 수 없고 오직 '조사'만 가능하다. 문제는 이 '조사' 과정에서 강제처분, 즉 압수수색을 할 법적 권한이 경찰에게 없다는 점이다. 딥페이크 범죄의 핵심 증거는 스마트폰이나 PC 안에 저장된 데이터다. 폭력 사건처럼 CCTV나 목격자가 있는 것이 아니다. 만약 촉법소년이 "핸드폰 보여주기 싫어요"라고 거부하거나 기기를 숨겨버리면, 경찰은 이를 강제로 확보할 방법이 전무하다. 임의제출을 거부하면 그만인 셈이다.

결국 현재의 법 시스템은 디지털 성범죄의 핵심인 '물적 증거 확보'를 원천적으로 차단하고 있다. 이는 단순히 처벌을 못 하는 문제를 넘어, 범죄 사실 자체를 확정 짓지 못하게 만들어 피해자의 억울함을 풀 길이 없게 만든다. 경찰은 혐의가 의심되는 소년을 눈앞에 두고도 결정적인 증거인 스마트폰을 합법적으로 가져올 수 없는 법적 진공 상태에 놓여 있다.

22대 국회의 시도와 논쟁: 보호 vs 진실

이러한 모순을 해결하기 위해 제22대 국회에서는 변화의 움직임이 일고 있다. 특히 김석기 의원이 발의한 소년법 개정안은 경찰에게 촉법소년에 대한 조사 권한을 명시하고, 필요한 경우 압수·수색·검증은 물론 동행영장 청구권까지 부여하는 내용을 담고 있다. 경찰이 손발이 묶인 채 범죄를 방관하지 않도록 최소한의 '무기'를 쥐여주자는 취지다.

그러나 이에 대한 우려의 목소리도 높다. 법원행정처 등은 경찰에게 강력한 강제 처분 권한을 주는 것이 아동의 인권을 침해할 소지가 있으며, 영장주의 원칙에 위배될 수 있다고 비판한다. 수사 편의를 위해 미성년자를 성인 범죄자처럼 다루는 것이 과연 온당한가에 대한 반론이다. 여기서 우리는 딜레마에 봉착한다. 아이들의 인권을 보호하기 위해 증거 확보를 포기할 것인가, 아니면 실체적 진실을 밝히기 위해 공권력의 개입을 허용할 것인가.

일본의 '분리 대응'이 주는 시사점

이 난제를 푸는 데 있어 논문은 일본의 2007년 소년법 개정 사례를 주목한다. 일본 역시 2003년 나가사키 유괴 살인사건, 2004년 사세보 초등생 살인사건 등 충격적인 소년 범죄를 겪으며 우리와 똑같은 고민에 빠졌다. 

일본의 해법은 '신체 구속'과 '증거 확보'를 철저히 분리하는 것이었다. 개정된 일본 소년법은 경찰에게 촉법소년을 체포하거나 구속할 권한은 여전히 부여하지 않았다. 소년의 정서적 안정을 위해 신체의 자유는 최대한 보장한 것이다. 반면, 진실 규명을 위한 '압수·수색·검증' 권한은 경찰에게 확실하게 부여했다. 즉, "아이는 집에 보내더라도, 범죄 증거인 흉기나 스마트폰은 강제로 확보한다"는 원칙을 세운 것이다.

또한, 일본은 조사 과정에서의 2차 피해를 막기 위해 심리 전문가인 '소년보도직원'을 조사에 참여시키고 , 변호사(보조인) 선임권을 보장하는 등 절차적 안전장치도 마련했다. 이는 무조건적인 엄벌주의나 방임주의 어느 한쪽으로 치우치지 않고, '실체적 진실 발견'과 '소년 보호'라는 두 마리 토끼를 잡으려는 시도로 평가받는다.

진실을 밝히는 것이 진정한 보호다

딥페이크 범죄는 피해자의 영혼을 파괴하는 흉악 범죄다. 가해자가 어리다는 이유만으로 범죄의 도구(스마트폰)조차 뺏을 수 없다면, 그것은 관용이 아니라 방임이다. 저자들은 경찰에게 합법적인 '조사 권한'과 '압수수색 권한'을 부여하는 절차적 정비가 시급하다고 결론 내린다.

일본의 사례처럼, 우리는 아이들의 신체는 보호하되 범죄의 증거는 확실히 확보할 수 있는 '핀셋 입법'이 필요하다. 억지로 자백을 강요하는 것이 아니라, 디지털 증거를 통해 객관적 사실을 밝혀내는 것이야말로 억울한 피해자를 막고, 가해 소년에게도 자신의 행동에 대한 명확한 책임을 가르치는 첫걸음이 될 것이다. "경찰에게 권한을 주는 것에 대한 막연한 거부감" 을 넘어, 이제는 변화된 범죄 현실에 맞는 정교한 법적 도구를 마련해야 할 때다. 

[METAX = 류성훈 기자]

[저작권자ⓒ META-X. 무단전재-재배포 금지]