[논문리뷰] 내 목소리가 가족에게 돈을 보내라고 한다면? 딥페이크 체험교육은 고령층을 지킬 수 있을까

어느 날 가족에게서 영상이 도착한다. 화면에는 분명 익숙한 얼굴이 있고 목소리도 같다. 사고가 났으니 지금 바로 돈을 보내 달라고 재촉한다. 그런데 그 얼굴과 목소리가 모두 AI가 만든 것이라면, 우리는 얼마나 침착하게 사실을 확인할 수 있을까.

Oh, H., Lee, E., Shin, S., Lee, K., Pyun, M., & Lim, H. (2026). DeepAware: Using Experiential Deepfake Simulations to Enhance Cybersecurity Awareness in Older Adults. Proceedings of the 2026 CHI Conference on Human Factors in Computing Systems, 1-23. https://doi.org/10.1145/3772318.3791492

익숙한 얼굴과 목소리가 범죄의 도구가 될 때

생성형 AI가 만든 페이크 영상은 더 이상 정치인이나 연예인만의 문제가 아니다. 짧은 음성 파일과 사진만 있어도 평범한 개인을 흉내 낼 수 있고, 가족 사칭·투자 권유·가짜뉴스 같은 범죄에 결합될 수 있다.

특히 고령층은 범죄의 표적이 되기 쉽다는 통계적 이미지와 달리 하나의 동질적인 집단이 아니다. 디지털 기기를 능숙하게 쓰는 사람도 있고, 새로운 화면이나 낯선 용어 앞에서 먼저 불안을 느끼는 사람도 있다. 따라서 단순히 ‘딥페이크를 조심하라’고 경고하는 것만으로는 부족하다. 위험을 알아차리고, 당황한 순간에도 확인 행동을 실행할 수 있도록 교육해야 한다.

가짜 영상을 보여주는 대신 ‘내가 가짜가 되는’ 교육

서울대학교 연구진이 만든 ‘DeepAware’는 고령층을 위한 체험형 딥페이크 교육 플랫폼이다. 연구진은 먼저 국내 디지털 교육 강사 5명을 인터뷰해 고령 학습자가 어려워하는 지점과 교육 설계 원칙을 정리했다. 그 결과 긴 설명보다 짧고 단계적인 안내, 실제 생활과 가까운 사례, 반복 확인, 그리고 공포를 낮추는 대응법이 필요하다고 판단했다.

참가자는 자신의 사진과 약 1분 분량의 음성을 제공했다. 시스템은 이 자료를 이용해 참가자를 닮은 인물과 복제 음성이 등장하는 개인화 영상을 만들었다. 교육은 딥페이크 개념 소개, 실제 범죄 사례, 개인화된 시뮬레이션, 대응 전략, 복습 퀴즈의 순서로 진행됐다.

개인화 장면에는 자신의 목소리로 투자를 추천하는 상황, 교통사고를 당한 가족을 사칭해 긴급 송금을 요구하는 상황, 자신이 복권 당첨자나 사기 피의자로 보도되는 가짜뉴스가 포함됐다.

여기서 중요한 점은 이 연구가 외국인을 대상으로 한 해외 연구가 아니라는 사실이다. 논문은 영어로 쓰여 국제학회 CHI에 발표됐지만, 실험은 한국에서 한국어를 모국어로 사용하는 고령자 21명을 대상으로 진행됐다. 참가자의 평균 나이는 65.8세였고 연령 범위는 61~80세였다. 모두 스마트폰을 사용했으며 대한민국 도시 지역에 거주했다.

한 번의 체험 뒤 무엇이 달라졌나

연구는 비교집단이 없는 사전·사후 탐색 연구였다. 참가자는 약 90분 동안 연구에 참여했고, 그중 약 30분간 DeepAware를 스스로 사용했다. 연구진은 교육 전후에 보호동기이론에 기반한 다섯 항목을 측정하고, 사용 과정의 생각 말하기와 종료 후 인터뷰를 함께 분석했다.

출처: Oh et al.(2026)의 사전·사후 측정 결과를 바탕으로 필자 재구성.

수치만 보면 변화는 분명하다. 지식과 위험 인식뿐 아니라 스스로 대처할 수 있다는 믿음, 알려준 대응법이 효과적이라는 믿음도 높아졌다. 사용성 평가 점수는 평균 76점이었고, 만족도는 5점 만점에 4.55점, 유용성은 4.48점이었다. 몰입감도 4.26점으로 높았다. 반면 영상의 사실감은 3.21점으로 중간 수준에 머물렀다.

영상이 완벽해서가 아니라 자신의 얼굴과 목소리가 범죄 상황에 놓인다는 개인적 관련성이 학습을 끌어당겼다고 볼 여지가 있다. 참가자 21명 가운데 ‘딥페이크’라는 용어를 이전에 들어본 사람은 5명뿐이었다. 상당수 참가자에게 이 교육은 이미 알고 있던 내용을 확인하는 시간이 아니라 새로운 위험을 처음 구조화해 보여준 경험이었다.

높아진 것은 판별 능력인가, 대응 자신감인가

이 연구의 성과를 해석할 때 가장 먼저 구분해야 할 것이 있다. 연구가 확인한 것은 교육 직후의 지식, 위험 인식, 자기효능감 같은 심리적 변화다. 참가자가 실제 딥페이크 영상을 더 정확히 판별하게 됐는지, 실제 사기 연락을 받았을 때 송금을 멈추고 확인했는지까지 측정한 것은 아니다.

따라서 ‘딥페이크 범죄를 예방하는 효과가 입증됐다’고 표현하면 연구 결과를 넘어선다. ‘범죄예방에 필요한 인식과 대응 자신감을 높일 가능성을 보여줬다’는 정도가 정확하다.

또한 DeepAware는 개인화 영상만 제공한 도구가 아니다. 개념 설명, 실제 사례, 시뮬레이션, 대응 전략, 퀴즈가 하나의 묶음으로 제공됐다. 사후 점수의 상승이 자기 얼굴을 본 충격 때문인지, 설명과 퀴즈의 반복 때문인지, 두 요소의 결합 때문인지는 분리해 알 수 없다. 비교집단도 없어서 같은 시간 동안 일반 교육 영상을 본 집단보다 개인화 교육이 더 효과적인지 판단하기 어렵다.

충격은 교육이 될 수도, 공포가 될 수도 있다

자기 얼굴과 목소리가 조작되는 경험은 위험을 추상적인 정보에서 개인적인 현실로 바꾼다. 이것이 이 연구의 가장 흥미로운 장점이다. 그러나 바로 그 장점이 약점이 될 수도 있다.

강한 충격이 ‘앞으로는 확인해야겠다’는 행동으로 이어지면 교육이지만, ‘이제 아무것도 믿을 수 없다’거나 ‘스마트폰을 쓰지 않는 편이 낫다’는 회피로 이어지면 역효과다. 고령 학습자에게 공포를 크게 만드는 것과 대응 능력을 높이는 것은 같은 일이 아니다.

그래서 위협을 보여준 뒤에는 반드시 짧고 실행 가능한 행동을 반복해서 연습시켜야 한다. 예를 들어 ‘멈추기–다시 연락하기–확인하기’의 세 단계다. 송금 요구를 받으면 일단 전화를 끊고, 저장된 번호로 가족에게 다시 연락하고, 미리 정한 가족 암호나 제3의 가족에게 사실을 확인한다. 영상의 어색한 입 모양을 찾아내는 기술보다 이런 절차가 오래 남고, 기술이 더 정교해져도 사용할 수 있다.

실버층 AI 수업 현장에서 더 중요하게 느껴지는 것

실제로 고령층을 대상으로 AI와 영상 제작을 가르치고 있다. 수업을 해보면 같은 설명을 들어도 익히는 속도와 필요한 반복 횟수가 모두 다르다. 수업 시간에는 잘 따라오셨더라도 며칠 뒤 다시 시작하면 순서를 잊는 경우가 있고, 방학처럼 공백이 길어지면 지난 내용을 처음부터 다시 확인해야 할 때도 많다.

낯선 도구나 예상하지 못한 화면 변화가 한꺼번에 나오면 내용보다 ‘내가 잘못 누른 것은 아닐까’라는 불안이 먼저 커지기도 한다. 그래서 범죄예방 교육 역시 한 번의 강렬한 체험보다 짧은 설명과 실제 행동 연습을 여러 번 되풀이하는 구조가 필요하다.

교육자는 ‘가짜를 눈으로 찾아내라’는 과제를 너무 많이 주지 않는 편이 좋다. 음성의 미세한 떨림, 입 모양, 배경의 오류 같은 단서는 기술 발전에 따라 빠르게 사라진다. 대신 긴급 송금, 투자 권유, 인증번호 요구처럼 범죄자가 만드는 상황의 공통 패턴을 가르쳐야 한다.

그리고 학습자가 직접 전화를 끊고, 가족에게 다시 전화하고, 신고 번호를 찾는 과정을 눌러보게 해야 한다. 교육 설계의 초점은 ‘진짜와 가짜를 완벽하게 맞히기’보다 ‘의심스러운 상황에서 송금과 정보 제공을 멈추고 검증 절차를 실행하기’에 있어야 한다.

안전 교육이 다시 개인정보를 요구하는 역설

DeepAware는 학습자 자신의 얼굴 사진과 음성을 사용한다. 연구진은 참여 전 동의를 받고, 결과물을 미리 확인하게 했으며, 중단 기능과 사후 설명을 제공했다. 생성된 자료는 교육이 끝난 뒤 삭제했다고 보고했다.

그럼에도 교육을 위해 얼굴과 음성이라는 민감한 생체정보를 외부 생성 서비스와 저장 공간에 전송해야 한다는 점은 남는다. 딥페이크 위험을 가르치는 과정에서 또 다른 개인정보 위험을 만들 수 있는 역설이다.

실제 기관 교육에 적용하려면 ‘재미있고 충격적인 개인화’보다 최소수집 원칙이 우선돼야 한다. 원본과 생성물의 보관 기간, 처리 업체, 삭제 방식, 재사용 금지 여부를 쉬운 말로 설명해야 한다. 얼굴 전체 대신 부분적 특징만 반영하거나 기기 안에서만 처리하는 방식, 학습자가 개인화를 선택하지 않아도 동일한 교육을 받을 수 있는 대안도 필요하다.

작지만 중요한 출발점, 그러나 아직 남은 질문

표본은 21명으로 작고, 모두 도시 지역에 거주하며 스마트폰을 적극적으로 사용하는 고령자였다. 디지털 접근성이 낮거나 인지·감각상의 어려움이 있는 고령층, 농어촌 거주자에게 같은 결과가 나타날지는 알 수 없다.

한 번의 90분 세션 직후에 측정했기 때문에 효과가 몇 주나 몇 달 뒤에도 남는지도 확인되지 않았다. 참여자가 연구 목적을 알고 민감한 자료를 제공한 만큼 연구자가 기대하는 방향으로 응답했을 가능성도 있다.

후속 연구에서는 일반적인 사례 교육과 개인화 교육을 무작위로 비교하고, 실제에 가까운 사기 메시지나 통화 시뮬레이션에서 확인 행동을 수행하는지 측정할 필요가 있다. 교육 직후뿐 아니라 일정 시간이 지난 뒤 재검사를 해야 하며, 디지털 숙련도와 연령대가 다른 참여자를 포함해야 한다. 무엇보다 개인화의 강도를 높일수록 학습 효과가 커지는지, 아니면 불안과 불신이 더 커지는지 확인해야 한다.

‘나도 속을 수 있다’ 다음에 무엇을 하게 할 것인가

DeepAware는 딥페이크 범죄 교육의 방향을 ‘설명’에서 ‘체험’으로 옮겼다는 점에서 의미가 있다. 한국 고령자들이 자기 얼굴과 목소리로 만든 범죄 장면을 경험한 뒤 위험을 더 심각하게 받아들이고 대응 자신감을 높였다는 결과도 주목할 만하다. 특히 고령층을 수동적인 보호 대상이 아니라 스스로 판단하고 행동할 수 있는 학습자로 본 설계는 긍정적이다.

하지만 이 연구가 증명한 것은 범죄예방의 완성이 아니라 출발점이다. 개인화된 충격은 위험을 ‘내 일’로 만들 수 있지만, 그것만으로 실제 사기를 막지는 못한다. 교육의 성패는 그 충격 뒤에 무엇을 연습시키느냐에 달려 있다.

고령층이 모든 영상을 의심하게 만드는 대신, 급한 돈 요구 앞에서 잠시 멈추고 익숙한 경로로 다시 확인하는 습관을 만들 때 체험은 비로소 보호로 이어질 수 있다.