AI 비키니 딥페이크는 회색지대 아니다
플랫폼 책임을 구조적으로 명확히 하라

미국 상원의원들이 생성형 AI를 활용한 비동의 성적 이미지 조작 확산을 사회·안보 차원의 구조적 위험으로 규정하고, 글로벌 플랫폼 최고경영자들에게 초당적 경고장을 보냈다. 상원의원들은 이른바 ‘AI 비키니·가상 탈의 딥페이크’를 명시적 나체가 아닌 경우에도 명백한 피해로 규정하며, 사후 삭제 중심의 대응을 넘어 플랫폼 책임을 구조적으로 명확히 하라고 요구했다.

이번 공동서한은 2026년 1월 13일 발송됐으며, 수신자는 Alphabet의 순다르 피차이, Meta Platforms의 마크 저커버그, X의 일론 머스크, TikTok의 쇼우 지 추를 비롯해 Snap과 Reddit 경영진까지 포함됐다. 발신에는 민주·공화 양당 소속 의원 8명이 참여해, 생성형 AI 악용 문제가 특정 정파의 이슈가 아님을 분명히 했다.

의원들은 최근 이미지 생성·편집 AI가 의상 변경과 신체 윤곽 보정을 결합해 사실상 가상 탈의를 구현할 수 있는 수준에 이르렀다고 지적했다. 일부 모델이 공식적으로는 나체 생성을 금지하고 있음에도, 프롬프트 조합과 후처리를 통해 필터를 우회하는 방법이 플랫폼 내외 커뮤니티에서 공유되고 있다는 점도 문제로 제기됐다. 이 과정에서 실제 인물의 사진이 동의 없이 성적으로 재가공돼 유통되며, 피해는 여성과 청소년에게 집중되고 있다는 것이 의원들의 판단이다.

상원의원들은 특히 미성년자처럼 보이는 성적 이미지의 확산을 중대 사안으로 규정했다. 이는 단순한 플랫폼 정책 위반을 넘어 형사 책임과 아동 보호 문제로 직결될 수 있으며, ‘비노출’이라는 이유로 회색지대에 둘 수 없다는 점을 명확히 했다. 의원들은 “명시적 나체가 아니더라도 동의 없는 성적 조작은 폭력”이라는 표현을 통해, 표현의 자유 논리로 방어할 수 없는 영역임을 강조했다.

서한은 현행 플랫폼 대응 방식의 한계도 짚었다. 신고가 접수된 뒤 삭제하는 사후 조치만으로는 생성과 재업로드가 지나치게 쉬운 환경에서 피해 확산을 막기 어렵다는 판단이다. 이에 따라 상원의원들은 프롬프트 단계에서의 사전 차단, 자동 탐지 시스템, 해시·지문 기반 재업로드 방지 등 기술적 가드레일을 구축하라고 요구했다. 또한 광고, 구독, 유료 그룹 등 직·간접적 수익화 경로를 전면 차단해, 조작 콘텐츠로부터 플랫폼이 이익을 얻지 못하도록 해야 한다는 점도 포함됐다.

의원들은 2026년 1월 29일까지 비노출 성적 AI 조작물의 정의와 정책 적용 범위, 생성형 AI 도구의 내부 가이드라인, 반복·악의적 위반자에 대한 영구 퇴출 기준, 피해자 통지와 지원 절차를 서면으로 제출하라고 요구했다. 아울러 향후 입법이나 감독 조사를 염두에 두고 관련 이메일과 내부 문서 전반에 대한 보존 의무도 명시했다.

이번 공동서한은 생성형 AI가 만들어낸 비동의 성적 이미지 조작을 플랫폼 거버넌스의 시험대로 올려놓은 조치로 평가된다. 기준은 이미 이동했다. 사후 삭제에서 사전 차단으로, 중립적 호스팅에서 적극적 관리로, 표현의 문제에서 피해 최소화의 문제로 무게중심이 옮겨가고 있다. 플랫폼이 자율 규제로 이 요구를 충족하지 못할 경우, 강제 규제는 선택지가 아니라 수순이 될 가능성이 크다는 점에서, 이번 경고의 파장은 당분간 이어질 전망이다.

[ⓒ META-X. 무단전재-재배포 금지]