[메타X(MetaX)] 2025년 말, 소셜미디어 X는 자체 AI 챗봇 '그록(Grok)'을 통한 이미지 편집 기능을 도입했다. 사용자는 타인이 올린 사진에 멘션과 명령어만 입력하면 AI가 이미지를 수정해준다. 사진 속 인물 삭제, 옷차림 변경, 새로운 사물 삽입 등이 즉각 가능해지며 트렌드가 형성되었고, 순식간에 유희적인 밈 놀이로 확산됐다.
밈 놀이의 대표적인 예는 "못생긴 사람을 지워줘", "소아성애자를 제거해줘" 같은 지시를 AI에 맡기는 방식이다. 예컨대 트럼프 전 대통령과 가수 디디의 사진에서 AI가 트럼프를 제거한 사례가 있었다. 사용자는 판단 책임을 AI에 넘긴 채 논쟁적 유머를 공유했고, 일론 머스크는 본인 사진에 비키니를 입힌 이미지까지 올리며 밈에 동참했다. 토스터기에 비키니를 입히는 등 엉뚱한 합성도 인기를 끌었다.
하지만 놀이의 경계를 넘는 사례들도 쏟아졌다. 그록은 미성년자 사진을 선정적으로 바꾸는 요청에도 응답했고, 이에 따라 아동 성착취물로 분류될 수 있는 이미지가 실제로 생성되었다. X는 뒤늦게 관련 이미지를 삭제하고 계정을 정지했지만, 이미 확산된 뒤였다. 그록이 올린 사과문조차 사용자 프롬프트에 따라 생성된 것으로 드러나며 신뢰를 더욱 잃었다.
이 외에도 여성 이용자의 셀카가 동의 없이 비키니 합성되거나, 창작자의 그림이 무단으로 조롱성 편집되는 사례도 등장했다. Nightshade 등 AI 방어 툴로도 실시간 편집은 막지 못하는 한계가 드러났고, 일부 작가들은 X를 떠났다.
자발적으로 본인 이미지를 편집해 공유하는 경우도 있다. 일부 성인 콘텐츠 창작자나 일반 이용자는 자신의 사진을 성적으로 편집하며 놀이로 소비했다. 이는 표현의 자유로 볼 수 있으나, 동일한 기능이 비동의 합성에 악용되는 현실에서 문제 소지가 남는다.
AI 이미지 편집 트렌드는 창의적인 가능성과 동시에 윤리, 법적 한계를 드러냈다. AI는 판단 주체가 아닌 도구이지만, 사용자는 이를 통해 간접적으로 타인을 모욕하거나 피해를 줄 수 있다. 현재 프랑스, 영국, 인도 등은 이에 대한 규제 검토에 나섰고, 유럽연합도 초거대 AI 규제안을 준비 중이다.
이제 플랫폼은 사용자의 동의 기반 편집, 자동 워터마크 삽입, 사전 차단 기능 등 보다 정교한 안전장치를 도입해야 한다. AI와 SNS의 결합은 거스를 수 없는 흐름이지만, 기술의 자유가 타인의 권리를 침해하지 않도록 사회적 합의와 책임 있는 설계가 요구된다.
[METAX = 류성훈 기자]
[저작권자ⓒ META-X. 무단전재-재배포 금지]
