베를린 코트부서 토어에서 촬영된 한 영상. 화면 속 행인들에게는 차례로 ‘PERSON’이라는 상자가 붙는다. 그런데 형광빛 초록과 분홍, 뒤엉킨 형태가 가득한 하와이안 셔츠를 입은 사람이 지나가자 상자가 사라진다. 사람이 사라진 것은 아니다. 카메라가 그를 사람으로 읽지 못했을 뿐이다.
이 장면은 베를린 경찰의 실제 감시 화면이 아니라, 베를린의 아티스트이자 기술자인 지몬 베커트(Simon Weckert)가 자신의 프로젝트 ‘Digital Camouflage’를 보여주기 위해 만든 실험 영상이다. 베커트는 오픈소스 객체 탐지 모델인 'YOLO'를 상대로 셔츠를 시험했고, 특정 조건에서는 착용자를 사람으로 탐지하지 못하게 만들었다. 그는 이 작업을 “기계가 읽는 공공공간”에 대한 예술적 대응으로 설명한다.
왜 하필 이런 디자인일까
셔츠가 이렇게 요란하게 생긴 데는 이유가 있다. 이 패턴은 사람의 취향보다 기계의 판단을 기준으로 만들어졌기 때문이다.
객체 탐지 모델은 화면 속 색의 변화, 경계선, 형태, 질감 같은 시각적 특징을 여러 단계로 나눠 분석한 뒤, 그것들을 조합해 “여기에 사람이 있다”는 결론을 낸다. 때문에 머리와 몸통, 팔과 다리처럼 사람을 구성하는 특징들이 일정한 관계로 묶이면 탐지 신뢰도도 함께 올라간다.
Digital Camouflage는 바로 이 과정을 흔드는 데 초점을 맞췄다. 강하게 대비되는 색과 복잡하게 겹친 형태를 이용해 사람이 가진 윤곽과 특징을 한 덩어리로 묶기 어렵게 만들고, 객체 탐지기가 다른 시각적 신호에 더 크게 반응하도록 유도한다. 사람 눈에는 단순히 화려하고 낯선 무늬처럼 보이지만, 기계 입장에서는 평소 사람을 찾을 때 사용하던 특징의 조합이 흐트러지는 셈이다.
제작 방식도 일반적인 패션 디자인과 다르다. 베커트는 기존 적대적 패턴 연구와 공개 시스템을 바탕으로 패턴을 만들고, 이를 'YOLO'에 입력해 사람으로 인식하는 신뢰도가 얼마나 떨어지는지 확인했다. 이후 색과 형태, 배치 등을 다시 조정해 같은 실험을 반복했다. 즉 디자이너가 먼저 보기 좋은 무늬를 완성하고 성능을 확인한 것이 아니라, 탐지기의 점수가 어떻게 움직이는지를 보면서 디자인 자체를 계속 바꾼 것이다.
거리와 촬영 각도, 조명, 사용되는 모델이 달라지면 결과 역시 달라진다. 그럼에도 이 셔츠가 독특한 이유는 분명하다. 여기서 디자인을 결정한 질문은 “사람 눈에 얼마나 멋져 보이는가”가 아니라 “AI가 이 사람을 얼마나 덜 확신하게 만들 수 있는가”였다. 우리가 보기에는 화려한 하와이안 셔츠지만, 그 무늬 하나하나에는 사람을 찾는 알고리즘의 판단을 흐트러뜨리려는 계산이 들어가 있다.
이런 옷에는 유통기한이 있다
사실, 기계를 속이는 패션은 새 아이디어가 아니다.
2010년 애덤 하비(Adam Harvey)는 NYU ITP 석사 프로젝트 ‘CV Dazzle’을 통해 과감한 헤어스타일과 메이크업으로 얼굴의 특징과 대칭성을 흐트러뜨렸다.
당시 널리 쓰이던 'Viola-Jones' 얼굴 검출 알고리즘은 눈과 코, 얼굴의 밝고 어두운 영역처럼 비교적 일정한 특징을 찾아 얼굴 여부를 판단했는데, 'CV Dazzle'은 비대칭적인 머리카락과 강한 명암, 얼굴을 가로지르는 색면을 이용해 바로 그 규칙을 흐트러뜨렸다. 하비는 이 작업을 컴퓨터 비전 알고리즘을 성공적으로 공격한 최초의 문서화된 위장 기법으로 설명한다.
하지만 이 사례에는 중요한 뒤 이야기가 있다. 이후 얼굴 검출 기술이 빠르게 바뀌면서 'Viola-Jones'는 보안 분야의 주류에서 밀려났고, 합성곱신경망(CNN)을 이용한 새로운 얼굴 인식 기술이 자리 잡았다. 그러자 2010년대 초반에 만들어진 'CV Dazzle'의 초기 패턴도 더 이상 같은 효과를 내지 못했다.
이후 연구의 대상은 얼굴에서 몸 전체로 넓어졌다. 2019년 KU Leuven 연구진은 인쇄할 수 있는 적대적 패치를 만들어 옷이나 물체에 부착했을 때 사람 탐지기가 착용자를 제대로 찾지 못하도록 하는 방법을 실험했다. 중요한 점은 화면 속 픽셀 몇 개를 바꾸는 디지털 공격을 넘어, 실제로 출력하고 들고 다닐 수 있는 물리적 패턴으로 공격을 옮겼다는 것이다. 카메라와 사람의 거리나 위치가 달라져도 어느 정도 효과가 유지되는지를 시험했다는 점에서도 의미가 있었다.
2020년 노스이스턴대와 MIT-IBM Watson AI Lab 연구진은 한 단계 더 나아가 ‘Adversarial T-shirt’를 발표했다. 해당 옷은 사람이 움직일 때 접히고 늘어나며 형태가 계속 변하기 때문에, 평평한 패치를 그대로 붙이는 것보다 훨씬 까다로운 조건이다. 연구진은 이런 변형까지 계산에 포함해 패턴을 설계했고, YOLOv2를 상대로 디지털 환경에서 74%, 실제 촬영 환경에서 57%의 공격 성공률을 보고했다. 즉 연구의 관심도 단순히 “특정 이미지를 속일 수 있는가”에서 “실제로 사람이 입고 움직여도 탐지를 방해할 수 있는가”로 이동했다.
Digital Camouflage는 이 흐름을 실제 거리에서 입을 수 있는 패션과 예술 프로젝트의 형태로 다시 끌어왔다. 얼굴을 가리는 대신 몸 전체에 패턴을 입히고, 실험실 안의 이미지가 아니라 사람이 직접 거리를 걸으며 객체 탐지기의 반응을 보여준다. 다만 앞선 사례들이 그랬듯 이 셔츠 역시 모든 AI를 속이는 보편적인 위장복은 아니다. 특정 탐지 모델과 조건을 겨냥해 만들어졌기 때문에 모델이 바뀌거나 카메라 환경이 달라지면 효과도 달라질 수 있다.
결국 지난 10여 년 동안 달라진 것은 ‘기계를 속이는 옷’이라는 발상 자체보다 어떤 기계의 눈을 상대하고 있느냐였다. 얼굴 검출기가 바뀌자 메이크업도 바뀌었고, 사람 탐지기가 등장하자 패치는 티셔츠와 전신 패턴으로 확장됐다. Digital Camouflage 역시 현재의 객체 탐지 시스템을 겨냥해 만들어졌지만, 여기에는 분명한 한계가 있다. 베커트가 실제로 시험한 것은 공개형 YOLO 객체 탐지기이며, 코트부서 토어에서 베를린 경찰이 사용하는 행동 분석 시스템과는 다르다. 따라서 YOLO가 이 셔츠를 입은 사람을 놓쳤다는 결과를 곧바로 실제 베를린 감시 시스템을 피할 수 있다는 의미로 받아들여서는 안 된다.
기계에 안 보이려 했더니 사람에게 더 잘 보인다
더 재미있는 문제는 그다음이다. 형광색과 강한 대비, 복잡한 무늬로 뒤덮인 하와이안 셔츠는 거리에서 좀처럼 배경에 섞이지 않는다. 특정 객체 탐지기가 착용자를 놓치는 순간이 생길 수는 있어도, 주변 사람의 눈에는 오히려 더 쉽게 들어온다. 기계에게 덜 보이기 위해 만든 옷이 사람에게는 더 잘 보이는 셈이다.
이 차이는 디지털 위장이 무엇을 목표로 하는지를 생각하면 이해하기 쉽다. 전통적인 위장은 주변 환경과 비슷한 색과 형태를 사용해 사람의 시선에서 몸을 숨긴다. 반면 Digital Camouflage가 상대하는 것은 객체 탐지 알고리즘이다. 거리에서 자연스럽게 보이는지보다 기계가 어떤 색과 형태를 사람의 특징으로 받아들이는지가 더 중요하다. 알고리즘의 판단을 흐리기 위한 강한 색 대비와 복잡한 형태가 사람의 눈에는 오히려 독특하고 눈에 띄는 디자인으로 보이는 이유다.
그래서 이 셔츠의 질문은 단순히 “AI에게 보이지 않을 수 있는가”에서 끝나지 않는다. 누구의 시선에서 보이지 않으려는가가 뒤따른다. 하나의 객체 탐지기를 피한다고 해도 거리에는 다른 카메라와 다른 시스템이 있고, 그 공간을 직접 바라보는 사람도 있다. 베커트 역시 이 셔츠를 경찰을 피하거나 익명성을 보장하는 장비로 설명하지 않는다.
오히려 Digital Camouflage의 의미는 이 차이를 눈앞에 드러내는 데 있다. 사람에게는 분명한 한 명의 행인이지만 객체 탐지기는 화면 속 색과 경계, 형태를 분석해 그를 ‘사람’이라는 확률과 신뢰도 값으로 판단한다. 셔츠를 입는 순간 그 판단이 흔들리고 ‘PERSON’ 표시가 사라지는 장면은, 우리가 평소에는 의식하지 못했던 기계의 인식 방식이 얼마나 조건적이고 불완전한지를 보여준다
결국 이 셔츠는 사람을 감추는 옷이라기보다, 기계가 사람을 어떻게 보고 어디에서 틀릴 수 있는지를 보이게 만든 옷인 셈이다.
