[논문리뷰]창작자는 ‘허락’만 원하는 것이 아니다: 생성형 AI 시대의 창작 노동 거버넌스

저자들은 시각예술·디자인, 글쓰기, 프로그래밍 분야의 창작 노동자 20명을 인터뷰하며, 창작자들이 실제로 원하는 AI 거버넌스가 무엇인지 묻는다. 핵심은 “동의, 표시, 보상”이라는 3C 원칙이 필요하긴 하지만, 그 자체로 충분한 해법은 아니라는 점이다.

3C(동의·크레딧·보상)는 구호가 아니라 작동 조건을 요구한다

생성형 AI 논쟁에서 자주 등장하는 요구는 세 가지다. 내 작업을 학습에 쓰려면 동의를 받아라. 내 작업이 쓰였다면 출처를 밝혀라. 내 작업으로 이익을 얻는다면 보상하라. 얼핏 보면 공정한 원칙처럼 보인다. 이 논문의 흥미로운 지점은 바로 여기서 출발한다. 저자들은 3C를 반대하지 않는다. 다만 실제 창작 노동의 조건 안에 넣어보면 이 원칙들이 생각보다 불안정하게 작동한다고 본다.

가장 먼저 흔들리는 것은 ‘동의’다. 인터뷰 참가자 대부분은 자신의 작업이 AI 학습에 사용된다면 동의를 받고 싶다고 말한다. 그러나 동의가 법적 체크박스처럼 한 번 찍고 끝나는 절차가 되면 문제가 생긴다. 오늘의 AI와 5년 뒤의 AI는 같은 도구가 아닐 수 있다. 지금은 참고용 예시를 만드는 수준이라 괜찮다고 여겼던 사용이, 몇 년 뒤에는 자신의 일자리를 대체하는 모델의 기반이 될 수 있다. 따라서 저자들이 보는 동의는 고정된 계약 조항이 아니라 기술 변화에 맞춰 갱신되어야 하는 절차다.

여기서 더 중요한 문제는 권력 관계다. 회사에 고용된 창작자는 자기 작업에 대해 “아니오”라고 말할 수 있는 위치에 있지 않은 경우가 많다. 계약상 회사가 결과물을 소유한다면, 창작자는 동의의 주체라기보다 이미 권리를 넘긴 사람으로 취급된다. 프리랜서도 자유롭지 않다. 일감이 줄고 단가가 내려가는 환경에서 학습 사용을 거부하는 선택은 실질적인 불이익으로 이어질 수 있다. 그래서 저자들은 동의를 개인의 선택 문제로만 보지 않는다. 동의가 의미를 가지려면 거부해도 불이익을 받지 않는 조건, 충분한 설명, 숙고할 시간, 철회 가능성, 집단적 협의 구조가 함께 있어야 한다.

출처 표시는 언제나 선한 보상이 아니다

‘크레딧’에 대한 논의는 더 미묘하다. 일반적인 창작 생태계에서 이름이 표시되는 것은 중요한 보상이다. 저작권료만큼이나 경력, 평판, 다음 일감과 연결되기 때문이다. 그런데 AI 학습의 맥락에서는 출처 표시가 반드시 창작자에게 이익이 되지 않는다.

어떤 참가자들은 자신이 충분히 유명하지 않기 때문에 표시가 큰 의미가 없다고 말한다. 회사에서 만든 작업이라면 개인이 아니라 회사가 크레딧을 받아야 한다고 보는 이들도 있다. 더 중요한 것은 책임의 문제다. 내 작업이 학습 데이터로 들어간 뒤 어떤 이미지, 문장, 코드, 정치적 선전, 혐오 표현, 저품질 결과물로 변형될지 창작자는 통제할 수 없다. 그런데 그 모델이나 산출물에 자신의 이름이 연결된다면, 크레딧은 명예가 아니라 위험이 된다.

이 지점에서 논문은 ‘표시’와 ‘오표시’, ‘비표시’, ‘익명성’, ‘작품의 온전성’ 사이의 경계를 세밀하게 본다. 창작자가 원하는 것은 무조건 이름을 붙이는 것이 아니라, 어떤 방식으로 연결될지 결정할 권리다. AI가 만든 결과물에 자신의 이름이 붙는 것이 오히려 왜곡이나 평판 훼손이 될 수 있다면, 크레딧은 보호 장치가 아니라 또 다른 침해가 된다.

보상은 돈의 문제가 맞지만, 돈만의 문제는 아니다

보상에 대해서는 참가자들의 의견이 비교적 분명하다. 자신의 작업이 AI 모델 학습에 사용된다면 보상을 원한다. 그러나 여기에도 구분이 있다. 회사에서 업무 시간에 만든 결과물은 이미 임금으로 보상받았다고 여기는 참가자들이 있었다. 반면 퇴사 이후에도 그 작업이 계속 모델 학습이나 파생 산출에 쓰인다면 추가 보상이 필요하다고 본다.

프리랜서의 경우는 더 직접적이다. 플랫폼이나 출판사가 창작자의 작업을 팔고, 그 작업을 다시 AI 학습에 사용하며, 이후 파생물로 수익을 얻는다면 기존 보상 체계로는 설명이 되지 않는다. 한 번의 납품 대가가 미래의 무한한 재사용 권리까지 포함한다고 볼 수 없기 때문이다.

또 하나의 중요한 구분은 업무 프로젝트와 개인 프로젝트다. 참가자들은 회사 업무에는 상대적으로 덜 애착을 느끼지만, 개인 작업에는 더 강하게 반응한다. 이 차이는 창작물이 단순한 데이터가 아니라는 점을 드러낸다. 어떤 작업은 생계의 결과물이고, 어떤 작업은 자기 형성의 흔적이다. 보상이 충분하더라도 창작자가 원하지 않는 사용이 있을 수 있다. 돈은 필요하지만, 돈이 모든 불쾌감과 침해감을 상쇄하지는 않는다.

AI 거버넌스의 장소는 정부만이 아니다

논문이 설득력 있는 부분은 거버넌스를 국가 규제만으로 보지 않는다는 점이다. 저자들은 회사, 출판사, 프리랜서 플랫폼도 중요한 거버넌스 주체로 본다. 창작자들이 실제로 만나는 규칙은 법률 조항보다 계약서, 플랫폼 정책, 회사 가이드라인, 제출 규정, 내부 회의에서 먼저 나타나기 때문이다.

하지만 인터뷰 결과, 많은 조직은 생성형 AI에 대한 뚜렷한 정책을 갖고 있지 않았다. 문제가 생기면 뒤늦게 대응하거나, 아예 AI 사용을 금지하는 식의 반응이 많았다. 저자들이 말하는 더 나은 거버넌스는 단순한 금지나 허용이 아니다. 언제 AI를 써도 되는지, 어떤 작업에는 쓰면 안 되는지, 결과물을 어떻게 표시할지, 작업물이 학습에 사용되는지, 사용된다면 얼마나 오래 보관되는지, 퇴사 후에는 어떻게 처리되는지를 명확히 하는 것이다.

특히 플랫폼의 역할이 중요하다. 일부 참가자들은 이미지 라이브러리나 프리랜서 플랫폼에 AI 생성물이 인간 작업처럼 섞여 들어오는 상황을 문제로 지적했다. 이는 단순한 취향 문제가 아니다. 디자이너가 참고 이미지를 찾거나, 클라이언트가 작업자를 고르거나, 창작자가 자신의 서비스를 판매하는 과정 전체가 흐려진다. 인간 작업과 AI 생성 작업을 구분하는 라벨, 필터, 배지, 검증 체계가 필요한 이유가 여기에 있다.

AI 사용의 윤리적 경계는 ‘대체’와 ‘보조’ 사이에서 갈린다

참가자들은 생성형 AI 자체를 전면적으로 거부하지 않는다. 오히려 많은 이들은 AI가 반복 작업을 줄이고, 초안을 만들고, 기술 진입 장벽을 낮추고, 복잡한 분야를 배우는 데 도움을 줄 수 있다고 본다. 예컨대 애니메이션 프레임 사이의 선 처리를 일정하게 만들거나, 복잡한 코드베이스를 이해하는 데 보조 역할을 하는 식이다.

문제는 AI가 창작자의 판단과 숙련을 확장하는 방식으로 쓰이는가, 아니면 창작자의 노동을 값싼 산출물로 대체하는 방식으로 쓰이는가에 있다. 저자들은 이 경계를 중요하게 다룬다. AI가 뒤에서 반복 노동을 처리하고 인간이 방향, 기준, 맥락, 책임을 유지하는 경우와, 인간 창작자의 작업을 무단 학습한 뒤 그들을 시장에서 밀어내는 경우는 같은 기술 사용으로 묶기 어렵다.

이 차이는 창작의 질에 대한 논의로 이어진다. 참가자들은 AI가 산출물을 빠르게 만들 수는 있지만, 문제를 정의하고 맥락을 읽고 결과의 의미를 책임지는 능력은 인간 창작자의 훈련과 경험에 의존한다고 본다. 디자인은 보기 좋은 그래픽을 만드는 일이 아니라 문제를 해결하는 일이고, 글쓰기는 문장을 배열하는 일이 아니라 관점과 판단을 구성하는 일이며, 프로그래밍은 코드를 붙여 넣는 일이 아니라 시스템을 이해하는 일이다. AI가 쉬운 결과물을 많이 만들수록, 오히려 그 뒤에 있던 숙련의 시간이 보이지 않게 될 위험이 커진다.