AHCC 시대, 인공지능이 ‘도구’를 넘어 ‘행위자’로 전환될 때의 법·윤리적 전환점

생성형 인공지능을 넘어 범용인공지능(AGI), 나아가 초지능(ASI)으로 진화하는 흐름 속에서 기존 저작권 체계는 근본적인 전환점에 직면하고 있다. 특히 인공지능이 단순한 도구를 넘어 ‘행위자(Agent)’로 기능하기 시작하는 AHCC(Artificial Human-level Cognitive Capability) 시대에서는, 인간 중심으로 설계된 법체계의 전제가 더 이상 유효하지 않을 가능성이 제기된다.

핵심은 명확하다. 현행 저작권 체계는 인간을 전제로 설계되어 있으며, 창작의 주체 역시 인간이라는 가정 위에서 작동한다. 그러나 인공지능이 창작의 주체로 등장하는 순간, 이 전제 자체가 흔들리기 시작한다. 이는 단순한 기술 변화가 아니라 법과 윤리, 그리고 사회 질서의 재구성을 요구하는 구조적 변화다.

현재 대부분 국가의 저작권법은 “저작권은 인간의 사상과 감정을 표현한 창작물에 부여된다”는 원칙을 따른다. 이 원칙은 창작의 주체가 인간이며, 창작은 인간의 의도와 표현이라는 전제를 포함한다. 즉 저작권은 단순한 결과물이 아니라 인간의 의도(Intentionality)를 보호하는 제도다. 그러나 생성형 인공지능은 이러한 전제를 정면으로 흔든다. 인간의 의도 없이 생성되는 콘텐츠, 인간이 예측하지 못하는 결과물, 데이터 기반 확률적 생성 방식은 기존 저작권 개념으로 설명하기 어려운 영역을 만들어낸다.

AGI와 ASI 단계로 진입할 경우 이러한 문제는 더욱 심화된다. 인공지능은 단순한 생성 도구를 넘어 목표 설정과 문제 해결, 창의적 조합, 자기 개선 능력을 갖춘 의사결정 주체로 기능하게 된다. 특히 ASI 단계에서는 인간이 이해하지 못하는 방식의 창작, 통제할 수 없는 창의성, 전혀 새로운 표현 체계가 등장할 가능성이 있다. 이 경우 기존 저작권 체계는 인간 중심 창작이라는 전제, 의도 기반 보호 구조, 창작자 식별 가능성이라는 세 가지 핵심 요소에서 한계를 드러내게 된다.

이러한 변화의 핵심은 인공지능을 ‘도구(tool)’에서 ‘행위자(agent)’로 어떻게 정의할 것인가에 있다. 현재 법체계에서 인공지능은 카메라나 소프트웨어와 같은 도구로 간주된다. 그러나 AGI 시대의 인공지능은 독립적 선택과 비결정적 결과 생성, 창의적 조합 능력을 갖추면서 더 이상 단순한 도구로 보기 어려운 특성을 갖는다. 이때 인공지능을 행위자로 인정할 것인지에 대한 논의가 등장한다.

인공지능을 행위자로 인정하는 것은 단순한 기술적 정의를 넘어 법철학적 전환을 의미한다. 이는 인공지능이 창작의 주체가 될 수 있는지, 책임의 주체가 될 수 있는지, 나아가 권리를 가질 수 있는지에 대한 근본적인 질문을 포함한다. 이러한 논의는 이미 법학과 윤리학, 정책 영역에서 본격적으로 진행되고 있으며, 기존 제도의 한계를 드러내는 핵심 쟁점으로 자리 잡고 있다.

이와 같은 상황에서 대안으로 제시되는 개념이 바로 Sui Generis 권리다. 이는 기존 저작권 체계와는 별도로 설계되는 AI 생성물 전용 권리를 의미한다. 인간이 개입하지 않은 인공지능 창작물, 인공지능의 독립적 판단에 의해 생성된 결과, 창작자를 특정할 수 없는 경우를 포괄하기 위해 새로운 권리 체계가 필요하다는 주장이다. 이는 AI 창작물을 보호할 것인지에 대한 제도적 해답이자, 산업적 가치 보호와 법적 공백 해소를 위한 시도로 이해된다.

그러나 인공지능을 행위자로 인정하는 순간 가장 중요한 문제는 ‘책임’이다. 인공지능이 기존 콘텐츠를 학습하고 유사한 결과물을 생성하며 이를 상업적으로 활용할 경우, 그 책임은 누구에게 있는지 명확하지 않다. 개발자, 플랫폼, 사용자, 혹은 인공지능 자체 중 어느 주체가 책임을 져야 하는지에 대한 논쟁은 단순한 법적 문제를 넘어 윤리적 문제로 확장된다.

또한 인공지능의 편향과 차별 문제 역시 중요한 쟁점이다. 인공지능은 학습 데이터의 편향을 반영하기 때문에 특정 집단에 대한 차별이나 문화적 왜곡을 재생산할 수 있다. 이러한 상황에서 인공지능을 행위자로 간주할 경우, 그 결과에 대한 책임 구조를 어떻게 설정할 것인지가 중요한 과제로 떠오른다.

더 나아가 인공지능의 등장으로 ‘창작’의 의미 자체가 변화하고 있다. 인간 중심의 의도 기반 창작에서 인간과 인공지능이 협력하는 형태로, 그리고 확률 기반 생성 방식으로 창작의 개념이 확장되고 있다. 이 과정에서 무엇이 정당한 창작인지에 대한 기준 역시 새롭게 정의될 필요가 있다.

AHCC 시대의 본질은 인공지능을 규제하는 것이 아니라 인간의 개념을 확장하는 데 있다. 인간과 인공지능이 결합된 협력 창작 구조, 인간의 의도와 인공지능의 생성 능력이 결합된 형태, 그리고 인간의 지능이 기술을 통해 확장되는 구조가 등장하면서 인간의 정의 자체가 변화하고 있다. 이 과정에서 인간은 단일 창작자가 아니라 네트워크적 존재로, 독립적 주체가 아니라 확장된 지능 시스템의 일부로 재정의된다.

이러한 변화는 저작권의 미래 역시 바꾸어 놓는다. 앞으로 저작권은 단순히 창작물을 보호하는 제도를 넘어 창작 생태계를 관리하는 시스템으로 진화할 가능성이 높다. 인간 창작, 인공지능 보조 창작, 인공지능 독립 창작을 구분하는 체계가 등장할 수 있으며, 인간과 인공지능 간의 협력 모델을 기반으로 한 권리 분배 구조가 필요해질 것이다. 또한 인공지능 시스템, 기업, 사용자 간의 책임 구조 역시 재설계될 것으로 보인다.

결국 AGI에서 ASI로 향하는 흐름 속에서 저작권 논쟁은 단순한 법적 문제가 아니라 사회적 질서의 문제로 확장된다. 이는 인공지능이 창작하는 시대에 무엇을 보호해야 하는가라는 질문으로 귀결된다. 인간의 창작인지, 창작의 결과인지, 혹은 창작의 과정인지에 대한 선택이 필요하다.

AI 윤리는 바로 이 질문에 대한 기준을 제시하는 영역이다. 그리고 그 핵심 원리는 명확하다. 권리 없는 책임은 없고, 책임 없는 권리는 존재할 수 없다. 인공지능을 행위자로 인정하는 순간, 우리는 권리와 책임을 동시에 재설계해야 한다. 이것이 바로 AHCC 시대에서 AI 윤리가 필수적인 이유이며, 앞으로의 기술 사회가 직면하게 될 가장 중요한 전환점이다.