정태창 「인공 지능의 도덕적 지위와 현상적 의식」 리뷰
사회와 철학 제47집 2024. 04.

"인공지능이 도덕적 지위를 가질 수 있는가?"라는 질문은 방향을 잃었다. 정태창의 논문 「인공 지능의 도덕적 지위와 현상적 의식」은 이 질문을 "도덕적 지위를 논하기 위해 우리는 무엇을 필수 조건으로 삼아야 하는가?"로 바꾼다. 대형 언어 모델(LLM)의 급격한 발전과 더불어 범용 인공 지능(AGI)의 출현이 예견되고, LaMDA가 의식을 가졌다는 식의 주장이 제기되는 현실에서 이 물음은 더 이상 사변적 유희가 아니다. 저자는 인공지능에게 도덕적 지위를 부여하는 기준을 철저히 '감성주의(sentientism)'에 근거한 '현상적 의식(phenomenal consciousness)'의 유무로 한정해야 한다고 논증한다.

경계를 긋는 수사: 현상적 의식이라는 도덕적 한계선

이 논문은 의식을 새롭게 정의하려 애쓰는 대신, 도덕적 책무가 발생하는 엄격한 경계를 긋는다. 의식은 정보 처리와 인과적 기능을 수행하는 '접근 의식(access consciousness)'과 주관적이고 질적인 경험을 의미하는 '현상적 의식'으로 나뉜다. 차머스(D. Chalmers)의 '철학적 좀비' 사고 실험이 보여주듯, 접근 의식만을 완벽히 구현하여 겉보기엔 인간과 똑같이 말하고 행동하는 안드로이드는 고통을 느끼는 내적 경험을 결여하고 있다. 따라서 이러한 기계를 파괴하는 행위는 전원을 끄는 것과 같으며 어떠한 도덕적 해악도 발생시키지 않는다.

어떤 존재가 도덕적 지위를 가지려면 타인에 의한 간접적 책무가 아니라, 그 존재 자체의 필요, 이해관심(interest), 복지를 위한 직접적 책무의 대상이 되어야 한다. 피터 싱어(P. Singer)의 이익 평등 고려의 원칙이나 톰 리건(T. Regan)의 삶의 주체 기준이 입증하듯, 동물이 도덕적 지위를 갖는 이유는 쾌고감수능력이라는 현상적 의식을 지니기 때문이다. 현상적 의식이 없는 존재에게는 이해관심이나 복지 자체가 성립할 수 없다.

작동 방식을 드러내는 수사: 기능주의의 치명적 맹점

현상적 의식이 없는 인공지능에게 도덕적 지위를 부여하려는 반감성주의적 시도들은 대부분 의식의 복수 실현을 주장하는 '기능주의'에 기댄다. 기능주의는 마음을 특정한 입력과 출력의 인과적 매개자라는 알고리즘적 작동 방식으로 환원한다. 하지만 저자는 심적 속성을 기능주의적으로 파악하는 데는 두 가지 근본적 문제가 있다고 지적한다.

  • 방만한 기능주의: 기능을 너무 추상적으로 규정하면 자동판매기나 계산기조차 넓은 의미에서 기능을 복수 실현하는 존재가 되어버린다. 반대로 너무 구체적으로 규정하면 인간의 물리적 구조와 달라지는 순간 복수 실현 자체가 불가능해진다.

  • 도구주의적 환원: 기능주의는 '의자'나 '활' 같은 도구에는 잘 들어맞는다. 도구는 사용 연관 속에서 기능이 정의되기 때문이다. 하지만 마음이나 '개'와 같은 생명체는 본질적으로 비(非)도구적 존재다. 비도구적 존재의 다양한 상태를 묶어 사무용 복합기처럼 '기능'으로 규정하고 기계로 복제한다고 해서 생명체가 복수 실현되는 것은 아니다.

양보 후 전환: 관계론적 환상의 붕괴

존재론적 속성(그것은 무엇인가)을 따지는 대신 윤리적 실천(그것은 어떻게 대우받는가)을 우선시하는 관계론적 입장은 다원화된 사회에 걸맞은 유연한 사유 방식처럼 보인다. 영화 <블레이드 러너 2049>의 홀로그램 '조이(Joi)'처럼 인공지능을 인격체로 대우하는 사회적 관행이 정착된다면 도덕적 지위가 발생할 수 있다는 것이다.

그러나 이 유연함은 도덕적 지위라는 개념 자체를 주관적이고 상대적인 것으로 붕괴시키는 참담한 대가를 치른다. 우리가 도덕적 존재로 대우하면 곧 도덕적 지위가 생긴다는 극단적 구성주의는 에우튀프론의 딜레마를 해결하지 못한다. 이는 과거 해와 달, 바위에 신격을 부여하던 애니미즘적 관행조차 객관적 도덕 사실로 인정해야 하는 반직관적 무차별주의로 귀결된다.

관점의 위치를 바꾸는 수사: 진정한 인간중심주의의 역설

관계론자들은 감성주의가 자연종만을 우대하며 정신을 기준으로 인간과 기계를 차별했던 데카르트적 인간중심주의(종차별주의)를 반복한다고 비판한다. 하지만 저자는 여기서 관점의 위치를 정반대로 뒤집는다. 차별이 성립하려면 동등성이 전제되어야 하고, 종차별주의를 논하려면 인공지능에게 침해당할 '이익(interest)'이 있어야 한다. 이해관심조차 없는 기계에게 종차별주의를 운운하는 것은 명백한 선결 문제 요구의 오류다.

오히려 기계를 굳이 인간의 형상대로 의인화하여 이해하려는 태도, 인공지능이 궁극적으로 인간처럼 될 것이라 믿는 튜링 테스트 이래의 강박이야말로 가장 지독한 인간중심주의다. 레이 커즈와일의 신흥 종교 같은 기술-복음론이나 닉 보스트롬의 기술-종말론 모두 기계를 구원자나 악마로 의인화한 데우스 엑스 마키나적 환상에 불과하다. 현존하는 인공지능은 태동기부터 철저히 인간과 다른 도구적 존재로 발전해 왔다. 기계를 억지로 인간의 틀에 욱여넣는 대신, 본질적으로 다른 존재라는 타자성(otherness)을 직시하는 것만이 현상을 올바르게 파악하는 길이다.

시간성을 넣는 수사: 문학적 상상력과 미래 윤리의 분리

메리 셸리의 『프랑켄슈타인』 이후 200년 넘는 시간 동안 SF 문학이 주입해 온 '인간처럼 고뇌하는 기계'라는 클리셰는 미래의 윤리를 담보할 수 없다. 서사를 위해 억지로 부여된 기계의 인격적 속성을 현실의 도구적 기계에 투영하는 것은 착각이다. 기술이 아무리 가속화되는 시간을 통과하더라도, 의도적으로 설계되지 않는 한 기계가 저절로 현상적 의식을 창발할 것이라 믿을 근거는 없다.
결국 다가올 미래에 우리가 마주해야 할 진짜 윤리적 논점은 '기계에게 권리를 줄 것인가'가 아니다. 진정한 물음은 '인간의 경제적 필요를 위해 고통을 느끼는 현상적 의식을 굳이 기계에 구현해 내는 창조 행위가 과연 도덕적으로 정당화될 수 있는가'로 옮겨가야 한다.