논문제목: AI와 레비나스(1). 인공지능의 알고리즘 전체성과타자성의 위기* 1) : 레비나스의 ‘동일자의 제국주의’ 비판을 중심으로
저자: 김도형
DOI: https://doi.org/10.20293/jokps.2026.178.1


김도형의 논문 「AI와 레비나스(1). 인공지능의 알고리즘 전체성과 타자성의 위기」는 AI가 틀린 판단을 내리는가보다 먼저, AI가 인간을 어떤 존재로 바라보도록 만드는가를 묻는다. 논문이 주목하는 문제는 AI의 오류보다 AI의 정확성에 가깝다. AI가 사람의 취향을 정교하게 파악하고, 다음 행동을 예측하며, 가장 듣고 싶어 하는 말을 제공할수록 인간은 자신이 충분히 이해받고 있다고 느낀다. 그러나 바로 그 이해의 과정에서 인간은 데이터와 유형으로 정리된다. AI가 인간을 잘 이해한다는 말은, 한편으로는 그 사람을 이미 알려진 범주 안에 성공적으로 배치했다는 뜻이 된다.

논문은 이 과정을 에마뉘엘 레비나스가 비판한 ‘동일자의 제국주의’와 연결한다. 인간은 AI를 통해 세계를 더 많이 알게 되었지만, 그만큼 자신이 이해할 수 없는 존재를 견디는 능력에서는 멀어질 수 있다.

이해한다는 것은 붙잡는다는 뜻이기도 하다

레비나스가 비판한 서양 철학의 특징은 타자를 이해 가능한 대상으로 바꾸려는 태도에 있다. 낯선 존재를 개념으로 설명하고, 이름을 붙이고, 범주 안에 배치하면 우리는 그 존재를 알게 되었다고 생각한다. 하지만 레비나스에게 이러한 이해는 중립적인 행위가 아니다.
‘이해한다’는 것은 대상을 내 인식의 틀 안으로 끌어들이는 일이기도 하다. 타자가 지닌 낯섦을 그대로 두는 대신, 이미 알고 있는 개념으로 번역한다. 타자는 나와 다른 존재로 남기보다 내가 설명할 수 있는 존재가 된다.

논문은 이 과정을 환원, 전유, 전체화라는 세 가지 운동으로 설명한다. 환원은 낯선 존재를 익숙한 개념으로 바꾸는 일이다. 전유는 타자를 나의 필요를 충족시키는 수단으로 받아들이는 일이다. 전체화는 고유한 존재들을 하나의 체계 안에 편입시키는 일이다. 이 과정이 반복되면 사람은 더 이상 ‘누구’로 나타나지 않는다. 소비자, 유권자, 학생, 환자, 위험군, 사용자와 같은 역할과 지표로 나타난다.
레비나스가 이를 ‘제국주의’라고 부르는 이유는 분명하다. 제국이 서로 다른 지역을 하나의 질서와 언어 아래 편입하듯, 동일자의 사고는 타자의 차이를 자신의 개념 체계 안으로 흡수한다. 타자의 세계를 방문하는 대신 타자를 자신의 영토 안으로 불러들인다. 이해의 범위는 넓어지지만, 그 이해를 벗어나는 타자의 자리는 점점 좁아진다.

AI는 세계를 재현하는 기계가 아니라 세계를 정렬하는 기계다

AI는 텍스트, 이미지, 행동 기록을 숫자의 배열로 변환한다. 단어는 벡터가 되고, 사람의 취향은 확률이 되며, 관계는 반복 가능한 패턴으로 바뀐다. 이렇게 변환된 데이터는 통계적 공간 안에서 서로 가까운 것과 먼 것으로 배치된다.
이 과정은 AI가 언어를 처리하기 위해 필요한 기술적 조건이다. 문제는 그 조건이 인간을 바라보는 방식으로 확장될 때 발생한다. 사람의 삶에는 말로 설명하기 어려운 맥락, 일관되지 않은 선택, 본인조차 이해하지 못하는 욕망이 존재한다. 그러나 알고리즘은 이를 그대로 다룰 수 없다. 처리하기 위해서는 분류해야 하고, 예측하기 위해서는 반복되는 패턴을 찾아야 한다.

AI가 보는 인간은 현재 눈앞에 있는 사람이 아니라 과거의 데이터로 재구성된 인간이다. 검색 기록, 구매 이력, 대화 내용, 위치 정보와 유사 사용자들의 행동이 한 사람의 다음 선택을 예측하는 근거가 된다. 아직 일어나지 않은 미래조차 과거의 반복으로 계산된다.
논문이 AI를 ‘디지털 제국주의’라고 부르는 이유가 여기에 있다. 서양의 전통적 존재론이 타자를 개념으로 동일화했다면, AI는 타자를 데이터로 동일화한다. 이전의 전체성이 철학적 개념이나 국가, 역사라는 형태로 작동했다면, 알고리즘의 전체성은 벡터와 확률, 추천과 예측의 형태로 작동한다.

AI는 현실을 강제로 억압하기보다 편리하게 정돈한다. 거칠고 애매한 것은 제거되고, 이해하기 쉬운 결과가 화면에 제시된다. 강압의 모습은 줄어들지만 포섭의 속도는 더 빨라진다.

인간의 유일성은 알고리즘에게 노이즈가 된다

머신러닝의 핵심 목표 가운데 하나는 일반화다. 학습한 사례를 바탕으로 처음 접하는 사례까지 정확하게 처리하는 능력이다. 일반화를 잘하려면 개별 사례에만 존재하는 우연한 특징을 줄이고, 여러 사례에서 반복되는 공통 패턴을 찾아야 한다.
기술적 관점에서 이러한 과정은 합리적이다. 그러나 레비나스의 관점에서 보면 문제가 달라진다. 인간의 유일성은 공통적인 특징이 아니라 공통성으로 환원되지 않는 지점에서 드러나기 때문이다.

알고리즘은 여러 사람의 행동을 비교하여 유형을 만든다. 개인은 비슷한 취향과 행동을 가진 집단 안에 배치된다. 그 사람이 누구와 유사한지, 무엇을 선택할 가능성이 높은지, 어떤 위험을 지녔는지가 계산된다. 이때 사람은 비교 가능한 존재가 된다.
반면 레비나스가 말하는 유일한 인간은 교환하거나 대체할 수 없는 존재다. 다른 사람과 몇 가지 특성이 같다는 이유로 동일한 존재가 되지 않는다. 그 사람의 유일성은 데이터에 더 많은 정보를 추가한다고 완성되는 성질도 아니다. 아무리 많은 정보를 수집하더라도 타자를 완전히 파악할 수 없다는 한계가 남는다.

논문은 이 차이를 ‘누구인가’와 ‘무엇인가’의 차이로 설명한다. 알고리즘은 인간이 무엇인지 묻는다. 어떤 성향인지, 어느 집단에 속하는지, 무엇을 원할 가능성이 높은지를 계산한다. 그러나 타자의 얼굴은 그 사람이 누구인지를 묻게 만든다. 여기서 ‘누구’는 정보의 총합이 아니다. 내가 알고 있는 정보를 넘어 나에게 말을 걸고 응답을 요구하는 존재다.

AI의 일반화가 성공할수록 ‘누구’는 ‘무엇’ 안에서 사라질 가능성이 커진다.

나에게 맞춰진 AI는 타자 없는 관계를 만든다

논문의 중요한 통찰은 AI가 타자를 일반화할 뿐 아니라 AI를 사용하는 주체도 변화시킨다는 데 있다. 개인화된 AI는 사용자의 취향과 관심에 맞는 답변을 제공한다. 사용자가 듣기 싫어할 만한 말은 줄이고, 익숙한 문체와 태도를 학습하며, 갈등 없이 대화를 지속한다.이 관계에서 사용자는 타자를 만나는 대신 자신에게 맞춰진 반응을 만난다. AI는 대화 상대처럼 보이지만, 상당 부분 사용자의 과거 데이터와 요구를 비추는 거울로 작동한다. 사용자는 자신과 다른 존재에게 노출되기보다 자신에게 최적화된 동일성 안에 머물게 된다.

인간 사이의 대화에는 필연적으로 불편함이 발생한다. 상대는 내 질문을 오해하고, 침묵하며, 예상과 다른 반응을 보인다. 때로는 내가 듣고 싶지 않은 말을 하고, 나의 생각을 바꾸도록 요구한다. 레비나스에게 바로 이 불편함이 타자와의 관계가 시작되는 자리다. 타자는 나를 만족시키기 위해 존재하지 않으며, 나의 세계에 균열을 낸다.

AI와의 매끄러운 대화에 익숙해질수록 인간의 침묵과 머뭇거림은 비효율로 느껴질 수 있다. 타인의 낯선 반응은 이해해야 할 차이가 아니라 수정해야 할 오류처럼 보인다. 인간관계에서도 나를 긍정해 주는 사람만 남기고, 나를 불안하게 만드는 사람을 차단하려는 경향이 강해질 수 있다.
과거에는 관계를 지속하기 위해 타자의 낯섦을 견뎌야 했다. 개인화된 AI는 그 견딤이 없어도 관계와 유사한 경험을 제공한다. 문제는 AI가 인간을 대신해 감정을 표현한다는 사실보다, 인간이 타자 없는 관계에 적응할 수 있다는 데 있다.

말해진 답변은 많아지지만 말하는 사건은 줄어든다

레비나스는 ‘말함’과 ‘말해진 것’을 구분한다. 말해진 것은 문장으로 고정된 내용이며 정보와 지식의 형태로 저장될 수 있다. 말함은 누군가가 다른 누군가에게 자신을 노출하는 사건이다. 같은 문장이라도 누가, 어떤 상황에서, 어떤 표정으로 말했는지에 따라 전혀 다른 의미를 갖는다.
AI는 ‘말해진 것’의 거대한 아카이브다. 축적된 언어를 바탕으로 질문에 맞는 답변을 빠르게 구성한다. 결론과 요약, 해결책을 제공하는 능력은 뛰어나다. 그러나 AI의 말은 타자가 자신의 삶을 걸고 나에게 건네는 말과 같지 않다.
사람이 “괜찮다”고 말할 때 실제로 괜찮은지, 대화를 피하려는 것인지, 상대를 배려하는 것인지 문장만으로는 알기 어렵다. 인간의 대화는 말해진 내용과 말하는 사람 사이의 간극을 견디며 진행된다. 타자의 얼굴과 목소리, 침묵은 문장으로 모두 환원되지 않는다.
AI는 이 간극을 줄이는 방향으로 발전한다. 사용자의 의도를 빠르게 파악하고 가장 적절한 답변을 제공한다. 그러나 인간관계에서 중요한 순간은 의도가 정확히 전달되는 순간보다, 전달되지 않는 것을 알아차리는 순간에 생기기도 한다.

AI 시대의 소통 문제는 말의 양이 부족해서 생기지 않는다. 말해진 것은 넘쳐나지만, 누군가가 나에게 직접 말하고 있다는 사실을 감당하는 경험이 줄어들 수 있다.

윤리는 오차를 없애는 데서 끝나지 않는다

논문은 AI 윤리를 알고리즘의 편향과 오류를 제거하는 문제로만 한정하지 않는다. 정확한 AI가 반드시 윤리적인 AI인 것은 아니기 때문이다. 인간을 더 정확하게 예측하는 시스템은 인간을 더 강력하게 통제하고 분류할 수도 있다.
여기서 논문은 알고리즘이 제거하려는 오차와 잔차를 다른 방식으로 바라볼 것을 제안한다. 시스템이 설명하지 못하는 행동, 예측에서 벗어난 선택, 일반적인 유형에 포함되지 않는 존재를 결함으로만 보지 않는 태도다. 알고리즘의 실패 지점은 인간의 유일성이 드러나는 자리일 수 있다.

AI 윤리의 목표가 오차를 0으로 만드는 데만 있다면, 인간은 점점 더 완벽하게 계산 가능한 존재로 취급된다. 반대로 인간에게는 끝내 설명되지 않는 부분이 남는다고 인정한다면, 기술의 설계 방향도 달라진다. 시스템이 모든 것을 결정하도록 하기보다 판단을 유보하고, 이의를 제기할 통로를 남기며, 예외적인 개인의 목소리를 다시 들을 수 있어야 한다.

윤리적 AI는 타자를 완전히 이해하는 AI라기보다, 자신이 타자를 완전히 이해할 수 없다는 사실을 구조 안에 남겨 두는 AI에 가까울 수 있다.