[메타X(MetaX)]인공지능의 작동 원리를 깊이 이해하거나 윤리적 지식을 많이 쌓으면 더 올바른 판단을 내릴 것이라는 방향으로 AI 리터러시 교육이 진행되어왔다. 하주혜, 김성지, 오창훈(2025)의 연구 'AI 리터러시가 AI 윤리에 미치는 영향: 시나리오 기반 분석'은 이러한 통념이 허상임을 실증 데이터로 증명한다. 이 논문은 선언적인 AI 윤리 담론을 현실의 진흙탕으로 끌어내려, 인간의 판단이 어떻게 타협되고 붕괴하는지 관찰한다.

AI 리터러시가 AI 윤리에 미치는 영향: 시나리오 기반 분석

하주혜, 김성지, 오창훈, 2025

지식과 행동의 괴리: 가이드라인은 탁상공론
McNamara 등(2018)과 Vakkuri 등(2020)의 선행 연구는 선언적인 윤리 가이드라인이 실무자의 실제 의사결정에는 아무런 영향을 주지 못한다는 '행동 공백'을 집요하게 지적해 왔다. 머리로 아는 윤리가 손끝의 행동으로 이어지지 않는다는 의미다. 논문의 중심적 발견은 이 공백을 메우는 핵심 동력이 'AI 윤리에 대한 지식(AI Ethics)'이나 '기술적 원리의 이해(Know &Understand AI)'가 아니라는 사실이다. 여덟 가지 윤리적 주제 전반에 걸쳐 일관되게 긍정적인 영향을 미친 단 하나의 변수는 바로 'AI를 직접 다루고 적용하는 능력(Use &Apply AI)'이었다.추상적인 윤리 원칙을 실제 행동으로 치환하는 힘은 기술을 손에 쥐고 직접 통제해 본 실전 경험에서 나온다. 이는 윤리 교육의 패러다임이 '무엇이 옳은가'를 가르치는 것에서 '어떻게 다룰 것인가'를 훈련하는 방향으로 전환되어야 함을 시사한다.

그림. 연구에 사용된 네 가지 시나리오
그림. 연구에 사용된 네 가지 시나리오

의료와 무기 시나리오의 역설
논문은 의료, 채용, 범죄 예측, 자율 무기라는 네 가지 시나리오를 통해 데이터를 수집했다. 이 과정에서 우리의 직관과 다른 점들이 발견됐다.

  • * 의료 시나리오(Medical):
    AI 윤리 역량이 높은 집단일수록, 오히려 의료 AI의 '안전성과 보안(Safety and Security)' 항목에 대해 음(-)의 영향(beta = -0.1696)을 보였다.
    논문은 응답자들이 의료 AI의 안전성과 보안을 이미 어느 정도 확보된 요소로 간주했을 가능성을 언급한다. 즉, 의료 영역에서는 법적·제도적 관리가 강할 것이라는 기대 때문에 안전성 자체보다 프라이버시, 데이터 오용, 민감 정보 활용 문제에 더 주목했을 수 있다.
    * 자율 무기 시나리오(Weapon):
    AI의 개념과 작동 원리를 잘 이해하는 사람일수록 자율 무기 시스템의 '투명성과 설명 가능성(Transparency and Explainability)'에 대해 음(-)의 영향(beta = -0.096)을 미쳤다.
    기술의 맹점과 복잡성을 아는 이들이기에, 생사가 오가는 전장이라는 극단적 환경에서 AI에게 인간이 납득할 만한 완벽한 설명 가능성을 요구하는 것 자체가 비현실적이라고 판단한 결과다. 

기술의 이익이 선명해질수록 윤리는 약해진다
논문의 가장 흥미로운 대목은 시나리오별 연구 동의 여부와 윤리 주제 간의 관계다. 의료 시나리오를 제외한 채용, 범죄 예측, 자율 무기 시나리오에서 기술 도입에 대한 동의 수준이 높을수록 윤리 주제를 덜 중요하게 여기는 경향이 나타났다. 

* 채용: 채용 시나리오에서는 서류 처리를 자동화하여 얻는 '평가의 일관성과 효율성'이라는 혜택이 부각된다. 이 효율성은 응답자들은 시스템이 야기할 수 있는 공정성과 비차별 문제(beta = -1.6970), 프라이버시(beta = -1.3154), 인간의 가치 증진(beta = -1.2696) 원칙등을 외면했다.
* 자율 무기: 자율 무기 시나리오에서는 '신속한 타격과 아군의 생명 보호'라는 실용적 가치가 주어진다. 이에 동의한 이들은 기술에 대한 인간의 통제(beta = -2.2141), 투명성 및 설명 가능성(beta = -2.1694), 책임성(beta = -1.6600) 같은 핵심 윤리 원칙 전반에 걸쳐 유의미한 부정적 태도를 보였다.
결국 효율성과 이득이 손에 잡힐 듯 확실해 보이면, 사용자는 그 이면의 윤리적 붕괴를 스스로 축소하거나 타협하고 만다.

AI 윤리는 실천적 리터러시의 문제다
논문은 AI 윤리를 지식의 문제가 아니라 실천적 리터러시의 문제로 이동시킨다. 중요한 것은 실제 상황에서 AI를 어떻게 적용하고, 그 적용이 누구에게 이익을 주며, 누구에게 위험을 주는지 판단할 수 있는가이다.
AI 윤리 교육은 "공정성, 투명성, 책임성이 중요하다&는 식의 선언형 교육에서 벗어나야 한다. 의료 AI를 사용할 때 어떤 데이터가 민감한가, 채용 AI가 편향을 만들면 누가 피해를 보는가, 범죄 예측 AI가 공익을 명분으로 감시를 정당화할 때 어떤 권리가 약해지는가, 자율 무기 AI에서 인간 통제는 어디까지 유지되어야 하는가를 구체적 시나리오 속에서 토론하게 해야 한다.
AI를 잘 쓰는 능력은 생산성 향상 기술만이 아니다. 잘 쓰기 위해서는 잘 의심해야 하고, 잘 적용하기 위해서는 적용하지 말아야 할 조건도 판단해야 한다.

[METAX = 류성훈 기자]