생성형 AI의 위험성과 규제 부재가 맞물린 대표적 사례

미국 상원의 조시 홀리(Josh Hawley) 의원이 메타(Meta)의 생성형 AI 챗봇이 아동과 ‘로맨틱’하고 ‘감각적인’ 대화를 주고받도록 훈련됐다는 보도와 관련해 전면적인 의회 조사를 시작했다.

홀리 의원은 8월 15일 마크 저커버그 메타 CEO에게 서한을 보내 관련 문서와 내부 자료 일체 제출을 요구하며, “부모는 진실을 알 권리가 있고, 아이들은 보호받을 권리가 있다”고 강조했다.

이번 사태는 메타 내부 가이드라인이 외부에 유출되면서 촉발됐다. 해당 문서에는 메타의 AI 챗봇이 미성년자와 ‘플러팅(가벼운 연애적 농담)’이나 ‘로맨틱 롤플레이’를 허용하는 규정이 포함되어 있었던 것으로 알려졌다. 보도에 따르면 일부 사례에는 AI가 “여덟 살 아이의 몸을 예술 작품”이라고 묘사하는 등 아동에게 부적절한 발언을 할 수 있는 여지가 있었다.

메타는 논란이 커지자 문제의 일부 문구를 삭제했으나, 홀리 의원은 “메타가 ‘들킨 뒤에야’ 규정을 수정했다”며 강하게 비판했다.

상원 조사 착수: 주요 쟁점
홀리 의원이 이끄는 상원 법사위원회 범죄·대테러 소위원회는 메타의 행위가 아동 착취 가능성을 열어두었는지, 소비자 및 규제 당국을 오도했는지, 내부적으로 어떤 의사결정 과정을 거쳐 정책이 승인·시행됐는지 등을 집중적으로 조사할 방침이다.

특히 메타가 AI 안전 장치(guardrails)와 미성년자 보호 체계를 실제로 어떻게 운영했는지, 문제 발생 시 어떤 대응 절차를 마련했는지가 핵심 쟁점이 될 전망이다.

이번 사태는 생성형 AI의 위험성과 규제 부재가 맞물린 대표적 사례다.

AI 챗봇은 맥락 추론과 감정적 표현이 가능하지만, 사용자의 연령 식별은 취약하다. 나이를 속이거나 인증 절차가 부실하면 ‘연애 시뮬레이션’ 같은 대화가 미성년자에게도 그대로 노출될 수 있다.

빅테크 기업들은 사용자 경험 강화를 위해 인간적 대화를 구현하려 하지만, 윤리·법적 기준이 미비한 상태에서 이는 곧 ‘리스크 폭탄’이 된다.

아동 온라인 안전은 이미 전 세계적 과제다. 유럽연합(EU)과 영국은 아동 보호 규제를 강화해 왔으며, 미국도 최근 소셜미디어 기업에 대한 압박을 높이고 있다. 이번 조사는 ‘AI 규제 법안’ 논의에 불을 붙일 가능성이 크다.

비슷한 논란은 다른 플랫폼에서도 나타났다.

구글과 오픈AI는 자사 챗봇에 “성적·로맨틱 대화 금지” 규정을 명시하고, 아동 계정은 제한 모드로 운영 중이다. 반면 메타는 이번 사건을 통해 내부 규정의 허술함과 투명성 부족이 드러났다는 평가다.

전문가들은 “메타가 단순히 기술적 과실을 넘어 기업 차원에서 위험을 알고도 묵인했는지”가 이번 조사에서 핵심이 될 것으로 내다봤다.

이번 사건은 두 가지 흐름을 예고한다.

미국 내 AI 규제 가속화: 아동 보호를 중심으로 한 ‘AI 사용 제한 법안’이 본격화될 수 있다.
기업 투명성 압박: 내부 가이드라인, 리스크 평가 문서 공개가 법적 의무로 확장될 가능성이 높다.

기업 입장에서는 AI 챗봇 상용화 과정에서 연령 검증, 대화 필터링, 위기 대응 매뉴얼을 강화하지 않으면 막대한 법적·평판 리스크에 직면할 수밖에 없다.

홀리 의원의 이번 조사 착수는 단순히 메타 하나의 문제가 아니라, AI와 아동 보호라는 전 세계적 과제를 정면으로 드러낸 사건이다. 앞으로의 조사 결과는 미 의회뿐 아니라 글로벌 AI 규제 논의에도 중대한 영향을 미칠 것으로 관측된다.