AI와 인간 전문가의 결합… 미묘한 위험 신호도 포착
전 세계 온라인 안전망 확장...이젠 안전 경쟁 시대

글로벌 게임·창작 플랫폼 로블록스(Roblox)가 아동과 청소년 사용자의 온라인 안전 강화를 위해 개발한 AI 조기 경보 시스템 ‘로블록스 센티널(Roblox Sentinel)’을 공식 발표했다.

이번에 공개된 센티널은 잠재적 학대·위협 대화를 사전에 감지해 신속 대응을 가능케 하며, 오픈소스로 배포돼 다른 디지털 플랫폼에서도 활용할 수 있다.

AI와 인간 전문가의 결합… 미묘한 위험 신호도 포착

센티널은 단순한 금칙어 필터링을 넘어, 그루밍(grooming) 범죄나 착취 시도로 이어질 수 있는 ‘미묘하고 탐지 어려운 대화 패턴’을 인식하도록 설계됐다.

로블록스는 이미 2024년 말부터 해당 시스템을 내부에 적용해왔으며, 이를 통해 2025년 상반기에만 약 1,200건의 아동 착취 의심 사례를 미국 국립아동실종학대방지센터(NCMEC)에 신속 보고했다고 밝혔다.

이 과정은 AI와 인간 전문가의 ‘투트랙’ 검증으로 이뤄진다.

AI가 잠재적 위험 대화를 포착하면, 숙련된 안전 분석가가 직접 내용을 검토한다. 이 결과를 다시 AI 학습에 반영해 시스템을 더 똑똑하게 만든다.

이 순환 구조 덕분에 센티널은 악의적 행위자들이 새로운 회피 패턴을 사용하더라도 빠르게 적응하고 정교성을 유지할 수 있다.

오픈소스 공개… “인터넷 전체 안전망 확장”

이번 센티널 공개의 가장 큰 특징은 오픈소스 제공이다. 로블록스는 자사 플랫폼을 넘어 모든 디지털 커뮤니티가 동일한 보호 기술을 적용할 수 있도록 깃허브(GitHub)를 통해 코드를 배포했다.

맷 코프먼(Matt Kaufman) 로블록스 최고안전책임자(CSO)는 “온라인 안전은 특정 플랫폼만의 과제가 아니라 업계 전체가 직면한 공통 문제”라며, “로블록스는 기술을 개방하고 업계 리더들과 협력해 인터넷 전반을 더 안전하게 만들겠다”고 밝혔다.

글로벌 온라인 안전 경쟁 본격화

로블록스의 이번 행보는 단순한 기업 차원의 보호 장치를 넘어, 글로벌 온라인 안전 표준화 경쟁의 신호탄으로 해석된다.

최근 메타, 틱톡 등 주요 플랫폼 역시 AI 기반 위험 탐지와 실시간 모니터링 체계를 강화하고 있으며, 아동·청소년 보호를 위한 기술 공유와 정책 연계 움직임이 확산되고 있다.

전문가들은 센티널의 오픈소스화가 중소규모 플랫폼과 스타트업에도 동일한 안전 기능을 구현할 수 있는 기회를 제공할 것으로 전망한다.

다만, AI 탐지 기술의 한계와 데이터 프라이버시 문제, 국제 법 집행 기관과의 협력 체계 구축 등은 여전히 풀어야 할 과제로 꼽힌다.

로블록스의 ‘센티널’은 AI와 인간 전문성이 결합된 차세대 온라인 안전 프레임워크다. 오픈소스 공개를 통해 글로벌 디지털 환경 전반에 파급력을 미칠 것으로 기대되며, 앞으로 이 기술이 얼마나 빠르게 확산되고 표준으로 자리 잡을지가 주목된다.