ChatGPT, ‘더 도움이 되는 AI’로 진화한다

OpenAI가 ChatGPT를 ‘더 도움이 되는 경험’으로 만들기 위해 새로운 안전 대책과 기능 개선 계획을 내놓았다. 향후 120일 동안 집중적으로 추진될 이번 계획은 위기 상황 대응 확대, 전문가 협력 강화, 청소년 보호 기능 고도화 등을 포함한다. 특히, 민감한 대화를 ‘추론(reasoning) 모델’로 자동 라우팅하고, 한 달 내에 부모 통제 기능(Parental Controls)을 전면 도입할 예정이라는 점에서 주목된다.

AI가 정신적·정서적 위기 상황에서 어떻게 반응해야 하는지는 가장 어려운 과제 중 하나다. OpenAI는 이를 위해 전문가 협의체와 글로벌 의사 네트워크를 두 축으로 삼았다.

Well-Being & AI 전문가 위원회: 청소년 발달, 정신건강, 인간-컴퓨터 상호작용 전문가들이 참여해, AI가 웰빙을 지원할 수 있는 명확하고 근거 기반의 비전을 제시한다. 연구 성과를 토대로 향후 부모 통제 기능이나 안전 장치 설계에도 직접 반영될 예정이다. 글로벌 의사 네트워크: 60개국에서 활동한 250명 이상의 의사, 그중 90명 이상은 정신과·소아과·가정의학과 등 전문가들이다. 이들의 피드백은 모델 학습과 안전 연구에 직접 활용되며, 향후 섭식장애, 약물 남용, 청소년 건강 등 특수 영역 전문가도 추가될 예정이다.

즉, AI가 인간의 복잡한 정신적 맥락을 이해하도록 하기 위해 의학적 전문성과 기술적 설계가 긴밀히 맞물리는 구조를 강화하고 있는 셈이다.

OpenAI는 최근 효율형 모델과 추론형 모델 간 실시간 라우터를 도입했다. 이제 대화 맥락에 따라 필요한 경우 더 깊은 사고를 하는 추론 모델(GPT-5-thinking, o3 등)로 자동 연결된다.

예컨대 사용자의 대화에서 급성 스트레스나 위기 상황이 감지되면, 초기 선택 모델과 무관하게 추론형 모델이 대신 대응하게 된다. 이 모델은 더 오래 ‘생각’하고 맥락을 분석하며, ‘심사숙고적 정렬(deliberative alignment)’ 기법으로 학습돼 안전 가이드라인을 더 잘 준수하고, 악의적 프롬프트에도 강인하게 설계됐다.

이는 단순 효율성을 넘어, 민감한 순간에는 더 신중하고 안전한 답변을 제공하겠다는 원칙을 기술적으로 구현한 조치다.

AI는 이미 ‘AI 네이티브 세대’인 10대의 일상 속에 깊숙이 들어왔다. 그러나 청소년의 발달 단계는 매우 다양하고, 가정마다 AI 사용에 대한 기준도 다르다. 이에 OpenAI는 다음 달 안에 본격적인 부모 통제 기능을 출시한다.

부모는 계정 연동을 통해 자녀(만 13세 이상)와 ChatGPT 사용을 함께 관리할 수 있다. 주요 기능은 다음과 같다.

기본적으로 연령에 맞는 응답 규칙 적용 메모리 및 채팅 기록 기능 비활성화 설정 가능 장시간 이용 시 휴식 알림 제공 위기 신호 감지 시 부모에게 알림 전송 (전문가 자문을 받아 신뢰와 균형 유지)

이러한 기능은 단순 모니터링을 넘어, 가정에서의 건강한 AI 사용 문화를 정착시키려는 시도다.

OpenAI는 이번 조치가 끝이 아니라고 강조한다. 앞으로 120일간 집중적으로 많은 개선이 이뤄지겠지만, 이후에도 전문가 자문과 사용자 피드백을 반영해 지속적 강화를 이어갈 계획이다. 핵심 목표는 단 하나, ChatGPT를 “누구에게나 가장 도움이 되는 도구”로 만드는 것이다.

OpenAI의 이번 계획은 AI가 단순 정보 제공을 넘어 위기 대응, 정신적 지원, 청소년 안전까지 포괄하려는 시도다. 추론 모델 라우팅과 부모 통제 기능은 기술적 개선이자 사회적 책임의 확장이다.

[ⓒ META-X. 무단전재-재배포 금지]