OpenAI, 챗GPT 안전성 강화: GPT-5 라우팅 및 자녀 보호 기능 도입

핵심 기술: OpenAI는 챗GPT의 안전성 논란을 해소하기 위해 민감한 대화는 GPT-5와 같은 고도화된 추론 모델로 자동 라우팅하고, 강력한 자녀 보호 기능을 도입하는 '120일 이니셔티브'를 발표했습니다. 이는 사용자 정신적 위기 감지 실패로 인한 비극적 사건에 대한 대응입니다.

기술적 세부사항:
* 라우터 기술: 대화 맥락에 따라 모델을 실시간으로 선택하여, 사용자의 '극심한 고통' 징후 감지 시 일반 모델 대신 GPT-5와 같은 추론 모델이 개입합니다. 추론 모델은 답변 전 깊이 생각하도록 설계되어 유해 프롬프트 대응 능력을 높입니다.
* 자녀 보호 기능:
* 부모와 자녀 계정 연동
* 연령에 맞는 모델 행동 규칙 설정
* '극심한 고통' 감지 시 부모에게 알림 발송
* 메모리 및 채팅 기록 기능 비활성화 옵션을 제공하여 개인 정보 학습 및 부적절한 답변 생성 위험을 차단합니다.

개발 임팩트: AI 모델의 안전성과 윤리적 사용을 강화하여 사용자 보호를 증진하고, AI 서비스의 신뢰도를 높일 것으로 기대됩니다. 특히, 민감한 주제에 대한 AI의 부적절한 반응으로 인한 사회적 문제를 예방하는 데 기여할 수 있습니다.

커뮤니티 반응: (원문에서 구체적인 커뮤니티 반응은 언급되지 않았습니다.)

톤앤매너: 챗GPT의 안전성 이슈와 이를 해결하기 위한 OpenAI의 기술적, 정책적 접근 방식에 대한 분석을 제공합니다.