오픈AI, AI 모델 안전성 평가 공개 시스템 'Safety Evaluations Hub' 도입

핵심 기술: 오픈AI가 AI 모델의 안전성과 신뢰성에 대한 사회적 비판을 의식하여, 주요 모델들의 안전성 평가 결과를 정량적으로 공개하는 'Safety Evaluations Hub'를 도입했습니다.

기술적 세부사항:
* Safety Evaluations Hub: 오픈AI 공식 블로그에 개설된 웹 페이지로, 주요 AI 모델들의 안전성 평가 결과를 공개합니다.
* 주요 공개 항목:
* 유해 콘텐츠 대응: 혐오 발언, 불법 조언 등 위험한 요청에 대한 모델의 반응을 평가 (표준 및 챌린지 테스트 포함).
* 탈출 공격 방어력: 강제 프롬프트 등을 통한 안전장치 우회 시도에 대한 저항력을 평가.
* 환각 오류율: 일반 지식 및 인물 정보에 대한 질문 시 모델의 정확성을 평가 (GPT-4가 높은 정확도, 경량 모델은 개선 필요).
* 메시지 우선순위 준수: 시스템, 개발자, 사용자 간 상충된 명령어 상황에서 모델의 지시 우선순위 준수 여부 평가 (GPT-4.5 시스템 메시지 우선순위 높음).
* 갱신 주기: 향후 주요 모델 업데이트 시마다 갱신되어 모델 성능 및 안전성 이슈 사전 파악 지원.

개발 임팩트:
* AI 모델의 투명성 및 신뢰성 향상에 기여.
* 개발자들이 모델의 안전성 관련 약점을 사전에 파악하고 개선할 수 있는 기반 마련.
* AI 윤리 및 책임감 있는 AI 개발 문화 확산에 긍정적 영향.

커뮤니티 반응:
* 현재 제공된 텍스트에는 구체적인 커뮤니티 반응이 언급되지 않았습니다. 다만, 이러한 조치가 최근 오픈AI가 겪은 안전성 논란과 관련이 있다는 점으로 미루어 볼 때, 개발자 커뮤니티에서는 투명성 증대에 대한 긍정적 반응과 함께 실제 평가 데이터의 신뢰성 및 구체성에 대한 논의가 있을 것으로 예상됩니다.