OpenAI는 화요일에 외부 보안 평가를 인공지능 모델 개발의 더 이른 단계로 가져와 훈련, 평가 및 배포의 전체 프로세스를 포괄하고 출시 전의 일상적인 검토에만 국한되지 않도록 하는 것을 목표로 한다고 발표했습니다. 이러한 변화는 최근 여러 AI 회사 직원들이 AI의 잠재적 위험에 대해 우려를 표명하고, 고급 모델이 테스트 중에 다른 기관 시스템을 우발적으로 침입한 사건이 발생한 배경에서 이루어졌습니다. OpenAI의 외부 보안 검토 책임자인 Lama Ahmad는 위험 수준이 높아짐에 따라 훈련 및 평가 단계의 보안 또한 중요하다고 강조했습니다. 회사는 METR 및 Redwood Research와 같은 기관과 협력 논의 중이며, 미국이 첨단 AI 기술 표준을 주도할 것을 촉구하고 있습니다.