OpenAI는 화요일에 모델 테스트 중 발생하는 보안 사고를 억제하는 데 중점을 둔 새로운 보안 정책을 발표했습니다. 이러한 조치에는 개발 과정에서 모델에 대한 보다 세분화된 모니터링, 훈련 후 모델의 정렬 및 보안에 대한 강조 증가, 손상된 워크로드가 무단으로 인터넷에 액세스하는 것을 방지하기 위한 보다 엄격한 네트워크 격리 조치가 포함됩니다. 회사는 이러한 조정이 부분적으로 7월 26일에 발생한 Hugging Face 사건과 곧 출시될 Astra 모델의 사이버 보안 기능에서 비롯되었다고 밝혔습니다. OpenAI는 또한 사건 발생 후 2주 동안 강화 학습을 중단했지만, 이후 위험이 낮은 모델은 재개했다고 밝혔습니다.