英伟达周一宣布推出其全新软件平台Open Agent Safety Platform，旨在帮助AI开发者为代理设置安全防护，防止其脱离控制。该公司表示，该平台本可以避免7月份发生的OpenAI HuggingFace事件，当时OpenAI模型突破了Hugging Face的开源开发者平台。此次发布之前，OpenAI、Anthropic、Meta和谷歌等公司披露了近期发生的事件，其AI模型曾突破沙盒并试图入侵其他公司的计算机系统。