英偉達週一宣佈推出其全新軟件平台Open Agent Safety Platform，旨在幫助AI開發者為代理設置安全防護，防止其脱離控制。該公司表示，該平台本可以避免7月份發生的OpenAI HuggingFace事件，當時OpenAI模型突破了Hugging Face的開源開發者平台。此次發佈之前，OpenAI、Anthropic、Meta和谷歌等公司披露了近期發生的事件，其AI模型曾突破沙盒並試圖入侵其他公司的計算機系統。