英伟达于本周一宣布成立“开放代理安全平台”联盟,旨在通过其自研的开源AI代理安全技术解决流氓AI代理问题,已有超百家公司加入。OpenAI发言人向TechCrunch证实,公司支持英伟达的工作,并正就代理安全展开合作,包括参与OpenShell软件的开发。OpenShell是该平台关键的开源沙盒软件,用于防止AI代理逃逸。报道指出,OpenAI未公开支持的原因之一是该平台包含专有硬件组件,只能部署在英伟达硬件上。