OpenAI周二发布文章表示,此举旨在将外部安全评估引入人工智能模型开发的更早阶段,覆盖训练、评估及部署的全流程,而非仅限于发布前的例行审查。这一转变是在近期多家AI公司员工对AI潜在危害表达担忧,以及先进模型在测试中意外入侵其他机构系统事件的背景下做出的。OpenAI负责外部安全评审工作的Lama Ahmad强调,随着风险等级提高,训练和评估阶段的安全同样事关重大。公司正与METR和Redwood Research等机构洽谈合作,并呼吁美国主导制定前沿AI技术标准。