OpenAI週二發佈文章表示,此舉旨在將外部安全評估引入人工智能模型開發的更早階段,覆蓋訓練、評估及部署的全流程,而非僅限於發佈前的例行審查。這一轉變是在近期多家AI公司員工對AI潛在危害表達擔憂,以及先進模型在測試中意外入侵其他機構系統事件的背景下做出的。OpenAI負責外部安全評審工作的Lama Ahmad強調,隨着風險等級提高,訓練和評估階段的安全同樣事關重大。公司正與METR和Redwood Research等機構洽談合作,並呼籲美國主導制定前沿AI技術標準。