據TechCrunch報道,AI可解釋性初創公司Goodfire於週四推出新型AI監控器,旨在以更低成本捕獲異常AI代理。該系統通過直接監測AI模型內部運作而非外部輸出,僅在發現異常時才調用輔助AI進行深入檢查。Goodfire表示,這種“由內而外”的方法比傳統方式成本更低,在Kimi K3模型上的測試顯示,監控1500個會話成本約為51美元,遠低於其他方案的233美元至10000美元。該系統能捕獲94%的惡意黑客會話,並僅將8.7%的無害會話送審。Goodfire的監控器已面向Baseten的客户提供,可用於監測攻擊性黑客行為、化學和生物武器濫用以及獎勵欺騙等風險。