Arm近日推出一套面向Agent的CPU性能評估方法論,旨在通過更貼近真實應用場景的測試,幫助企業判斷不同CPU在Agent任務中的表現。

隨着Agent應用場景的不斷細分,除了調用大模型進行推理,Agent還需要訪問數據庫、執行代碼、調用工具等,這些環節都可能消耗大量CPU資源,導致GPU閒置。Arm雲AI解決方案架構總監Ravi Malhotra指出,CPU能否快速完成自身工作,對整體效率至關重要。此次Arm提出的方法論將組件級測試與端到端Agent基準測試結合,關注Agent併發數量、任務執行效率及每機架性能,並建議企業根據自身應用選擇評測指標。