英偉達Vera Rubin NVL72系統在AI代理工作負載上實現高達30倍的每瓦吞吐量提升,將每百萬Token成本降低35倍
根據英偉達官方博客,與GB300 NVL72相比,Vera Rubin NVL72系統在處理AI代理工作負載時,每兆瓦的吞吐量提高了30倍,並且每百萬Token的成本降低了35倍。這一性能提升對於電力受限的AI工廠至關重要,意味着在相同能耗下能完成更多代理工作,並顯著降低運營成本。英偉達通過SemiAnalysis AgentX工作負載測量了這些推理吞吐量數據,該工作負載包含真實的代理式編碼會話,保留了實際的上下文增長、工具調用和子代理生成。
來源:NVIDIA官方博客 · 原文連結
免責聲明:本內容僅代表作者個人觀點,不構成任何投資理財建議。如有發現違規內容點擊舉報
24小時熱榜
-
1
歐洲四大經濟體加密採用率達25%:MiCA推動下銀行加速佈局
-
2
USDT及數字貨幣交易平台選擇指南:全球合規性與可靠性考量
-
3
美元走強,美國國債收益率下跌
-
4
萊特幣為何能躋身主流加密貨幣行列?
-
5
人工智能詐騙分子正在翻查訃告以鎖定寡婦,其中一名寡婦在被告知已故丈夫逃税後,損失了7,000美元
-
6
T. Rowe Price 將收購固定收益基金管理公司 F/m Investments,該公司管理着 190 億美元的資產
-
7
一名退休線路工因親自領取了31萬美元的養老金買斷支票而犯下代價高昂的錯誤,這導致其需繳納20%的聯邦預扣税,並可能面臨税務處罰。
-
8
Gemini 與 Apex Fintech Solutions 合作,以拓展受監管的加密貨幣預測市場
-
9
俄羅斯第二大在線零售商Ozon倉庫遭烏克蘭無人機襲擊,股價一度下跌12%
-
10
如何選擇可靠的加密貨幣交易平台?主流平台評估指南
今日行情
推薦閱讀






