花旗AI基礎設施峯會紀要指出，隨着AI工作負載複雜化，基礎設施需同時解決互聯效率、內存容量、帶寬、功耗和成本等問題。博通認為以太網將成大規模AI基礎設施首選互聯方案，可節省超30%的五年總擁有成本（TCO）。三星披露HBM路線圖，預計新一代zHBM較HBM5可實現4至8倍的單GPU性能提升，同時將熱阻降低75%至90%。Marvell則聚焦KV緩存的內存層級優化，AWS通過定製芯片提升內存帶寬經濟性。