花旗AI基础设施峰会纪要指出，随着AI工作负载复杂化，基础设施需同时解决互联效率、内存容量、带宽、功耗和成本等问题。博通认为以太网将成大规模AI基础设施首选互联方案，可节省超30%的五年总拥有成本（TCO）。三星披露HBM路线图，预计新一代zHBM较HBM5可实现4至8倍的单GPU性能提升，同时将热阻降低75%至90%。Marvell则聚焦KV缓存的内存层级优化，AWS通过定制芯片提升内存带宽经济性。