谷歌AI基礎設施負責人Amin Vahdat在近期訪談中指出，電力是AI基礎設施擴張的最根本瓶頸，而非芯片或製造產能；軟件優化對容量提升的貢獻“很可能不少於硬件”。他還透露，谷歌今年發佈的TPU第8代已首次分拆為8i（推理）和8t（訓練）兩顆獨立芯片，反映推理市場的快速膨脹。