GoogleのAIインフラ責任者であるアミン・ヴァーダット氏は最近のインタビューで、AIインフラ拡張の最も根本的なボトルネックは電力であり、チップや製造能力ではないと指摘しました。また、容量増加に対するソフトウェア最適化の貢献は「ハードウェアに劣らない可能性が高い」と述べました。さらに、Googleが今年発表したTPU第8世代は、推論市場の急速な拡大を反映して、初めて8i(推論)と8t(トレーニング)の2つの独立したチップに分割されたことも明らかにしました。