シティグループのAIインフラサミット議事録によると、AIワークロードが複雑化するにつれて、インフラは相互接続効率、メモリ容量、帯域幅、消費電力、コストなどの問題を同時に解決する必要がある。ブロードコムは、イーサネットが大規模AIインフラの主要な相互接続ソリューションとなり、5年間の総所有コスト（TCO）を30%以上削減できると見ている。サムスンはHBMロードマップを公開し、新世代のzHBMはHBM5と比較して単一GPU性能を4〜8倍向上させ、同時に熱抵抗を75%〜90%削減できると予測している。マーベルはKVキャッシュのメモリ階層最適化に注力しており、AWSはカスタムチップを通じてメモリ帯域幅の経済性を向上させている。