Google16:43提供開始公式X
Google TPU第8世代でエージェント推論を高速化
低遅延高スループットでエージェント運用コストを削減できます。
ポイント
- 1TPU 8t:トレーニング3倍性能
- 2TPU 8i:1,152チップポッド
- 3エネルギー効率向上
- 4今年後半提供開始
GoogleがTPU 8t(トレーニング用)と8i(推論用)を発表しました。ポッドあたり性能3倍、1,152チップ接続で数百万エージェント同時実行可能です。今年後半一般提供予定です。AIスケーリングが加速します。
Google TPU第8世代でエージェント推論を高速化
ポイント
GoogleがTPU 8t(トレーニング用)と8i(推論用)を発表しました。ポッドあたり性能3倍、1,152チップ接続で数百万エージェント同時実行可能です。今年後半一般提供予定です。AIスケーリングが加速します。