如何使用 Google TPU 微基准测试评估 TPU 性能

Google 开源 TPU 微基准测试套件提供网络、计算、HBM、主机传输和注意力组件的细粒度性能指标，帮助开发者验证真实硬件能力。通过基准测试建立 Roofline 模型，工程师可准确诊断机器学习工作负载是受计算、内存还是网络限制。该经验基线可直接指导内核调优、网格分片和重物化等软件优化，以最大化大规模模型部署的硬件利用率。