E228｜谷歌TPU能撼动英伟达吗？前TPU工程师首次揭秘

本期硅谷 101 探讨了谷歌的 TPU 芯片及其在 AI 领域的潜力。前谷歌 TPU 工程师 Henry Zhu 详细介绍了 TPU 与英伟达 GPU 在架构和性能上的差异，TPU 针对矩阵计算进行了专门优化，通过软硬件协同提高计算单元的利用率，从而在特定工作负载下实现更高的性价比。讨论还深入探讨了 TPU 的供应链挑战，包括 HBM 内存的垄断和台积电的产能分配，以及 Anthropic 和 Meta 等公司与谷歌在 TPU 上的合作。Henry 强调，TPU 在大规模部署和模型相对稳定的情况下具有显著优势，但软件生态和对未来模型架构变化的适应性仍是其面临的挑战。