2023年4月12日 · TPU v1使用了脉动阵列（systolic array），这一概念早在40年前就被提出，做法是以固定的时间间隔使数据从不同方向流入阵列中的处理单元（cell），最后将数据累积，以完成大型矩阵乘法运算。

2022年9月25日 · TPU 是谷歌为加速机器学习任务而设计的专用集成电路（ASIC），自首次推出以来，TPU 经历了多次迭代升级，包括 TPU v1、v2、v3 和 v4，以及 Edge TPU 和谷歌 Tensor 等产品。

Tensor Processing Unit (TPU) is an AI accelerator application-specific integrated circuit (ASIC) developed by Google for neural network machine learning, using Google's own TensorFlow software. [2] Google began using TPUs internally in 2015, and in 2018 made them available for third-party use, both as part of its cloud infrastructure and by ...

本文深入探讨了 谷歌 tpu v1 的架构和设计原理。我们将解析 tpu v1 芯片的关键元素，包括 ddr3 dram 、 矩阵乘法单元 （mxu）、累加器和控制指令单元。

2017年4月16日 · This paper evaluates a custom ASIC---called a Tensor Processing Unit (TPU)---deployed in datacenters since 2015 that accelerates the inference phase of neural networks (NN). The heart of the TPU is a 65,536 8-bit MAC matrix multiply unit that offers a peak throughput of 92 TeraOps/second (TOPS) and a large (28 MiB) software-managed on-chip memory.

2023年9月12日 · tpu 的核心是一个 65,536 个 8 位 mac 矩阵乘法单元，可提供 92 teraops/秒 (tops) 的峰值吞吐量和大型 (28 mib) 软件管理片上内存。与 cpu 和 gpu 的时变优化（缓存、乱序执行、多线程、多处理、预取等）相比，tpu 的确定性执行模型更能满足 nn 应用程序的 99% 响应时 …

2024年11月28日 · 本文详细分析了谷歌tpu v1的架构与设计，重点介绍了其核心组件如ddr3 dram、矩阵乘法单元（mxu）、累加器及控制指令单元，特别是mxu中脉动阵列的工作机制。

2017年5月12日 · There’s a common thread that connects Google services such as Google Search, Street View, Google Photos and Google Translate: they all use Google’s Tensor Processing Unit, or TPU, to accelerate...

2024年10月22日 · 本文将概述tpu v1的核心设计理念——通过定制的asic实现显著的成本效益和推理性能提升。 我们将探讨其独特的脉动阵列架构如何优化矩阵乘法等 ...

2024年7月31日 · The evolution of our TPUs has closely matched our innovations in machine learning and AI. TPU v1 was focused on inference — helping models actually do tasks faster. But soon it wasn’t enough to...