热门问题
时间线
聊天
视角
張量處理單元
来自维基百科，自由的百科全书
Remove ads
張量處理單元（英文：Tensor Processing Unit，簡稱：TPU），也稱張量處理器，是 Google 開發的專用積體電路（ASIC），專門用於加速機器學習。[1]自 2015 年起，谷歌就已經開始在內部使用 TPU，並於 2018 年將 TPU 提供給第三方使用，既將部分 TPU 作為其雲基礎架構的一部分，也將部分小型版本的 TPU 用於銷售。
「TPU」重新導向至此。關於一種常見的彈性塑料，請見「熱塑性聚氨酯」。總覽
2016 年 5 月，Google 在 Google I/O 上宣布了張量處理單元，並表示 TPU 已經在其資料中心內部使用了超過一年。[2][3]該晶片是專門為 Google 的 TensorFlow 框架（一個符號數學庫，用於機器學習應用程式，如神經網路）設計的。[4]不過，截至 2017 年，Google 也將 CPU 和 GPU 用於其他類型的機器學習。[2]其他供應商也設計了自己的 AI 加速器，並針對嵌入式和機器人市場。
Google 的 TPU 是專有的，一些 TPU 的型號已經上市。在 2018 年 2 月 12 日，紐約時報報道稱 Google 將「允許其他公司通過其雲端運算服務購買對這些晶片的存取權」。[5]Google 曾稱，它們已用於 AlphaGo 與李世乭的人機圍棋對戰[3]以及 AlphaZero 系統中。Google還使用 TPU 進行 Google 街景中的文字處理，並且能夠在不到五天的時間內找到 Google 街景資料庫中的所有文字。在 Google 相簿中，單個 TPU 每天可以處理超過1億張相片。TPU 也被用在 Google 用來提供搜尋結果的 RankBrain 中。[6]
與圖形處理單元（GPU）相比，TPU 被設計用於進行大量的低精度計算（如 8 位的低精度）[7]，每焦耳功耗下的輸入/輸出操作更多，但缺少用於光柵化/紋理對映的硬體。[3]
根據 Norman Jouppi 的說法，TPU 可以安裝在散熱器組件中，從而可以安裝在資料中心機架上的硬碟機插槽中。[2]
Remove ads
產品
Remove ads
第一代TPU是一個 8 位矩陣乘法的引擎，使用複雜指令集，並由主機通過 PCIe 3.0 匯流排驅動。它採用28 nm工藝製造，裸晶尺寸小於 331 mm2，時鐘速度為 700 MHz，熱設計功耗為 28–40 W。它有28 MiB 的片上儲存和 4 MiB 的 32位元累加器，取 8 位乘法器的 256×256 脈動陣列的計算結果。[19]TPU 還封裝了 8 GiB 的雙連結 2133 MHz DDR3 SDRAM，頻寬達到 34 GB/s。[10]TPU 的指令向主機進行資料的收發，執行矩陣乘法和卷積運算，並應用啟用功能。[19]
第二代 TPU 於 2017 年 5 月發布。[20]Google 表示，第一代 TPU 的設計受到了主記憶體頻寬的限制，因此在第二代設計中使用 16 GB 的高頻寬記憶體，可將頻寬提升到 600 GB/s，效能從而可達到 45 TFLOPS。[10]TPU 晶片隨後被排列成效能為 180 TFLOPS 的四晶片模組[20]，並將其中的 64 個這樣的模組組裝成 256 晶片的 Pod，效能達到 11.5 PFLOPS。[20]值得注意的是，第一代 TPU 只能進行整數運算，但第二代 TPU 還可以進行浮點運算。這使得第二代 TPU 對於機器學習模型的訓練和推理都非常有用。谷歌表示，這些第二代TPU將可在 Google 計算引擎上使用，以用於 TensorFlow 應用程式中。[21]
第三代 TPU 於 2018 年 5 月 8 日發布。[22]谷歌宣布第三代 TPU 的效能是第二代的兩倍，並將部署在晶片數量是上一代的四倍的 Pod 中。[23][24]與部署的第二代 TPU 相比，這使每個 Pod 的效能提高了 8 倍（每個 Pod 中最多裝有 1,024 個晶片）。
第四代 TPU 於 2021 年 5 月 19 日發布。谷歌宣布第四代 TPU 的效能是第三代的2.7倍，並將部署在晶片數量是上一代的兩倍的 Pod 中。與部署的第三代 TPU 相比，這使每個 Pod 的效能提高了 5.4 倍（每個 Pod 中最多裝有 4,096 個晶片）。
2021 年，谷歌透露TPU v5的物理布局是在深度強化學習新技術的幫助下設計的。[25]谷歌聲稱TPU v5快了差不多兩倍，比TPU v4快。基於這一點和比A100更好的表現，人們推測TPU v5可能與H100一樣快，甚至更快。[26]
與v4i是v4的輕量級版本一樣，第五代也有一個名為v5e的「成本效益」的版本。2023年12月，谷歌推出了TPU v5p，宣稱其效能與H100旗鼓相當。[27]
2024年5月，在Google I/O會議上，谷歌推出了TPU v6e (Trillium)。[28]谷歌聲稱TPU v6比起TPU v5e可實現4.7倍的效能提升，這要歸功於大尺寸的矩陣乘法單元和更快的時鐘速度。高頻寬儲存（HBM）容量和頻寬均提高了一倍。pod可包含多達256個Trillium單元。
2025年4月，在Google Cloud Next會議上，谷歌推出了TPU v7 (Ironwood)。[29] 這是一款名為Ironwood的新晶片，將有兩個版本：256顆晶片叢集和9,216顆晶片叢集。Ironwood的峰值計算效能可達4,614 TFLOP。
參見
參考文獻
外部連結
Wikiwand - on
Seamless Wikipedia browsing. On steroids.
Remove ads