Alphabet(GOOGL-US) 旗下 Google 宣布推出第八代張量處理單元 (TPU)，首度將人工智慧 (AI) 模型訓(xùn)練與推論運(yùn)算拆分為兩款專用芯片，借此提升效能并強(qiáng)化在 AI 硬件領(lǐng)域?qū)τミ_(dá) (NVDA-US) 的競(jìng)爭(zhēng)力。兩款新芯片預(yù)計(jì)將于今年稍晚上市。

Google 指出，隨著 AI 代理 (AI agents) 需求快速成長(zhǎng)，市場(chǎng)對(duì)訓(xùn)練與推論運(yùn)算的差異化需求日益明顯，因此決定將兩者分離設(shè)計(jì)。Google 資深副總裁暨 AI 與基礎(chǔ)設(shè)施首席技術(shù)長(zhǎng)阿明?瓦赫達(dá)特表示，專用化芯片將更能滿足不同工作負(fù)載需求并提升整體效率。

競(jìng)爭(zhēng)對(duì)手英偉達(dá)亦持續(xù)推進(jìn)新產(chǎn)品布局。該公司今年 3 月表示，其即將推出的芯片將結(jié)合以 200 億美元收購(gòu) AI 芯片新創(chuàng) Groq 的技術(shù)，使模型能更快速回應(yīng)使用者問題。盡管 Google 本身仍是英偉達(dá)的重要客戶之一，但同時(shí)也透過(guò) TPU 向云端客戶提供替代方案。

全球科技巨頭正加速投入客制化 AI 芯片開發(fā)，以提升效率并滿足特定應(yīng)用場(chǎng)景需求。蘋果 (AAPL-US) 多年來(lái)已在 iPhone 自研芯片中整合神經(jīng)網(wǎng)路引擎；微軟 (MSFT-US) 于今年 1 月推出第二代 AI 芯片；Meta Platforms(META-US) 則于上周宣布與博通 (AVGO-US) 合作開發(fā)多款 AI 處理器。

Google 在 AI 芯片領(lǐng)域布局較早，早在 2015 年即開始使用自研處理器運(yùn)行 AI 模型，并于 2018 年對(duì)外提供云端租用服務(wù)。同年，亞馬遜 AWS 推出用于 AI 推論的 Inferentia 芯片，并于 2020 年發(fā)布訓(xùn)練用 Trainium 處理器。市場(chǎng)研究機(jī)構(gòu) DA Davidson 分析師于去年 9 月估計(jì)，TPU 業(yè)務(wù)結(jié)合 Google DeepMind AI 部門的價(jià)值約達(dá) 9000 億美元。

盡管競(jìng)爭(zhēng)日趨激烈，目前仍無(wú)企業(yè)撼動(dòng)英偉達(dá)在 AI 芯片市場(chǎng)的主導(dǎo)地位。Google 此次亦未直接與英偉達(dá)產(chǎn)品進(jìn)行效能對(duì)比。不過(guò)公司表示，新一代訓(xùn)練芯片在相同價(jià)格下，效能較去年 11 月推出的第七代 Ironwood TPU 提升 2.8 倍，而推論芯片效能則提升約 80%。

在存儲(chǔ)器架構(gòu)方面，英偉達(dá)即將推出的 Groq 3 LPU 將大量采用靜態(tài)隨機(jī)存取存儲(chǔ)器 (SRAM)，該技術(shù)亦被申請(qǐng)上市的 AI 芯片公司 Cerebras Systems 采用。Google 新推出的推論芯片 TPU 8i 同樣導(dǎo)入 SRAM 設(shè)計(jì)，每顆芯片配備 384MB SRAM，為 Ironwood 的三倍容量。

桑達(dá)爾 · 皮查伊表示，此次新架構(gòu)旨在提供高吞吐量與低延遲，以支援?dāng)?shù)百萬(wàn)個(gè) AI 代理同時(shí)運(yùn)行，并維持成本效益。

隨著應(yīng)用擴(kuò)展，Google TPU 采用率持續(xù)攀升。公司指出，Citadel Securities 已利用 TPU 打造量化研究軟體，美國(guó)能源部旗下 17 個(gè)國(guó)家實(shí)驗(yàn)室亦全面采用基于 TPU 的 AI 協(xié)同科學(xué)家系統(tǒng)。此外，AI 公司 Anthropic 已承諾采用數(shù) GW 等級(jí)的 TPU 算力，顯示市場(chǎng)需求持續(xù)升溫。