Google 發表兩款自研 TPU 系統 搶攻企業 AI 算力

Google 發表 TPU 8tx 與 8i Max (圖/翻攝自Google)
Google 於 10 日發表兩款自研張量處理器(TPU)系統 8tx 與 8i Max。兩款系統以既有的第八代晶片為基礎,分別著重機密推論與大量資訊處理。路透指出,Google 藉此擴充自研晶片陣容,進一步挑戰輝達(NVIDIA)在 AI 晶片市場的主導地位。
Google 過去主要將 TPU 用於搜尋、YouTube 與 Gemini 等自家服務,如今也透過 Google Cloud 向企業提供算力。母公司 Alphabet 財報顯示,截至 9 月底的第三季,Google Cloud 營收年增 103%,達約 307.1 億美元,TPU 系統銷售是成長來源之一。
8tx 主打機密推論
TPU 8tx 搭配超微(AMD)第五代 EPYC 主機處理器,主要面向政府機關與受監管產業。Google 表示,系統透過硬體加密與隔離機制,在推論時保護敏感資料和模型權重。Google 表示,8tx 採用 Boardfly 晶片互連架構,延遲最低可降至同代 TPU 8t 的一半左右。
8i Max 採雙晶片封裝 記憶體頻寬翻倍
TPU 8i Max 將兩顆 8i 晶片整合在同一個封裝內。據《The Next Platform》報導,8i Max 配備 384 GB 高頻寬記憶體(HBM),比 8i 的 288 GB 多約三分之一。記憶體頻寬增至每秒 17.2 TB,約為 8i 的兩倍。
Google 表示,增加的記憶體讓模型在推論時能參照更多資料,適合需要檢視大量程式碼的 AI 助理。數學推理與新藥探索也是 8i Max 的應用方向。