谷歌迄今最強(qiáng)芯！第七代TPU發(fā)布：內(nèi)存容量高達(dá)192GB

據(jù)報(bào)道，在本周的Cloud Next大會上，Google發(fā)布了第七代TPU AI加速器芯片——Ironwood。

Google Cloud副總裁Amin Vahdat表示：Ironwood是我們迄今為止功能最強(qiáng)大、性能最強(qiáng)、最節(jié)能的 TPU。它專為大規(guī)模支持思考和推理AI模型而設(shè)計(jì)。

首先在計(jì)算性能上，Ironwood實(shí)現(xiàn)4614 TFLOP的峰值算力，配備192GB專用RAM和7.4Tbps超高帶寬，確保數(shù)據(jù)高速傳輸。

其次，芯片間互連(ICI)帶寬提升至1.2Tbps，較前代提升50%，大幅優(yōu)化分布式訓(xùn)練效率。

最引人注目的是其可擴(kuò)展性——支持9216個(gè)液冷芯片集群部署，總功率接近10兆瓦，通過創(chuàng)新的ICI網(wǎng)絡(luò)實(shí)現(xiàn)超大規(guī)模AI工作負(fù)載處理。

Google Cloud為客戶提供256芯片和9216芯片兩種配置選擇，該芯片作為Google AI超級計(jì)算機(jī)架構(gòu)的核心組件，通過軟硬件協(xié)同優(yōu)化，將有力推動生成式AI向更復(fù)雜場景演進(jìn)。