在本周的Cloud Next大会上,Google正式推出了其第七代TPU AI加快器芯片——Ironwood。据Google Cloud副总裁Amin Vahdat先容,Ironwood是Google迄今为止功效最强大、机能最优、且最节能的TPU。

这款全新的AI加快器芯片专为撑持大规模的思虑和推理AI模子而设想。在计较机能上,Ironwood完成了4614 TFLOP的峰值算力,并设备了192GB的公用RAM和7.4Tbps的超高带宽,确保了数据的高速传输。另外,芯片间互连(ICI)带宽晋升至1.2Tbps,较上一代晋升了50%,从而大幅优化了散布式练习的效力。
Ironwood最惹人注视的特色之一是其可扩大性,它撑持9216个液冷芯片集群安排,总功率靠近10兆瓦。经由过程立异的ICI收集,Ironwood可以或许完成超大规模AI任务负载的处置。Google Cloud为客户供给两种设置设备摆设挑选:256芯片和9216芯片。
作为Google AI超等计较机架构的核心组件,Ironwood经由过程软硬件的协同优化,将无力鞭策天生式AI向更庞杂场景演进。这一立异功效不只展现了Google在AI加快器芯片范畴的抢先地位,也为AI手艺的成长注入了新的能源。




























