主页 > 数码科技 > 深圳IT > 正文

谷歌发布了第六代TPU芯片 引领AI计算新时代

[作者:pnsnkq]
2024-05-16 08:49

   近日,谷歌正式发布了其第六代张量处理单元(TPU)芯片——Trillium,这款芯片在性能和能效上均实现了显著的飞跃,预示着人工智能计算的新篇章。

  Trillium作为谷歌的第六代TPU芯片,相较于前代产品TPUv5e,在计算性能上实现了高达4.7倍的提升。这一巨大的性能飞跃,得益于谷歌对芯片矩阵乘法单元(MXU)的扩大以及整体时钟速度的提高。这使得Trillium能够处理更为复杂、庞大的计算任务,为生成式人工智能模型和工作负载提供强大的支持。

  除了性能的提升,Trillium在能效方面也取得了显著的进步。据谷歌透露,与TPUv5e相比,Trillium的能效提高了67%。这意味着在相同的计算任务下,Trillium能够消耗更少的能源,从而降低了运行成本和碳足迹。这一改进对于推动绿色计算和可持续发展具有重要意义。

谷歌发布了第六代TPU芯片 引领AI计算新时代

  此外,Trillium还采用了第三代SparseCore技术,这是一个专业加速器,用于处理先进的基于人工智能的排名和推荐系统中的超大嵌入。这一技术的引入,使得Trillium能够更快地训练模型,并以更低的延迟为模型提供服务。这将极大地缩短大型语言模型的训练时间,提高模型的响应速度,从而为用户带来更好的体验。

  Trillium的高带宽内存容量和带宽也得到了提升,达到了原来的两倍。同时,芯片间互连带宽也增加了一倍。这些增强功能将使得Trillium能够更好地处理大规模数据和高并发计算任务,为云计算和数据中心提供更加稳定、高效的计算能力。

  Trillium将于今年晚些时候向云服务客户提供。通过利用谷歌在Pod级可扩展性、多切片技术和Titanium智能处理单元方面的进步,用户将能够链接数百个Trillium TPU的单独Pod,以构建PB级超级计算机和数据中心网络。这将为人工智能的广泛应用提供强大的基础设施支持。

  谷歌云机器学习、系统和云AI副总裁兼总经理Amin Vadhat表示:“Trillium TPU的推出,标志着我们在人工智能计算领域取得了重要的里程碑。我们希望通过这款芯片,为企业提供Nvidia GPU的替代品,并推动人工智能技术的广泛应用和发展。”

  随着Trillium的发布,谷歌将继续在人工智能领域进行深入的研究和探索,致力于开发出更加先进、高效的计算技术和产品,推动人工智能技术的创新和应用。我们有理由相信,谷歌的这一创新成果将对整个科技产业产生深远的影响。

猜你喜欢

编辑推荐

相关内容

推荐阅读

加载中...
没有更多了
X