近日,谷歌正式发布了其第六代张量处理单元(TPU)芯片——Trillium,这款芯片在性能和能效上均实现了显著的飞跃,预示着人工智能计算的新篇章。
Trillium作为谷歌的第六代TPU芯片,相较于前代产品TPUv5e,在计算性能上实现了高达4.7倍的提升。这一巨大的性能飞跃,得益于谷歌对芯片矩阵乘法单元(MXU)的扩大以及整体时钟速度的提高。这使得Trillium能够处理更为复杂、庞大的计算任务,为生成式人工智能模型和工作负载提供强大的支持。
除了性能的提升,Trillium在能效方面也取得了显著的进步。据谷歌透露,与TPUv5e相比,Trillium的能效提高了67%。这意味着在相同的计算任务下,Trillium能够消耗更少的能源,从而降低了运行成本和碳足迹。这一改进对于推动绿色计算和可持续发展具有重要意义。
此外,Trillium还采用了第三代SparseCore技术,这是一个专业加速器,用于处理先进的基于人工智能的排名和推荐系统中的超大嵌入。这一技术的引入,使得Trillium能够更快地训练模型,并以更低的延迟为模型提供服务。这将极大地缩短大型语言模型的训练时间,提高模型的响应速度,从而为用户带来更好的体验。
Trillium的高带宽内存容量和带宽也得到了提升,达到了原来的两倍。同时,芯片间互连带宽也增加了一倍。这些增强功能将使得Trillium能够更好地处理大规模数据和高并发计算任务,为云计算和数据中心提供更加稳定、高效的计算能力。
Trillium将于今年晚些时候向云服务客户提供。通过利用谷歌在Pod级可扩展性、多切片技术和Titanium智能处理单元方面的进步,用户将能够链接数百个Trillium TPU的单独Pod,以构建PB级超级计算机和数据中心网络。这将为人工智能的广泛应用提供强大的基础设施支持。
谷歌云机器学习、系统和云AI副总裁兼总经理Amin Vadhat表示:“Trillium TPU的推出,标志着我们在人工智能计算领域取得了重要的里程碑。我们希望通过这款芯片,为企业提供Nvidia GPU的替代品,并推动人工智能技术的广泛应用和发展。”
随着Trillium的发布,谷歌将继续在人工智能领域进行深入的研究和探索,致力于开发出更加先进、高效的计算技术和产品,推动人工智能技术的创新和应用。我们有理由相信,谷歌的这一创新成果将对整个科技产业产生深远的影响。
2024-07-17 14:56
2024-07-17 14:56
2024-07-17 14:47
2024-07-17 14:56
2024-07-17 14:47
2024-07-17 14:56
2024-07-17 14:47
2024-07-17 10:59
2024-07-17 10:45
2024-07-16 15:50
2024-07-16 15:47
2024-07-16 15:44
2024-07-12 15:42
2024-07-12 15:23