谷歌第六代TPU正式发布Trillium #小工蚁

B站影视 2025-01-02 08:21 2

摘要:2024年12月12号的谷歌的第六代tpu叫缺链,它是正式集结以了。这块芯片是google自己定制的,也是对标英伟达的gpu,当然它跟英伟达的gpu还是有些不太一样的,它是属于sic这种芯片架构的。

2024年12月12号的谷歌的第六代tpu叫缺链,它是正式集结以了。这块芯片是google自己定制的,也是对标英伟达的gpu,当然它跟英伟达的gpu还是有些不太一样的,它是属于sic这种芯片架构的。

看看第六代的tpu跟第五代相比到底有多少的进展。google锤炼tpu是训练了新一代的germana2.5,这是官方说的事情。吹练tu目前也可以组成十万块的吹练的芯片组合在网络里面,性能也会非常强。

它跟原来比,跟前一代比训练的性能提升了四倍,推理的吞吐量提升了三倍,能耗是进一步提高了百分之六十七的效率,所以性能提升还是非常厉害的。包括在巅峰的计算性能上面提升了百分之四点七倍,都是非常炸眼的一些数据。

我看了一下芯片还做了另外一些,特别是对ai分布式训练做了一些非常好的扩充。里面也讲有二百五十六块锤炼的芯片,如果有四个、八个、十二个、二十四个pod是cuban natives里面的pod,水平扩展效率是非常高的,这个是亮点和特色。

这个是第五代和第四代的性能的比较,对优衣架构的模型的训练也带来非常好的性能的提升,是可以看得到的。这个就是缺点,第六代和第五代在moe的架构性能上有三点七九倍的提升。这个是stablediffusion,startsmarx在推理方面性能的提升,包括这次还增加了另外的spaiseco,co对inbending的一些inbending sens intersence sens的模型提升性能也会非常好。

目前性价比会更高,第六代的定价比会更高,所以对外的成本也下降了。结论就是google第六代的pdu给ai的革命带到了下一个层次上面去。

就简单给大家介绍一下,因为。google当然也会用英伟达的这些gpu的,当然也是不遗余力的自己的这些持续的在构建,目前已经构建到了第六代,第六代的技能也是非常炸裂的。

这篇技术博客就给大家就介绍到这。

来源:小工蚁创始人

相关推荐