云天励飞“算力积木”联手OISA,突破万亿级MoE大模型推理集群的Scale up瓶颈

B站影视 内地电影 2025-09-29 13:47 1

摘要:核心目标是打造一个全向、对等、智能的互联新范式,使集群中任意AI芯片之间、AI芯片与CPU之间都能直接高速访问彼此的内存,彻底解决智算集群中的内存互访难题,为大规模并行计算提供坚实的技术基石。

近日,云天励飞正式加入 OISA 生态,携手产业伙伴共同推动国产 AI 芯片互联体系建设,为中国算力生态注入新的动力。

OISA(Omni-directional Intelligent Sensing Express Architecture)是由中国移动提出的开放互联标准体系。

核心目标是打造一个全向、对等、智能的互联新范式,使集群中任意AI芯片之间、AI芯片与CPU之间都能直接高速访问彼此的内存,彻底解决智算集群中的内存互访难题,为大规模并行计算提供坚实的技术基石。

随着大模型,尤其是 MoE 架构大模型的爆发式增长和广泛应用,算力需求正以前所未有的速度攀升。MoE 的特点在于每次推理只激活部分“专家”,但这些“专家”分布在不同芯片的存储空间内,推理过程中需要跨芯片频繁调用参数。

在这种场景下,单颗 AI 芯片性能的提升已无法满足需求,真正的挑战在于如何高效互联成百上千颗 AI 芯片,确保跨芯片的数据访问像本地一样高效,从而将其协同为一个超级计算集群。因此,突破互联技术的瓶颈,成为支撑万亿级 MoE 大模型推理的关键。

展开剩余48%

凭借在 AI 推理芯片与算力架构的长期积累,云天励飞成为 OISA 生态的重要一员。

自 2014 年成立以来,公司持续深耕 AI 推理芯片与算力架构,首创“算力积木”架构,可让算力像搭积木一样灵活组合、扩展,满足各类不同应用场景的需要。

当前,公司形成了 DeepEdge、DeepVerse、DeepXbot 等系列产品,覆盖从边缘终端到云端集群、从具身智能到大模型的多元场景。

加入 OISA 后,云天励飞将在三方面贡献力量。

技术优势:依托“算力积木”架构的模块化与可拓展性,在大规模推理集群中实现高效互联,为包括 MoE 在内的超大模型突破 Scale up 瓶颈提供底层支撑;

生态共建:与 OISA 的开放互联标准深度协同,联合上下游伙伴打通芯片、系统、应用全链路,推动自主可控的国产算力生态发展;

应用落地:加速在智慧城市、智能驾驶、机器人、边缘计算等关键领域的规模化实践,让“算力积木”真正成为 AI 推理产业化的基础设施。

未来,云天励飞将继续秉持“AI 时代的加速器”愿景,持续迭代芯片技术与架构创新,携手 OISA 生态伙伴,共同推动智能算力的创新与普及,让下一代 AI 算力真正惠及千行百业。

来源:砍柴网

相关推荐