算力不开放，智能难平权：万亿参数时代，谁为开源模型托底？

摘要：2025 年8月7日，恰逢开放计算技术大会开幕，立秋的北京酷热难耐，仍然无法阻止全球ICT、智算从业者，以及不少想用好AI的企业前来参会的热情。人潮涌动的展厅，座无虚席的会场，说明各个行业都有不少落地AI的困惑与问题，迫切渴望寻找解决之法。

2025 年8月7日，恰逢开放计算技术大会开幕，立秋的北京酷热难耐，仍然无法阻止全球ICT、智算从业者，以及不少想用好AI的企业前来参会的热情。人潮涌动的展厅，座无虚席的会场，说明各个行业都有不少落地AI的困惑与问题，迫切渴望寻找解决之法。

企业做AI，一定都遇到过这样的情况：

下载了开源大模型，想自己训练专有模型，但服务器显存不够，万亿参数模型的推理频繁中断，跑一次崩一次；

业务部门的同事对AI的响应时间极为敏感，多个模型及智能体协同作业时，等待时间一长就怨声载道，IT部门没少吃投诉；

听说超节点技术能解决算力问题，一打听，这东西也太贵了，部署之前还得解决液冷、高压供电、复杂互联系统之类的要求，只有巨头能玩，自家企业的现有IT设施无法上车。

如何在业务中用好开源大模型，是当下企业智能化最迫切的任务。而具备开放架构、成熟技术、稳定高效部署的超节点，成了希望所在。2025开放计算技术大会现场，浪潮信息展厅的元脑SD200超节点，就吸引了不少观众驻足。

据了解，元脑SD200超节点AI服务器是浪潮信息面向万亿参数大模型AI时代而设计，以开放设计支持64路本土GPU芯片，可单机运行超万亿参数大模型，实现多模型机内并行与智能体实时协作，采用创新多主机低延迟内存语义通信架构，64卡整机推理性能呈超线性扩展，更重要的是已实现商用部署，可高效支持企业实现多开源大模型的规模化应用。

实现AI普惠化需要开源大模型与开放超节点的协同创新。以DeepSeek、KIMI等开源大模型为基础，结合元脑SD200商用开放超节点的强大算力支撑，将产生怎样的技术倍增效应？

咱们就从这场开放计算技术大会上行业热议的话题聊起。

先进的大模型开源了，意味着所有企业都能用好AI了？没那么简单。所谓智能平权，是指不同规模的企业、组织乃至个人，都能公平获取和运用AI能力。

开源大模型的普及，确实为各类企业提供了技术底座。但许多企业在部署开源大模型时，还会面临一个共性问题：如何找到能高效承载万亿级模型的AI基础设施，让技术潜力真正落地为业务生产力？

首先，开源大模型迈向万亿级，稳定运行的前提是放得下。KIMI-K2为代表的先进开源大模型参数量达万亿规模，特别是当迈入Agentic AI（代理式AI）阶段，企业一般不会只用一个大模型。为了充分发挥不同大模型的特色优势，多个超大规模参数的大模型同时跑起来，产生的KV Cache超过了传统多卡服务器的承载极限，实时交互时往往因内存溢出导致任务中断。如何解决这个问题？

本次开放计算技术大会上，业内讨论了scale out（横向扩展）与scale up（纵向扩展）两条技术路线，共识是：超节点通过scale up在单机内高密度集成计算单元，构建单一统一计算域，实现超大统一显存空间，是必然选择。

其次，AI应用不仅要能跑，还要跑得快。将多张加速卡连起来，但这还不够。传统架构中，跨节点链路过长会导致通信延迟飙升，尤其在推理场景中，几MB的小数据包高频交互，对延迟极为敏感。特别是当AI应用从训练阶段转向推理与后训练为主，海量token的实时处理需要极致的通信效率，所以scale up系统还需要解决高效通信的问题。

更关键的是，技术方案必须能落地。再好的超节点系统，如果不能被部署到企业现有设施中，不能响应实际业务需求，那也只是画饼而无法充饥。目前，企业普遍存在多品牌多批次芯片的混搭算力现状，而模型在异构算力平台间迁移困难的问题，正成为AI落地的主要障碍。而开放架构的超节点，可以兼容多元算力芯片，让企业原来的IT投资不浪费，掌握选择权，并通过开源软件生态，支持模型的快速迁移与AI应用的敏捷上线。

所以，能落地的开放超节点，也就和开源大模型一起，成为智能平权的两大基本要素，让企业真正实现“技术平权、智能平权”。

回应最终用户的所想所要，才是企业级市场真正需要的超节点，而以应用导向、客户需求来研发，才能构成对市场的正向引导。客观来看，市面上成熟可商用的开放超节点，并不多见。所以，元脑SD200在此次大会上让大家格外关注。

那么，打造开放超节点，究竟存在什么难点呢？

基于开放架构的超节点，为开源大模型的规模化落地和应用创新提供支撑，二者协同才能真正突破算法与算力的双重壁垒。这个理想很丰满，但把开放超节点从理念转化为成熟可商用的产品，并非易事。

首要挑战就是构建大规模、高集成度的Scale Up系统，Scale out技术比较成熟，实现起来更简单。而Scale Up的复杂度更高，以前的一些成熟技术和管理软件也不够用，需要针对性地开发。

其次，便是工程化的问题。芯片的跨距离传输会受到光模块的影响，故障率和功耗都会影响传输性能。铜缆又有连接极限，怎么在有限的空间内堆积更多的计算芯片，需要创新的架构设计和工程实践。

显然，要把开放超节点带进现实，必须得系统性创新。因此，元脑SD200率先闯过重重难关，为行业提供了有益的实践参考。具体是怎么做的？

第一步，开放架构，构建AI可用的算力底座。

基于OCM（开放算力模组）+OAM（开放加速模块）融合架构，元脑SD200实现多元算力芯片兼容，单机可集成64路本土GPU芯片，满足万亿规模大模型运行的算力需求。采用3D Mesh开放架构，实现8倍显存扩增，单机可提供4TB显存与64TB内存，支持1.2万亿参数Kimi K2模型的流畅推理。这种模块化设计支持灵活扩展，解决了传统架构在部署成本、扩展难度和长期运维上的痛点，显著降低开源大模型的落地门槛。

第二步，软硬协同，实现AI好用的性能优化。

软件在超节点复杂的系统当中，发挥着非常重要的作用。元脑SD200通过智能总线管理，实现64卡全局最优路由自动创建，支持多拓扑灵活切换与资源按需分配。结合预填充－解码（Prefill-Decoder）分离推理框架，系统实现软硬件深度协同，智能化调度复杂AI计算任务。

软硬协同的创新设计，实现了性能的超线性扩展，让元脑SD200在大模型场景中展示出非常好的性能表现，比如，满机运行DeepSeek R1全参模型推理性能超线性提升比为3.7倍，满机运行Kimi K2全参模型推理性能超线性提升比为1.7倍。说明超节点并不是堆更多卡就够了，还要有软硬协同、系统优化，才能拉开差距。

第三步，产业链整合，打造AI易用的成熟方案。

据了解，元脑SD200采用了很多开源开放的技术，作为系统级厂商，浪潮信息牵引产业链上下游开展协同创新。比如，元脑SD200原生支持PyTorch、TensorFlow等主流框架，确保本土顶级开源模型的无缝迁移与Day0快速上线。其高效风冷散热设计无需改造现有机房，成熟度与稳定性优势显著，可以灵活部署到企业已有的数据中心机房里，快速上线业务。

这种系统性创新使元脑SD200成为开放超节点的标杆产品。万亿级模型也放得下、跑得快、能落地，元脑SD200的成功闯关，把智能平权从口号变成了可触摸的现实，让业内看到了开放超节点的可行性。