摘要:女士们、先生们,大家早上好。欢迎来到华为全联接大会2025(Huawei Connect)的第二天。通过本次大会上的各类分享,我们发现,一个共识已十分明确:AI(人工智能)正以前所未有的速度发展。
华为全联接大会2025期间,华为公司高级副总裁、企业销售总裁陈雷做主题演讲,以下为演讲主要内容:
华为公司高级副总裁、企业销售总裁 陈雷
女士们、先生们,大家早上好。欢迎来到华为全联接大会2025(Huawei Connect)的第二天。通过本次大会上的各类分享,我们发现,一个共识已十分明确:AI(人工智能)正以前所未有的速度发展。
在这股剧烈的变革浪潮中,人们已不再问“为什么(Why)”要用AI来赋能千行万业;现在,更多人关心的是,AI技术要如何(How)才能真正为千行万业创造实实在在的价值?围绕这一点,三个子问题值得探讨:
第一,如何才能让企业面向AI的投资,产生真正的商业价值?
第二,如何将企业的专有数据资源,转化为竞争力?
第三,如何让AI行业应用,从试点走向规模化落地?
中国有句古话:“实践出真知。”围绕这三大问题,我们与全球客户、合作伙伴一起,进行了大量探索与实践。接下来,我想分享三个案例。
第一个案例来自于银行业。当前,AI Agent正在帮助银行重塑关键业务与客户体验。一个案例是,我们支持某领先的银行客户,开发了“智能外呼”“手机银行”“财富管理顾问”等多智能体应用。这些智能体能够通过自然、“拟人化”的对话与客户进行互动,支持实时完成理财产品的推荐与交易。
要将实现上述场景,挑战很大。首先是要满足高并发需求,一般而言需要支持500–1000路的高并发交互。其次是,要实现超低时延,因为哪怕2秒的交互延迟,也会导致大量用户流失。此外,还需要长上下文的理解能力,因为系统与客户的交互,需完成身份验证、意图识别、产品咨询和交易确认等多个步骤,通常需要跨越10轮以上的对话。
为此,华为首创了“主从动态智能体(Agent)架构”,主智能体用于识别客户意图,各从属智能体分别封装了不同的银行服务。系统可根据客户在多轮对话中的实时意图,动态调度不同智能体,实现灵活、准确的任务响应。同时,华为还通过系统工程化能力,深入客户各个业务环节,将语音识别、意图理解和插件调用等流程的整体时延压缩至1.5秒以内。这一解决方案得到部署后,银行用户的“问题一次性解决率”提升了10%,电话营销产品的转化率提升了8%。
在此基础上,我们还正在和银行客户试点手机银行智能体,让过去手机银行导航页面的“单步引导,客户手动跳转”的模式,转变为“主动建议与一站式服务”的模式。与此同时,在风控领域,我们也与客户正在进行利用AI Agent的联合创新。
值得一提的是,这些先进的应用案例,都能由昇腾算力集群提供支撑。这一算力集群可支持50多个主流基础模型,结合其“训推共池”等特性,能够让客户能够按需选择最合适的模型,并且在无需重复部署的情况下,进行推理和训练,从而大幅提升效率。
第二个案例来自电力行业。南方电网拥有PB级的电力知识文本、数千万张图片、上千小时的视频与语音数据,覆盖调度、输配电、营销等核心场景。在业务上,南方电网面临的一个关键挑战是,如何高效地利用现有数据,在巡检中,需要巡检智能体帮助识别输电线路的缺陷、故障与风险。
为此,南方电网自主研发了名为“大瓦特(MegaWatt)”的电力行业的大模型。该模型基于昇腾算力平台与MindSpore AI 框架开发,融合了计算机视觉(CV)与自然语言处理技术(NLP)。模型开发过程中,通过清洗、加工、标注等流程,对原始数据进行系统性治理,并引入华为的优化算子,进行训练和模型调优,让模型能够更快地学会识别规律、达到可用状态,从而实现模型精度与行业理解能力的双提升。南网电网基于大瓦特模型开发了巡检智能体,满足巡检任务所要求的精准和高效响应。
这一模型部署在昇腾大规模专家并行(大EP)集群上。大EP集群专为高实时性任务设计,其“单卡吞吐性能”相比传统方案提升3.3倍,显著降低了推理时延。
自部署以来,大瓦特的缺陷识别效率提升了5倍,准确率提高到90%以上,并实现了从图像识别到报告生成的全流程自动化。
这一案例表明,只靠通用大模型无法直接解决垂直行业问题。只有通过系统化工程手段,对企业自身的高质量数据进行调优,打造行业模型,才能真正帮助企业应对业务挑战,并让企业形成长期竞争优势。
上述两个案例,都是AI从实验室走向行业规模化应用的范例,而第三个案例则体现了AI规模化应用的另一个侧面——惠及每个普通民众的普惠应用。这一案例来自医疗行业,聚焦于病历生成这一诊疗活动中的关键一环。
华为支持伙伴润达,基于昇腾推理服务器,开发了AI病历一体机方案。该方案采用昇腾的单机高效支持双模型推理技术,降低部署成本同时,双模型精度压缩损失小于1%。通过开源模型执行通用任务,并结合行业专用模型以理解临床语境。它能够自动识别医患对话,准确提炼患者主诉;同时还能理解医生的诊断意见,并生成符合医院规范的高质量病历文本。
AI生成式病历在华西医院的实际部署显示,最快仅需1秒就能生成一份病历。联动预问诊智能体和内涵质控智能体,实现效率和质量兼顾。支持医生个性化配置调优,在医生审核阶段平均不超过4处修改,支持一键回写到HIS系统(Hospital Information System,医院信息系统),极大提升了诊疗效率。
结合上述三个案例,和我们其他的广泛实践,我们可以归纳出,能够帮助进一步推进行业智能化的五大关键发现:
第一,场景选择至关重要。AI的价值不仅仅在于提升效率,更在于与核心生产场景深度融合,从而重塑流程,推动智能产品与服务的交付方式。
第二,垂域数据的质量,决定行业模型的能力。行业智能化的落地,仅依赖开箱即用的通用模型是不够的。企业必须基于自身及所在行业积累的大量高质量数据,对通用模型进行训练和调优,才能形成专属的行业模型,构筑差异化竞争力。
第三,智能体(AI Agents)正在快速规模化。这一趋势将推动各行业每天消耗数十亿个token,从而驱动对大规模推理的旺盛需求。
第四,人机协作正在成为新的组织范式。AI正在从“个人助理”演变为真正的“合作伙伴”。
第五,系统化治理与风险管理是必须守护的底线。AI Agents带来了一些新的风险,例如不受控的自主行为、缺乏可追溯性等。因此,必须建立有效的治理机制,确保AI的应用安全、可持续、可信赖。
在这五个关键发现的基础上,结合华为广泛的行业实践经验,华为在此提出进一步推动行业智能化的“三步走”ACT路径,即:评估高价值场景(Assess high-value scenarios),结合垂直行业数据对模型进行校准(Calibrate AI models using vertical data),规模化部署AI智能体以重塑关键业务(Transform business operations with scaled AI agents)。
首先,在“评估高价值场景”方面,华为公司提出了“AI场景选择评估框架”,从商业价值、场景成熟度,以及业务与技术融合度,三个维度进行综合评估,选取高价值应用场景。迄今,该框架已帮助客户识别,并落地了1000多个AI核心生产场景。
其次,在“结合垂直行业数据对模型进行校准”方面,要训练出高质量的模型首先要解决数据治理这一难题。在这方面,华为能够提供完整的工具链,帮助企业将原始数据转化为知识,再将知识转化为模型。我们的ModelArts一站式AI开发平台和DataArts数据治理与集成平台支持多模态数据采集、智能处理与知识图谱集成,从而能够大幅提升效率。此外,通过华为统一的“湖仓一体”平台MRS,企业可以将海量原始数据导入“数据湖”,再转换为结构化的“数据仓库”资产,让数据从“放着吃灰”变成“拿来即用、天天上岗”。
此外,在AI安全方面,华为依托多年经验,打造了全面的AI 立体安全防护体系。该体系覆盖从云、网、边、端到模型与应用的多层次环节;同时涵盖从数据准备、模型训练到部署、推理与应用的全生命周期,使能AI应用安全、可信。
再次,在“规模化部署AI智能体以重塑关键业务”方面,企业流程高度复杂,场景繁多,智能体的开发与部署工作量巨大。华为的一站式Versatile平台能够自动生成包含100多个步骤的智能体与业务流程,大幅加快部署速度。
同时,随着人机协同程度不断加深,真正的业务转型需要业务人员的深度参与。为此,华为建立了系统化的AI人才发展体系,赋能业务专业人员直接参与AI智能体的使用、开发、部署与运营。
华为领先的ICT基础设施,支持“ACT行业智能化实施路径”高效落地要实现上述ACT路径,企业需要具备面向AI的ICT基础设施——从数据准备、传输,模型的训练和推理,以及模型开发的全流程,都需要存算网多种产品的持续创新和高效协同。
在数据准备和存储领域,华为创新性通过AI存储和UCM(Unified Cache Manger)插件,帮助大模型记忆从分钟级跃升为终生记忆,让AI Agent成为终生伴侣。通过以查代算方式,首Token时延缩短90%提升用户体验,Token吞吐率翻倍,帮助企业优化推理成本。
在数据流通,高速算力互联领域,高性能的智算中心需要实现更大规模的算卡互联、更高效的数据流通和更稳定的训练能力。华为端到端的800GE高速网络方案,支持4倍于业界的集群规模;通过独家的负载均衡(NSLB,network scale load balance)算法,将整网负载从业界的80%提升到98%,训推效率提升10%。华为自研的高可靠星联光模块,支持通道级故障隔离,网络可靠性提升10倍,实现智算集群 “月级训练不中断”。
在模型训推领域,面向万亿/十万亿MoE、超长序列、多模态等大模型训练和推理场景,昇腾超节点通过业界最大规模384卡高速总线互联,同时整合192颗鲲鹏最新一代高性能CPU处理能力,实现集群训练性能3倍提升。
面向推理场景,为了实现大模型推理的极限计算,昇腾针对MoE架构,通过大规模专家并行方案,实现在相同卡数下获得更大的收益,相比业界常规服务器堆叠方式,大规模专家并行方案可实现4倍的单卡吞吐提升,降低50%系统时延。
要推动行业智能化落地,离不开与各类合作伙伴的同心协力。华为秉持开放、合作的理念,通过几大行动,不断推进“华为+伙伴”合作体系的走实向深:
第一,坚持开源开放。除了我们自研的CANN与Mind系列工具套件外,华为还全面支持Megatron、DeepSpeed、vLLM、SGLang等主流框架,为伙伴在昇腾算力平台上进行优化与创新提供更大自由度。
第二,通过平台与工具赋能活动。华为还提供自研的训推框架、Agent框架、DataArts等平台和工具链,覆盖数据治理、模型训练和部署、训推加速、应用开发全流程,供伙伴按需调用。
第三,通过分享行业经验推动行业智能化成功案例的快速复制。华为携手伙伴开展联合研发与联合市场推广,已打造出 200多个行业解决方案,帮助伙伴加速方案的复制与落地交付。
截至目前,生态体系已汇聚6300多家鲲鹏伙伴、2700多家昇腾伙伴、70多家行业咨询伙伴及750家独立软件开发商(ISV)。
在此,我们今天也非常荣幸地正式发布,与伙伴共同开发的,9大行业智能化解决方案。
女士们、先生们,面对AI所带来的深刻变革,我们共同推进行业智能化的共同努力,将不仅将决定千行万业能否在AI时代保持竞争力,也将决定AI能否真正抵达其价值创造的“最后一公里”——真正将AI技术的突破转化现实世界的福祉。在这个意义上,我们每个人既是探路者,也是领路人。华为将始终与各方携手共进,共赴面向智能化未来的新航程。谢谢大家!
来源:魔法科技君