华为聚焦人工智能推理应用市场需求

B站影视 2025-01-23 00:25 2

摘要:如今,中国领先的人工智能公司依靠英伟达制造的图形处理单元(GPU)来“训练”大型语言模型,华为并未在训练领域挑战英伟达,而是将其最新的昇腾人工智能处理器定位为中国公司运行“推理”的首选硬件。推理是LLM进行计算以对提示做出反应的过程。

华为正寻求通过鼓励本土企业采用华为处理器执行“推理”任务,抢占由英伟达主导的中国人工智能芯片市场的更大份额。

如今,中国领先的人工智能公司依靠英伟达制造的图形处理单元(GPU)来“训练”大型语言模型,华为并未在训练领域挑战英伟达,而是将其最新的昇腾人工智能处理器定位为中国公司运行“推理”的首选硬件。推理是LLM进行计算以对提示做出反应的过程。

华为认为,如果模型训练速度放缓,聊天机器人等人工智能应用变得更加普及,推理将成为未来更大的市场需求来源。

“训练很重要,但只会发生几次,”华为苏黎世实验室负责推理加速的高级人工智能研究员Georgios Zacharopoulos表示,“华为主要专注于推理,这最终将服务于更多客户。”

据该公司员工和Ascend客户称,华为专注于技术难度较低但利润丰厚的途径,即将在NVIDIA产品上训练的AI模型改装到Ascend芯片上运行。由于NVIDIA GPU和Ascend运行在不同的软件上,华为正在帮助企业使用另一种软件工具使这两个系统兼容。

分析师和华为研究人员表示,由于技术问题,昇腾尚未准备好取代英伟达进行模型训练,例如在训练越来越大的模型时,芯片在更广泛的人工智能芯片“集群”内相互作用的方式出现故障。

“虽然昇腾芯片在单个芯片上表现良好,但芯片间连接存在瓶颈。在训练大型模型时,必须将其分解为较小的任务。如果一个芯片出现故障,软件需要想办法让其他芯片毫不拖延接管。”

SemiAnalysis首席分析师Dylan Patel表示:“英伟达专为中国市场设计的H20 GPU占据了中国市场AI芯片销量的大部分。但随着华为产能的提升,这种领先优势正在迅速缩小。”

来源:93913虚拟现实

相关推荐