苹果和英伟达合作,金山办公将在武汉打造 AI 及鸿蒙研发总部|懂点AI

B站影视 2024-12-20 21:41 2

摘要:掌握AIGC脉动,把握科技脉搏。动点科技每天收集汇总全球AIGC进展与热点,每天5分钟带您了解AIGC,希望与您共同玩转 AIGC,解码行业发展新风向,开启智慧新时代!

掌握AIGC脉动,把握科技脉搏。动点科技每天收集汇总全球AIGC进展与热点,每天5分钟带您了解AIGC,希望与您共同玩转 AIGC,解码行业发展新风向,开启智慧新时代!

文 |动点科技

排版|恩惠

本文预计阅读时长5分钟

本期焦点:苹果AI、金山办公、Perplexity

01 金山办公将在武汉打造 AI 及鸿蒙研发总部

金山办公 12 月 19 日在湖北武汉光谷发布政务大模型,并与东湖高新区签署战略合作协议。AI 和鸿蒙是金山办公未来持续发展的关键。近年来,金山办公持续加大投入,发布智能办公应用 WPS AI,并率先推出 WPS 鸿蒙 HDC 版本。此次发布的金山政务大模型,是金山办公在 AI 垂直模型领域的最新成果,基于亿级政务语料训练而成,可实现撰写公文、智能润色、智能校对、智能排版等功能。金山办公与东湖高新区签署战略合作协议,未来将整合智能办公助手、政务大模型等 AI 和鸿蒙原生应用开发业务,进一步扩大在光谷投资布局,打造“具有全球影响力”的 AI 及鸿蒙研发总部、结算总部,推动公司在汉营收实现跨越式增长,加速建设万人级别研发中心。

02 AI 搜索引擎 Perplexity 完成最新一轮融资,估值升至 90 亿美元

据彭博社报道,初创公司 Perplexity AI Inc. 正在开发一款搜索产品,力图与 Alphabet 旗下的 Google 竞争。该公司近日完成了一轮 5 亿美元的融资,使其估值三倍增长,达到 90 亿美元。

03 国家电网发布国内首个千亿级多模态电力行业大模型

国家电网12月19日在京发布国内首个千亿级多模态行业大模型——光明电力大模型,该模型如同能源电力领域的人工智能专家,可为电网安全稳定运行、促进新能源消纳、做好供电服务提供“超级大脑”。

所谓千亿级,即模型参数可达千亿级别,提升了模型的推理能力;所谓多模态,即实现了文字、图片、视频等多形态数据的融合分析,提升了模型的分析能力;所谓“电力专家”,即模型涵盖了电力行业丰富的文本、图像、视频、语音、时序、拓扑等数据,广泛的标准、规程、制度、规范等经验知识,具有最全、最强的电力专业能力。

光明电力大模型已在电网规划、电网运维、电网运行、客户服务等多个领域得到应用。在电网规划方面,可给电网“问诊把脉”,辅助业务人员实现重过载问题的精准诊断并及时“对症下药”。例如针对福州今夏的气温和用电情况,精准定位重过载设备,从运行方式、设备容量、网架结构、负荷特性等方面推理问题成因,给出解决建议。

04 苹果和英伟达合作,提升AI 大语言模型(LLM)的推理速度

苹果在 AI 领域也在不断努力,希望做的更好。苹果和英伟达合作,宣布通过开源 Recurrent Drafter(ReDrafter)技术,这是一种推测解码方法,能够显著提升 AI 大语言模型(LLM)的推理速度。苹果公司表示 ReDrafter 已集成到 NVIDIA TensorRT-LLM 推理加速框架中,在 NVIDIA GPU 上,每秒生成 Tokens 速度最高提升 2.7 倍,有效降低了用户延迟和计算成本。在过去,创建大型语言模型的过程通常非常耗时和耗资源,企业常常需要购买大量的硬件设备,进而增加了运营成本。

苹果的机器学习研究人员指出,LLM 越来越多地用于驱动生产应用程序,提高推理效率对降低计算成本和用户延迟至关重要。此次合作能够在降低延迟的同时减少所需硬件数量,带来更为经济的解决方案。苹果也表示他们正在考虑使用亚马逊的 Trainium2芯片来提升模型训练效率,预计使用 Trainium2进行预训练的效率将比现有的硬件提升50%。

- - - - - - - - END - - - - - - - -

精彩好文值得推荐!

一键转发,戳个在看!

来源:动点科技一点号

相关推荐