天翼云“一云多芯”构建通算智算一体化混合云新范式!
近日,由中国信息通信研究院主办的一点入“云”,多维创“芯”沙龙在线上成功举办。会议深度解读了“一云多芯”应用建设成熟度评估标准,邀请云服务厂商、芯片厂商代表,共探云芯协同发展新路径。天翼云科技有限公司资深研发专家刘超出席会议,分享天翼混合云通算智算一云多芯一体
近日,由中国信息通信研究院主办的一点入“云”,多维创“芯”沙龙在线上成功举办。会议深度解读了“一云多芯”应用建设成熟度评估标准,邀请云服务厂商、芯片厂商代表,共探云芯协同发展新路径。天翼云科技有限公司资深研发专家刘超出席会议,分享天翼混合云通算智算一云多芯一体
FlashComm1: 大模型推理中的 AllReduce 通信优化技术。将 AllReduce 基于通信原理进行拆解,并结合后续计算模块进行协同优化,推理性能提升 26%。FlashComm2:大模型推理中以存换传的通信优化技术。在保持计算语义等价的前提下,