摘要:据香港IDC新天域互联了解,在近日举行的Red Hat峰会上,AMD与Red Hat宣布扩大战略合作,旨在推动人工智能基础设施的进步。这一合作将帮助组织在传统IT系统与日益增长的AI工作负载之间找到平衡,提供优化的解决方案。
据香港IDC新天域互联了解,在近日举行的Red Hat峰会上,AMD与Red Hat宣布扩大战略合作,旨在推动人工智能基础设施的进步。这一合作将帮助组织在传统IT系统与日益增长的AI工作负载之间找到平衡,提供优化的解决方案。
此次合作的重点是通过整合AMD的高性能计算(HPC)架构与Red Hat的开源解决方案,支持高效、经济的AI工作负载环境。AMD Instinct GPU现已全面支持Red Hat OpenShift AI,为混合云环境中的AI部署提供强大处理能力。
Red Hat高级副总裁兼首席产品官阿什什·巴达尼(Ashesh Badani)表示:“充分实现AI的收益意味着组织必须具备选择和灵活性,以优化他们的IT基础设施,满足不断增长的需求。”
随着AI工作负载需求的上升,许多数据中心主要专注于传统IT系统,导致难以支持高强度的AI应用。AMD与Red Hat的合作旨在解决这一问题,利用红帽的开源平台与AMD的处理器和GPU架构,推动更高效的AI推理。
在微软Azure ND MI300X v5上进行的测试显示,Red Hat和AMD成功实现了小型和大型语言模型的AI推理,且在单个虚拟机上部署多个GPU,不仅降低了多虚拟机的需求,还减少了性能成本。
为了进一步提升性能,Red Hat与AMD还在上游vLLM社区中展开合作,专注于以下三个主要领域:
1. 提高AMD GPU性能:通过上游AMD内核库,优化Triton内核和FP8组件,提升密集和量化模型的推理性能。
2. 增强多GPU支持:改进集体通信,优化多GPU工作负载,使AI部署更加可扩展和节能。
3. 扩大vLLM生态系统参与:与IBM等行业领导者的跨界合作,加速上游开发,推动vLLM项目的持续改进。
这一系列举措旨在提升每个GPU服务器的性能和投资回报率,满足日益严苛的AI工作负载需求。
通过优化现有数据中心的布局,组织能够更有效地重新投资资源,推动AI创新。Red Hat OpenShift虚拟化功能为组织提供了一条简化的路径,使其能够以云原生应用程序平台的速度和便捷性管理虚拟机工作负载。
Red Hat OpenShift虚拟化经过验证,适用于AMD EPYC处理器,能够充分利用其高性能和能效。这一策略为企业在刷新传统数据中心时提供了统一虚拟机与容器化应用的机会,显著降低硬件、软件许可及能源成本。
随着企业对AI和虚拟化的需求不断增长,AMD与Red Hat的合作为客户提供了更广泛的选择,帮助他们在混合云环境中实现更高效的应用部署。这一战略联盟不仅推动了数据中心的现代化,还为未来的AI创新奠定了坚实的基础。通过结合两者的优势,企业将能够更好地应对不断变化的技术挑战,提升其竞争力。
来源:拿趣黑科技