红帽推出企业Linux 10以及llm-d社区 赋能生成式AI推理需求

B站影视 电影资讯 2025-05-26 16:17 3

摘要:近日,红帽公司宣布推出红帽企业Linux 10以及启动全新开源项目llm-d,以满足生成式AI(gen AI)未来最关键的需求:大规模推理。

5月26日消息,近日,红帽公司宣布推出红帽企业Linux 10以及启动全新开源项目llm-d,以满足生成式AI(gen AI)未来最关键的需求:大规模推理。

据介绍,红帽企业Linux 10,这是全球领先的企业Linux平台的演进版本,旨在满足混合云环境的动态需求,充分发挥AI的变革性力量。

红帽企业Linux 10的主要新增功能包括以下能力和创新:为混合云做好准备,使用AWS、Google Cloud和Microsoft Azure上,经过预调优、完全支持且可直接运行的红帽企业Linux镜像;扩展IT工具包,通过红帽企业Linux扩展存储库,以更安全、更便捷的方式获取社区支持的软件;更好地创新;探索新架构以及微调安全策略。

与此同时,红帽还启动了全新开源项目llm-d。llm-d采用原生Kubernetes架构、基于vLLM的分布式推理和智能AI感知网络路由,利用大规模生成式AI推理技术,让大语言模型推理云能够满足最苛刻的生产服务级目标(SLO)。

据悉,该全新开源项目已经获得了由生成式AI模型提供商、AI加速器先驱和主要AI云平台组成的强大联盟的支持。

红帽总裁兼首席执行官 Matt Hicks表示,红帽的使命是为客户提供真正的选择和灵活性。我们交付的每一层——无论是 Linux、容器还是自动化——都保持开放且值得信赖,让用户能放心运行、调整并持续创新。正是这种开放性,催生了 vLLM、Kubernetes、OpenShift 等项目中那种大规模协作与共享标准的生态:社区治理是默认模式,而非例外。

“开源只是一个许可证,除非有社区在背后支持。” 红帽高级副总裁兼首席产品官Ashesh Badani提到,“我们与 Google、AMD、NVIDIA 以及众多伙伴共同宣布这一项目。只有在共同创建并持续维护的前提下,开放才真正有意义。”

据红帽高级副总裁兼首席营收官Andrew Brown透露,客户非常认可红帽的这一做法,他们认为红帽支持任何云、任何连接器、任何模型,没有锁定,他们可以快速迁移并扩展。而且一切都建立在开源之上,这进一步加深了客户的信任。

红帽合作伙伴生态系统成功高级副总裁Stefanie Chiras表示,生态合作已经写在了红帽的基因里,AI时代的到来,让这种合作变得更加紧密。

AI的未来应当充满无限机遇,而不应受到基础设施孤岛的限制。红帽认为,未来,企业可以在任意云环境中的任意加速器上部署任意模型,提供卓越且更加一致的用户体验,而无需高昂的成本。为了释放生成式AI投资的真正潜力,企业需要一个通用推理平台——一个用以推动当下以及未来数年中,更加无缝、更高性能AI创新的标准。(崔玉贤)

来源:正能量直击现场

相关推荐