红帽详述企业AI发展愿景,欲借Granite奠定基础

B站影视 2024-12-17 16:26 2

摘要:任何操作系统都离不开智能要素。计算机或者移动设备上的操作系统负责对设备内部的各类资源进行管理,包括设置内存进程并控制一切硬件及软件组件的运行状态。操作系统还需要具备充分的深度以监督中央处理单元及存储层的运作,同时向上支撑以帮助将信息传递至图形用户界面,并持续关

任何操作系统都离不开智能要素。计算机或者移动设备上的操作系统负责对设备内部的各类资源进行管理,包括设置内存进程并控制一切硬件及软件组件的运行状态。操作系统还需要具备充分的深度以监督中央处理单元及存储层的运作,同时向上支撑以帮助将信息传递至图形用户界面,并持续关注安全性、输入/输出通道、与其他设备的连接以及已安装应用程序的状态管理。

现如今,各类历史悠久的操作系统正依托新一波技术革命而变得愈发智能。

在由红帽推动的开源世界当中,其最新设计发布的Red Hat Enterprise Linux AI(简称RHEL AI)已正式亮相,成为红帽用于开发、测试及运行企业级应用程序的基础生成式AI模型平台。

Granite大模型是什么?

RHEL AI 1.3现在支持Granite大语言模型家族中的最新功能。Granite大模型源自红帽母公司IBM的研究及开发成果,可应用于涵盖人类语言及软件应用代码的各类生成式AI用例。其开源性质,意味着数据工程师和软件开发人员可以自由对其进行修改和试验。IBM方面表示,这就使得Granite模型成为处理敏感数据、并希望运行自有大模型而非依赖外部服务的组织客户的“理想选择”。

红帽与Granite的合作将这些开源优势集于一身,在实现数据准备(将信息流组织为托管状态,随时可以在任意给定的AI模型、数据库或者其他位置上使用)的同时保留混合云部署选项,包括底层加速计算架构。从本质上讲,这使得该技术成为一项开放的基础模型功能。根据IDC的《市场分析视角:开放生成式AI、大语言模型及不断发展的开源生态系统》报告所言,近三分之二的组织表示他们计划在生成式AI用例中使用开源基础模型。

红帽还就此给出温馨提示,称“基础模型经过训练,可以在语言模式、结构及表示等常规理解场景下发挥作用。这种「基础」训练将教会模型如何交流并识别这些模式。IBM Granite AI模型拥有这种知识基础,并可进一步微调以执行几乎各行各业中的特定任务。Granite系列模型在精选数据之上训练而成,可为用于训练的数据提供透明性保障。”

红帽的AI发展愿景

红帽方面表示,在企业级生成式AI的有效应用方面,一大关键趋势值得加以关注。该公司提到,对生成式AI领域的总体愿景,是更广泛地使用体量较小的开源许可模型,确保这些模型能够在混合云的任意位置上运行。此外微调功能也是一大要点,即组织希望能够轻松根据私有数据和特定用例对大模型进行定制。同样重要的是,应当提供推理性能工程优化空间,保证企业客户能够依托这方面专业知识驱动起效率更高的AI模型。

红帽公司AI业务部门副总裁兼总经理Joe Fernandes表示,“为了充分发挥生成式AI带来的变革性力量,我们认为必须借助体量更小、优化程度更高的模型。这些模型应当被部署在混合云上的任意位置。我们对RHEL AI的增强就建立在这样的思路之下,确保使用Docling(负责对接上游开源项目及工具,用于解析并转换文档,涵盖.pdf、.docx、.pptx乃至HTML等常见数据类型)轻松准备组织数据以实现私有模型训练,同时与Granite系列开源许可大模型家族的最新成果相结合。”

后续发布的RHEL AI版本将着力支持并改进Docling组件,包括支持更多其他文档格式、集成检索增强生成(RAG)管线以及配合InstructLab的知识微调。通过Docling,RHEL AI 1.3现在还支持“上下文感知分块”,能够识别出用于生成式AI训练的文档结构及语义元素。这有助于生成式AI应用程序保持更好的连贯性以及对问题/任务上下文的适当响应,同时在必要情况下做出进一步微调与对齐。

Fernandes解释称,RHEL AI为红帽的AI愿景提供了“关键支柱”,将基于开源许可的Granite模型家族与TerchanceLab模型对齐工具相结合,同时配合聊天机器人形式实现大规模一致性。在此之后,RHEL AI将各类组件打包成统一经过优化且可引导的Red Hat Enterprise Linux镜像,可供混合云内任意位置上的服务器进行部署。

RHEL AI的未来发展方向

在组织自有数据财产领域以及一整套面向商业场景的防火墙、护栏及政策控制体系当中,红帽设定了规模较小、定制化程度更高且控制紧密度更强的生成式AI功能愿景,深度契合行业市场的现实需求。纵观过去这18个月,技术行业中缺失的这一块拼图终于至此得到补齐。

Red Hat OpenShift AI还允许用户在服务时动态调整大语言模型参数,例如将模型跨多个GPU划分或者将模型量化为较小规模。这些改进旨在加快用户获得的响应速度,提高客户满意度并降低流失率。对于正在研究如何让AI拥有更加明确可控演变进程的企业而言,这也是持怀疑态度的反对者们(包括害怕机器全面替代人类员工的批评者们)一直希望达成的目标。鉴于Linux及Red Hat Enterprise多年深耕开源赛道在企业群体中建立起的积极影响,红帽在体量管控、应用范围和方案可靠性等方面的优势足以让更多受众放下抗拒心理。

再次强记,红帽本身是一家态度严谨的公司。而且大多数被IBM这等体量的行业巨头收购的目标,最终都会被转化为单一品牌的产品或服务,很少能够像红帽这样以高度独立的方式保留其原始品牌、身份与经营文化。相信红帽与IBM Granite大模型家族的结合,将给企业AI的发展愿景填上浓墨重彩的一笔。

来源:至顶网

相关推荐