摘要:日前,亚马逊云科技“re:Invent 2024中国行全国巡展活动”来到深圳,为企业和开发者带来一站式技术盛宴。在深圳的活动上,亚马逊云科技大中华区产品技术总监王晓野表示,AI已走到从创新实验迈向生产的加速关键节点。企业要在生产中真正实现业务价值,需要端到端的
深圳商报.•读创客户端记者 陈姝
日前,亚马逊云科技“re:Invent 2024中国行全国巡展活动”来到深圳,为企业和开发者带来一站式技术盛宴。在深圳的活动上,亚马逊云科技大中华区产品技术总监王晓野表示,AI已走到从创新实验迈向生产的加速关键节点。企业要在生产中真正实现业务价值,需要端到端的全栈创新联动。我们希望通过全栈创新、联动创新的方式,助力客户加速AI走向生产并产生业务价值。
作为亚马逊云科技的重要活动,re:Invent大会已举办13年,核心是面向构建者和开发者的技术学习大会。此前12月18日,亚马逊云科技在“2024 re:Invent全球大会”上推出一系列技术发布,主要聚焦三大领域:在生成式AI领域,推出Amazon Nova系列基础模型并强化Amazon SageMaker、Amazon Bedrock和Amazon Q等核心服务,通过更低的训练和推理成本、更多的模型选择、更深入场景的应用全面加速企业应用生成式AI创新;在数据战略方面,发布新一代Amazon SageMaker为数据、分析和AI提供统一平台;同时,Amazon S3新增Tables存储类型和元数据功能,以及无服务器分布式SQL数据库Amazon Aurora DSQL将进一步提升用户的数据管理能力;在云服务方面,推出搭载Trainium2芯片的新型计算实例和为万亿参数模型提供实时推理性能的超级服务器。
在深圳活动上,王晓野表示,在AI大模型方面,亚马逊发布的Amazon Bedrock让客户认识到,AI关注点不该只是模型,重点要关注四大能力:模型能力、优化成本和性能、模型定制化能力、模型输出控制能力。生成式AI从创新到生产加速,面临的技术难点与Amazon Bedrock所提供的几大构建能力高度契合。一是模型理解与选择,模型能力不断变化,并非选了一个模型就固定不变,现在很多客户在生产应用中主流使用两到三个模型,所以如何更快更好地评估判断模型很关键。二是在应用即推理阶段,如何以更好的性能和成本去应用模型。三是数据方面,如何结合自有数据,充分利用已有数据。四是要建立安全护栏,确保模型输出内容无有害侵权内容,将企业应用最终产生结果的风险降至最低。
在会后接受采访时,王晓野表示,从采用率来看,Amazon Bedrock在全球过去一年增长接近5倍,“广义上讲,AI使用户更重视底层算力优化和数据能力投入”。他以金融行业举例称,纽交所、野村证券、纳斯达克等将其用于整合企业信息,构建信息库,然后利用模型的生成能力检测有害行为,类似内容审核;在医疗保健和生命健康行业,以医患沟通为例,过去医生整理病例定义很复杂,现在有很多软硬件结合方案,例如Amazon HealthScribe可帮助医生从对话中快速总结病例定义,辅助提升医疗体验;在自动驾驶领域,可帮助筛选有用数据用于模型训练。“这些案例表明,走在前列的公司已将AI应用于生产,其他企业应关注生产过程中的多方面,如工程化手段优化控制模型不确定性,走向生产并非难事,而不是像一些初创企业所期待的那种爆发式颠覆,企业应用更多是稳步推进到生产阶段”。
谈及中国企业的新需求时,王晓野称,亚马逊云科技在中国的客户大致分为三类:中国客户出海、外企进中国、本地中国客户。对于中国客户出海开展全球业务,这两年关键词是AI和出海,它们出海时更关注不同地区合规要求,比如在欧洲市场,客户更倾向于选择像Mistral这类本地合规模型,因为模型背后可能涉及版权、侵权数据等问题。
“中国市场用户对前沿事物感知更活跃,例如智能体”,他说,智能体与以前AI的不同在于,从对底层要求来看,聊天机器人只要有输出,且模型输出比人阅读速度快就行,对延迟要求不那么高。但智能体自动完成任务时,特别是复杂任务,需要一步一步地思考,几十步下来,如果每一步都要等五秒,那端到端的可用性就会非常不同,在工程化优化方面很多关注点就集中到这里。
沙利文大中华区总监李庆表示:”本届re:Invent大会上的新发布更加侧重于产品的实际应用和工具优化,这表明过去一年中,全球用户正在积极使用亚马逊云科技进行生成式AI应用的探索和创新。本次更新有两个方面让我印象深刻:一是随着全球企业对生成式AI的深入应用,数据不仅实现跨区域的传输与协同,更实现跨地域、跨区域的深度连接;二是亚马逊云科技进一步优化生成式AI的应用,从数据存储、治理到管理的全流程提升,旨在简化AI对数据的使用,同时强化模型功能、增加AI agent管理和应对模型幻觉的功能。此外,新发布的Amazon Nova大模型家族备受期待,这一系列的模型和亚马逊云科技的开放选择理念将为用户带来更多创新机会,进一步推动AI的发展。”
来源:读创