摘要:北京时间2025年3月11日凌晨,亚马逊CEO Andy Jassy激动地宣布,亚马逊云科技成为了第一家支持DeepSeek-R1全托管的公有云服务商,让用户可以以更方便快捷的方式用上DeepSeek-R1。
北京时间2025年3月11日凌晨,亚马逊CEO Andy Jassy激动地宣布,亚马逊云科技成为了第一家支持DeepSeek-R1全托管的公有云服务商,让用户可以以更方便快捷的方式用上DeepSeek-R1。
从现在开始,用户可以通过Amazon Bedrock提供的API来调用满血版的DeepSeek-R1了。这既是DeepSeek-R1在亚马逊云科技上的最佳打开方式,也是DeepSeek在企业以负责任的方式落地的最佳方式。
亚马逊云科技CEO Matt Garman表示:“自DeepSeek-R1在亚马逊云科技上线以来,我们看到了巨大的需求。而现在,用户可通过无缝集成的强大AI能力,获得所有核心功能:内置安全防护、全面监控能力、可定制护栏,以及对数据的完全掌控。”
Amazon Bedrock:DeepSeek-R1的云上最佳打开方式
个人用户在日常工作生活中,如果不处理敏感信息,大可以使用各种互联网上的免费DeepSeek-R1服务。如果想在企业内部部署,大致上有两种方式,一种是采购硬件在本地进行部署,另外一种是选择可靠的公有云服务来部署。
Claude作图:内容导引
最近,DeepSeek一体机的方式比较火热,然而,想要一套能部署满血版的一体机硬件,不仅初期采购成本会比较高。而且,如果想要在企业环境中稳定使用,还需要一系列的优化技术,比如,要优化输出性能,并且要考虑并发性等问题。
云服务虽然省去了硬件维护上的麻烦,但优势也有限。比如,此前,用户想在亚马逊云科技上用DeepSeek-R1满血版,先要通过Amazon Bedrock Markeplace创建一个有8张H200的EC2实例。哪怕你不跟DeepSeek聊上一句,也得先花上很多资金。
如果想用全托管的方式使用DeepSeek-R1,也可以使用Amazon Bedrock自定义模型导入功能。但是,这种方式目前只支持8B和70B的两个蒸馏小模型,然而,大部分人想用的DeepSeek-R1其实是有6710亿参数的满血版,而不是蒸馏版!
官方博客中提到,自1月下旬该模型推出以来,已有数千名客户使用Amazon Bedrock的自定义模型导入功能部署了DeepSeek-R1模型。这说明,有很多用户还是希望用上全托管的方式来使用DeepSeek模型的。
Amazon bedrock后台
现在,备受期待的全托管满血版DeepSeek-R1模型来了,作为一款Serverless服务,用户不用管理硬件基础设施、不用研究模型部署和优化的各种技术,可以直接调用API所消耗的方式来计费使用,快速集成到自己的企业级应用当中。
当然,部署和使用只是一个开始,为了能真正在企业环境中使用,Amazon Bedrock Guardrail还提供了多种关键能力,包括提高生成内容的准确性,减少生成不良内容的能力,以及数据安全、隐私和合规管理方面的,让企业落地负责任的AI。
Amazon Bedrock让企业以负责任的方式用上DeepSeek
DeepSeek-R1作为一个推理模型,其表现出的智能水平达到了业内一流水平。但经常使用它的人会发现,DeepSeek-R1生成内容的幻觉问题也比较突出。有数据称,R1的幻觉概率比DeepSeek-V3大约高14%。
Claude作图:内容导引
Amazon Bedrock Guardrails有一个自动推理检查功能,可以检查因模型幻觉而导致的事实性错误。它运用数学逻辑方法来验证内容。在那些主题广泛且复杂、并有一套明确定义的业务规则或知识体系的领域,自动推理检查功能表现尤为出色。
亚马逊云科技大中华区产品部总经理陈晓建表示:“以前大模型缺乏可证明事实的逻辑,导致出现幻觉时难以纠正。但有了自动推理技术,我们能够通过数学验证方式严密证明事实性错误是否会发生,从而有效改善幻觉问题。”
Amazon Bedrock的Guardrails还支持进行内容过滤、主题限制、敏感词屏蔽、个人信息保护等多重防护策略,最多可阻隔85%的不良和有害内容,可以尽可能地确保生成式AI输出内容的合规性与安全性。
与此同时,Amazon Guardrails还集成了多项安全与合规服务,包括数据加密、细粒度访问控制、安全连接选项及国际合规认证。同时,通过Amazon KMS、Amazon IAM、Amazon Network Firewall等保障数据安全,并借助Amazon CloudWatch与Amazon CloudTrail实现全面监控与审计。
此外,亚马逊云科技还能确保用户在保障数据安全和隐私前提下,使用自有数据进行基础模型的微调和定制,用户所有数据都会经过加密,不会离开虚拟私有云(VPC)环境。并且,亚马逊云科技也绝不会拿任何用户数据来训练模型。
DeepSeek-R1的爆火,说明AI大模型技术仍在快速发展
DeepSeek-R1的爆火让更多人意识到,大语言模型技术仍处于飞速发展的阶段,这意味着,可能随时都会有新的更强模型推出。
而企业为了能更好地迎接大模型技术时代,都会尽早开始熟悉、部署和尝试使用AI技术服务。
Claude作图:内容导引
Amazon Bedrock提供了来自AI21 Labs、亚马逊、Anthropic、Cohere、Luma AI、Meta、Mistral AI、Stability AI、DeepSeek等多家大语言模型,当有新模型的出现时,用户可以随时切换到新模型。
Amazon Bedrock本身支持全托管的方式运行大语言模型,就像现在DeepSeek-R1这样。作为补充,亚马逊云科技还推出了Amazon Bedrock Marketplace,让用户更快接触到更多、更新的模型,从而找到适合自己的。
为了让用户更快找到适合自己的,Amazon Bedrock还提供了模型评估功能。该功能支持多种方式评价模型效果,它是企业快速分析和比较Amazon Bedrock上模型的最快方式,让评估模型的时间从几个星期缩短到几个小时。
都说2025年是智能体(AI Agent)元年,Amazon Bedrock支持用户基于大语言模型来创建智能体。2024年的re:Invent期间,Amazon Bedrock还新推出了多智能Agents协作功能,让企业能够轻松构建和协调专业智能体来执行更加复杂的工作流程。
小结
DeepSeek-R1的迅速爆火,清晰地表明大语言模型技术仍在高速迭代发展,企业尽早上手,才能更从容应对未来技术的快速演进。
此次亚马逊云科技与DeepSeek的结合,只是精彩的开始。未来,我们还能期待看到更多创新的功能与优化的出现。
来源:小月说科技