摘要：DeepSeek-R1 API已经作为NIM微服务的预览版在build.nvidia.com上发布。目前，开发人员可以对这个API进行测试和实验。DeepSeek-R1 NIM微服务在单个英伟达HGX H200系统上每秒最多可处理3,872个token。该AP

根据英伟达的最新消息，DeepSeek-R1 API已经作为NIM微服务的预览版在build.nvidia.com上发布。目前，开发人员可以对这个API进行测试和实验。DeepSeek-R1 NIM微服务在单个英伟达HGX H200系统上每秒最多可处理3,872个token。该API预计将很快作为可下载的NIM微服务推出，成为英伟达AI Enterprise软件平台的一部分。

背景信息

• NIM微服务：NIM（Nvidia Inference Microservices）是一套经过优化的云原生微服务，旨在简化生成式AI模型在云、数据中心和GPU加速工作站的部署。它通过行业标准API抽象化AI模型开发和生产的复杂性，从而扩展开发者池。

• DeepSeek-R1模型：DeepSeek-R1是一个具有先进推理能力的开放模型，特别擅长逻辑推理、数学、编码和语言理解等任务。它通过强化学习技术显著提升了推理能力，且仅需少量标注数据即可高效训练。由中国神秘小伙创办。

• 英伟达AI Enterprise软件平台：这是一个企业级AI平台，支持各种最新NVIDIA GPU、网络硬件和虚拟化软件。该平台通过NIM微服务和NVIDIA NeMo等工具，帮助企业快速部署和管理AI应用。

意义

DeepSeek-R1 API作为NIM微服务推出后，将为企业和开发者提供更高效、灵活的AI解决方案。它不仅可以简化AI模型的部署过程，还能通过强大的推理能力提升应用的性能。此外，企业可以在其首选的加速计算基础设施上运行NIM微服务，从而最大限度地提高安全性和数据隐私。

内容仅供参考，不构成投资建议，点赞加关注，永远不迷路。

来源：小城故事大杂烩