DeepSeek R1正式上线英伟达NIM平台

B站影视 2025-01-31 12:11 2

摘要:据英伟达官方网站消息,DeepSeekR1671b版本已作为英伟达NIM(NvidiaInferenceMicroservices)微服务的预览版在build.nvidia.com平台上发布。

三言科技1月31日消息,据英伟达官方网站消息,DeepSeekR1671b版本已作为英伟达NIM(NvidiaInferenceMicroservices)微服务的预览版在build.nvidia.com平台上发布。

据英伟达官方公告,6710亿参数的DeepSeekR1模型现可通过build.nvidia.com上的NIM微服务进行访问,这为开发人员提供了安全试验这些功能的机会,并支持他们构建自己的专用代理。此外,DeepSeekR1NIM微服务能够在单个NVIDIAHGXH200系统上每秒处理多达3,872个令牌,极大提升了效率和响应速度。

来源:小岳科技每日一讲

相关推荐