英伟达：DeepSeek R1是最先辈推理开放模子，现已搭载NIM微服务

鞭牛士报道，1月31日消息，英伟达官方公告称，DeepSeek-R1 是一个具有最先辈推理本领的开放模子。DeepSeek-R1 等推理模子不会提供直接响应，而是对查询举行多次推理，接纳思绪链、共识和搜刮方法来天生最佳答案。

实验这一系列推理过程（利用推理得出最佳答案）称为测试时间扩展。DeepSeek-R1 是此扩展定律的完善示例，证明了加速盘算对于代理 AI推理的需求至关紧张。

由于模子可以反复思索题目，因此它们会创建更多输出标志和更长的天生周期，因此模子质量会不绝进步。大量的测试是盘算对于实现及时推理和来自 DeepSeek-R1 等推理模子的更高质量响应至关紧张，这须要更大规模的推理部署。

R1 在须要逻辑推理、推理、数学、编码和语言明白的任务中提供了领先的正确性，同时还提供了高推理服从。

为了资助开发人员安全地试验这些功能并构建自己的专用代理，6710 亿参数的 DeepSeek-R1 模子现已作为 NVIDIA NIM 微服务预览版在build.nvidia.com上提供。

DeepSeek-R1 NIM 微服务可以在单个 NVIDIA HGX H200 体系上每秒提供多达 3,872 个令牌。

开发人员可以利用应用步伐编程接口 (API) 举行测试和试验，该接口预计很快将作为可下载的 NIM 微服务提供，是NVIDIA AI Enterprise软件平台的一部分。

DeepSeek-R1 NIM 微服务通过支持行业标准 API 简化了部署。企业可以通过在其首选的加速盘算底子办法上运行 NIM 微服务来最大限度地进步安全性和数据隐私。通过利用NVIDIA AI Foundry和NVIDIA NeMo软件，企业还可以为专门的 AI 代理创建定制的 DeepSeek-R1 NIM 微服务。