NVIDIA 探索用于 AI 代理的 RLVR 技术与 Nemotron 3 Super
realtime news Jul 01, 2026 18:03
NVIDIA 展示了 Nemotron 3 Super 和 RLVR 技术,以改进 AI 代理在特定领域的工作流程,推动强化学习的实际应用界限。
NVIDIA 发布了其在强化学习 (RL) 领域的最新进展,推出了 Nemotron 3 Super,利用可验证奖励的强化学习 (RLVR) 技术来增强特定领域的 AI 代理。基于 NVIDIA 的 NeMo 框架,该系统整合了多环境强化学习、21 个验证器和 37 个数据集,生成了超过 120 万个环境回合用于训练。这项创新旨在满足对能够处理专业化工作流程(如客户支持、科学研究和安全分类)的 AI 代理日益增长的需求。
强化学习是一种机器学习方法,模型通过与环境交互并根据奖励或惩罚进行学习。在 AI 系统中,强化学习已被广泛采用。尽管 RLHF(基于人类反馈的强化学习)在使大型语言模型符合用户偏好方面发挥了重要作用,NVIDIA 正通过专注于 RLVR 技术来突破界限。这种方法依赖算法验证器为模型输出评分,无需大量人工参与即可实现精确对齐。这种自动化对需要精确输出的任务(如代码生成、数学推理和工具调用工作流)尤为关键。
NVIDIA 的 Nemotron 3 Super 展示了可扩展的 RLVR 实现。前沿研究,如 OpenAI 的大规模强化学习工作和 DeepSeek-R1 的组相对策略优化(GRPO),已经显示出强化学习在改进推理、编码和数学能力方面的潜力。Nemotron 基于这一基础,为企业提供了定制模型以执行特定任务的工具,同时保持对数据和知识产权的控制。
除了 RLVR,NVIDIA 还提出了选择强化学习技术的明确决策框架。对于需要遵循格式或模仿指令的任务,推荐使用简单微调 (SFT);而对于复杂的人类偏好对齐任务,RLHF 更适合。当成功可以通过确定性规则(如生成有效 JSON 或通过单元测试)进行验证时,RLVR 和 GRPO 等方法提供了更有针对性的解决方案。NVIDIA 的 NeMo Gym 提供了一个模块化环境,用于强化学习实验,包括数据集、验证器和代理工作流的状态管理。
RLVR 的实际应用场景扩展到必须处理复杂多步骤工作流的长期运行代理。例如,一个工作助理可能需要解析自然语言请求、生成 JSON 工具调用并准确执行命令。NVIDIA 的指南强调从小型、可检查的强化学习设置开始,使用清晰的奖励函数和基线评估以确保有意义的改进。重点是现实世界中的部署,代理必须长时间可靠运行,失败案例将被反馈到训练管道中以持续优化。
这些进展正值强化学习在整个行业中势头增强之际。2026 年 6 月,OpenAI 发布了关于强化学习在训练 AI 模型以实现广泛社会利益中的作用的研究,而 MIT CSAIL 强调了强化学习通过校准奖励减少 AI 过度自信的潜力。今年早些时候,NVIDIA 自身也为自动驾驶车辆引入了闭环强化学习,凸显了强化学习在传统游戏和模拟环境之外的适用性。
对于开发人员和企业来说,NVIDIA 的 Nemotron 3 Super 和 RLVR 框架为构建特定领域的 AI 代理提供了强大的起点。通过自动化奖励设计和提供可扩展的基础架构,NVIDIA 正在降低在高风险、现实场景中实施强化学习的门槛。随着强化学习扩展到机器人技术和医疗保健等安全关键领域,这些创新可能会重新定义 AI 系统的学习、适应及与用户需求对齐的方式。
Image source: Shutterstock