NVIDIA推出AI工厂能源优化工具以提升代币效率
realtime news Jun 23, 2026 17:17
NVIDIA推出了包括DSX和NVFP4在内的工具，以改善AI工厂的能源效率，代币生产成本或可降低高达25%。
NVIDIA发布了一套能源优化技术，旨在提升AI工厂的效率和盈利能力。这些工具旨在减少与AI推理和训练工作负载相关的高能耗，可能会改变运营商在受限电力环境中的管理方式。
AI工厂本质上是用于训练和部署AI模型的大型数据中心，在能源消耗方面面临重大挑战。据NVIDIA称，在这些设施中，电力可能占运营成本（OpEx）的40%。因此，每瓦性能成为一个关键指标，直接影响代币成本和收入潜力。对于运营商而言，最大化每瓦吞吐量不仅是效率目标，更是盈利驱动力。
推理优化：收入驱动因素
推理是从训练好的AI模型生成输出的过程，也是AI工厂产生收入的地方。NVIDIA的解决方案专注于提高每瓦推理吞吐量，使运营商无需超出电力预算即可生产更多代币或洞察。例如，NVIDIA的GB200 NVL72机架级系统采用液冷和电力平滑技术，可以安全地部署更多GPU，从而提高计算密度和能源效率。
进一步的进步来自于NVIDIA的窄精度NVFP4格式，与传统的FP8精度相比，它在不牺牲准确性的情况下提供更高的吞吐量和更低的能耗。像NVIDIA Dynamo和TensorRT-LLM这样的工具补充了这些硬件创新，通过优化推理工作负载实现真实环境中的性能提升。
模型训练中的节能
训练大型语言模型（LLM）是另一个能源效率至关重要的领域。传统的训练方法通常导致GPU空闲时间和过多的能耗。NVIDIA与密歇根大学ML.ENERGY Initiative的研究人员合作，开发了减少这种低效的方法。通过根据工作负载需求动态调整GPU处理速度，训练过程可以最大限度地减少空闲时间，并节省高达25%的能耗，同时不会延长整体训练时间。
这些创新集成到NVIDIA的Megatron-LM框架中，该框架在内核和并行级别上分析功率和性能。由此产生的能源感知调度确保训练运行既快速又具成本效益，从而释放电力用于其他训练或推理任务。
DSX：全栈优化
NVIDIA方法的核心是DSX平台，它提供跨整个AI工厂堆栈的实时能源感知优化。DSX集成了计算、冷却、设施电力和工作负载调度，以最大化每瓦代币产出。其功能包括动态电力分配、先进的液冷技术以及通过遥测驱动的洞察来识别并回收闲置电力。
DSX还弥合了AI工厂与外部电网之间的差距，通过其网格感知的DSX Flex层优化能源编排。通过将工作负载与最有效的电力和冷却区域对齐，DSX确保每一瓦电力都被充分利用。
意义所在
这些创新的意义超越了运营效率的提升。通过降低能源成本和提高吞吐量，NVIDIA的工具可能降低AI生成代币的成本，使AI服务更具可访问性和竞争力。对于管理受限电力设施的大型运营商来说，这可能转化为显著的利润增长。
随着AI应用继续扩展到各个行业，能够大规模优化能源使用将成为竞争优势。NVIDIA的DSX及其相关技术使公司在这一领域处于领先地位，提供了将盈利性与可持续性相结合的解决方案。
欲了解更多关于NVIDIA AI工厂解决方案的信息，包括DSX和能源感知模型训练，请访问ISC 2026的NVIDIA展台。
Image source: Shutterstock.jpg)
