AI 快讯列表关于 能效AI
| 时间 | 详情 |
|---|---|
|
2025-05-31 16:00 |
LLM使用4位FP4精度高效训练:AI模型训练节能新突破
据DeepLearning.AI报道,研究人员证实大语言模型(LLM)可采用4位FP4浮点精度进行训练,且不会损失准确率。通过将FP4应用于占训练计算95%的矩阵乘法,模型性能与主流的BF16格式相当。这一AI训练新方法极大降低了计算资源和能耗,为企业级AI部署带来显著成本节约和可扩展性。FP4精度的成功应用为硬件与云服务商优化AI工作负载、推动可持续大规模训练带来了新商机(来源:DeepLearning.AI,2025年5月31日)。 |