FP4精度 AI快讯列表 | Blockchain.News
AI 快讯列表

AI 快讯列表关于 FP4精度

时间 详情
2025-05-31
16:00
LLM使用4位FP4精度高效训练:AI模型训练节能新突破

据DeepLearning.AI报道,研究人员证实大语言模型(LLM)可采用4位FP4浮点精度进行训练,且不会损失准确率。通过将FP4应用于占训练计算95%的矩阵乘法,模型性能与主流的BF16格式相当。这一AI训练新方法极大降低了计算资源和能耗,为企业级AI部署带来显著成本节约和可扩展性。FP4精度的成功应用为硬件与云服务商优化AI工作负载、推动可持续大规模训练带来了新商机(来源:DeepLearning.AI,2025年5月31日)。