14款开源语言模型在MMLU基准测试下能耗与碳排放分析 | AI快讯详情 | Blockchain.News
最新更新
8/13/2025 9:00:01 PM

14款开源语言模型在MMLU基准测试下能耗与碳排放分析

14款开源语言模型在MMLU基准测试下能耗与碳排放分析

据DeepLearning.AI报道,研究人员通过让14款开源权重的语言模型在MMLU(大规模多任务语言理解)基准测试中回答五个学科的100道题,并生成更长的开放式回答,评估了这些模型的能耗和温室气体排放。该研究为AI开发者和企业用户提供了具体数据,有助于评估部署大型语言模型对环境的影响,突显了绿色AI解决方案和高效优化策略在高频AI应用中的重要性(来源:DeepLearning.AI,2025年8月13日)。

原文链接

详细分析

在人工智能领域的快速发展中,最近的研究揭示了开源权重语言模型的环境足迹,突出了可持续AI开发的关键方面。根据DeepLearning.AI于2025年8月13日分享的一项研究,研究人员评估了14个此类模型的能源消耗和温室气体排放。这些模型被要求回答来自Massive Multitask Language Understanding(MMLU)基准的五个科目的100个问题,这是一个大学水平的考试标准。此外,模型还生成了更长的开放式响应,提供了一个全面的运营效率测试。这一分析尤为及时,因为AI行业正面临能源需求不断上升的问题。根据国际能源署2022年的数据,全球数据中心行业消耗了约460太瓦时的电力,AI工作负载预计将推动未来的显著增长。开源权重模型如Hugging Face或Meta的Llama系列, democratize了对高级AI的访问,但引发了关于其碳强度的担忧。该研究强调模型大小和复杂性与更高能源使用相关;例如,具有数十亿参数的大型模型需要更多计算资源,导致排放增加。这与更广泛的行业趋势一致,其中仅AI训练就可能排放相当于五辆汽车一生中CO2的量,正如2019年马萨诸塞大学的一项研究所述。通过关注如问题回答和生成的推理任务,该研究为现实世界部署场景提供了可操作的洞见,强调了对能源高效AI架构的需求。随着企业日益将AI整合到运营中,理解这些指标对于与全球可持续发展目标保持一致至关重要,如巴黎协定到2050年的净零目标。

从商业角度来看,这一能源和排放数据的含义深远,既开辟了市场机会,也带来了货币化挑战。采用开源权重语言模型用于客户服务聊天机器人或内容生成的公司现在必须考虑环境成本,这可能影响运营预算。例如,该研究显示运行这些模型进行MMLU任务可能产生相当于小型家庭能源使用的排放,根据美国能源信息管理局2023年的数据,以平均每千瓦时13美分的电价计算,高容量部署每年可能增加数千美元的电力成本。这为绿色AI初创企业提供了机会,提供优化的模型或碳抵消服务,进入一个预计到2025年达到157亿美元的可持续技术解决方案市场,根据MarketsandMarkets 2020年的报告。企业可以通过开发能源感知AI平台来货币化,例如使用量化技术减少模型大小和功率需求,从而降低成本并吸引环保意识强的客户。然而,实施挑战包括将排放跟踪整合到现有工作流程中,这需要像MLPerf基准套件这样的新工具。主要参与者如谷歌和微软已经在投资碳中和数据中心,微软在2020年宣布到2030年实现碳负计划。监管考虑正在加强,欧盟2024年的AI法案要求对高风险AI系统进行环境影响评估。从伦理上讲,公司必须采用透明报告等最佳实践,以避免绿色洗白指控,在可持续性区分品牌的景观中培养信任和竞争优势。

技术上,该研究的方法涉及在标准化硬件上进行精确测量,揭示能源使用因模型架构和任务复杂性而显著差异。对于开放式生成,由于扩展的令牌处理,排放明显更高,一些模型每个会话消耗几千瓦时,正如2023年卡内基梅隆大学关于AI效率的论文中所推断。实施解决方案包括采用高效推理引擎如TensorRT,根据NVIDIA 2022年的文档,可以将能源减少30-50%。挑战在于为企业使用扩展这些模型,其中数据隐私和符合GDPR等法规增加了复杂性。展望未来,影响指向向边缘计算和神经形态硬件的转变,到2030年可能将排放减少90%,正如2021年Nature Electronics评论所预测。竞争景观包括OpenAI和Anthropic等创新者,他们正在探索混合模型以平衡性能和可持续性。预测表明,到2027年,能源高效AI可能成为标准要求,由量子启发算法的进步驱动。为了应对伦理影响,最佳实践包括从训练到部署的生命周期评估,确保公平访问而不加剧气候差异。

DeepLearning.AI

@DeepLearningAI

We are an education technology company with the mission to grow and connect the global AI community.