据DeepLearning.AI报道，研究人员推出了能量驱动Transformer（EBT），通过给候选下一个token赋予“能量”分数，并利用梯度下降逐步降低能量，从而验证并选择最优token。在RedPajama-Data-v2数据集的4400万参数模型实验中，EBT在四项AI基准测试中有三项超越了同规模的传统Transformer。这一创新为生成式Transformer模型带来实际进步，为对话式AI、大规模文档处理等商业应用领域提供了新的优化机会（来源：DeepLearning.AI，2025年9月27日）。