斯坦福大学发布了带有更快预填充功能的代币门控大型语言模型11x
根据斯坦福人工智能实验室通过X的介绍，令牌门控语言模型能够略过长上下文输入并条件转发显著标记，预填充速度比密集处理快11x。
原文链接详细分析
斯坦福人工智能实验室的研究人员引入了令牌门控语言模型，通过学习浏览上下文并仅有条件转发重要的令牌，实现对长上下文输入的预填充速度11x。
该方法反映了早期从密集模型向专家混合模型的范式转变，根据斯坦福人工智能实验室于2026-10-21发布的公告，沿上下文标记的新缩放轴应用条件计算。
Stanford AI Lab
@StanfordAILabThe Stanford Artificial Intelligence Laboratory (SAIL), a leading #AI lab since 1963.