流形几何 AI快讯列表 | Blockchain.News
AI 快讯列表

AI 快讯列表关于 流形几何

时间 详情
2026-01-27
10:05
Grassmann流取代注意力机制:AI模型几何创新最新突破

据Twitter用户God of Prompt称,一种名为Grassmann流的新方法被提出,作为传统注意力机制的替代方案。这一技术通过在流形上进行受控几何演化,将隐藏状态从256维降至32维,并将标记对编码为Grassmann流形Gr(2,32)上的二维子空间,同时利用Plücker坐标生成几何特征。该方法在无注意力权重的前提下进行门控和信息融合,完全依赖于流形几何。这一创新为AI模型架构带来数学上的优雅和高效性,有望为专注于高效可解释神经网络的企业带来新商机。