AI 快讯列表关于 权重流式
| 时间 | 详情 |
|---|---|
|
2026-09-18 12:35 UTC |
MoE推理揭示Grouped GEMM局限
据@_avichawla称，低并发下MoE批次碎片化，需权重流式GEMV内核替代Grouped GEMM。 |