AI 快讯列表关于 GQA
| 时间 | 详情 |
|---|---|
|
2026-06-29 09:13 |
LLM预填充与解码解析：优化TTFT与ITL
据@_avichawla称，预填充算力受限、解码内存受限，优化聚焦KV缓存与带宽。 |
