AI 快讯列表关于 int8
| 时间 | 详情 |
|---|---|
|
2026-08-08 08:41 |
LLM精度全解：8种高效路径
据@_avichawla称，8种精度权衡内存与精度，并优化KV缓存以扩展长上下文。 |
|
2026-06-22 12:58 |
GPU传输加速4倍用int8先传技巧
据@_avichawla称，先传int8再在GPU转换可提速4倍；二值量化使RAG向量缩至1/32并加速检索。 |