关于 推理速度 的快讯列表
时间 | 详情 |
---|---|
2025-08-20 18:32 |
Hyperbolic发布LLoCO在英伟达H100上的成绩:128k上下文推理提速7.62倍、微调吞吐提升11.52倍
根据Hyperbolic的披露,LLoCO在英伟达H100上对128k长度序列的推理速度最高提升至7.62倍;来源:Hyperbolic @hyperbolic_labs,2025年8月20日。根据Hyperbolic的披露,LLoCO在H100上的微调阶段吞吐量提升11.52倍;来源:Hyperbolic @hyperbolic_labs,2025年8月20日。根据Hyperbolic的披露,LLoCO实现单卡H100即可处理128k上下文;来源:Hyperbolic @hyperbolic_labs,2025年8月20日。 |