AI 快讯列表关于 推理加速
| 时间 | 详情 |
|---|---|
|
2026-10-07 10:01 UTC |
Claude Haiku 5.5成本降75%
据AnthropicAI称,Haiku 5.5较4.5版成本降约75%,更快更强。 |
|
2026-09-28 10:04 UTC |
Claude Sonnet5.5降本30%提速
据AnthropicAI称,Sonnet5.5较5号快30%且降本至30%。 |
|
2026-09-22 10:25 UTC |
GPT6 Sol与Luna大幅降价50%
据OpenAI在X称,Sol与Luna较GPT5.6促销价降50%,并继承Astra优势,推理更快更省。 |
|
2026-09-17 13:41 UTC |
Claude加速生物模型4倍
据AnthropicAI称,Claude将30+生物模型推理提速4倍并开源优化代码。 |
|
2026-09-09 22:10 UTC |
DeepSeek V4.1 Flash加速推理
据@deepseek_ai称,新模型具备原生视觉、更快推理与更高吞吐并可扩展。 |
|
2026-09-03 10:58 UTC |
NVIDIA收购Hugging Face推进开源模型
据satyanadella称,英伟达收购Hugging Face以推进开源模型,提升安全与创新,据NVIDIA博客。 |
|
2026-09-03 04:07 UTC |
英伟达收购Hugging Face近130亿
据CNBC称,英伟达以近130亿美元收购Hugging Face,强化端到端AI平台。 |
|
2026-08-25 09:19 UTC |
OpenAI Jalapeño 提升推理速度与能效
据@OpenAI称,Jalapeño 同时提高吞吐与降时延,且能效不减。 |
|
2026-08-17 12:05 UTC |
AI融资激增:Higgsfield与Groq领跑
据TheRundownAI称,Higgsfield等三家融资超10亿美元,估值齐创新高。 |
|
2026-08-13 19:12 UTC |
OpenAI超极速模式将GPT5.6提速14倍
据OpenAI称,Ultrafast先在API内测,随产能扩大开放。 |
|
2026-08-06 12:14 UTC |
AMD收购Taalas强化硬件化AI模型
据@CNBC称,AMD收购Taalas,将以硬件化模型提升推理速度并降功耗。 |
|
2026-07-30 15:39 UTC |
TPU缘起揭示推理硬件转向
据JeffDean称,餐巾纸算例促成TPU,推理硬件将成下一专业化方向。 |
|
2026-07-20 06:03 UTC |
Alphabet研发高效AI芯片股价大涨
据@CNBC称,Alphabet研发高效AI芯片以降本提速,股价走强。 |
|
2026-06-24 06:36 UTC |
OpenAI Jalapeño芯片大幅提升能效
据TheRundownAI称,OpenAI与博通9个月打造Jalapeño,LLM能效显著提升。 |
|
2026-06-24 05:10 UTC |
OpenAI携手博通打造Jalapeno推理芯
据@OpenAI称,博通将共研Jalapeno推理芯片,降本降延迟,来源OpenAI博客。 |
|
2026-06-24 05:06 UTC |
OpenAI Jalapeno芯片携博通亮相
据@CNBC称,OpenAI与博通发布首款Jalapeno芯片,瞄准全栈与更低推理成本。 |
|
2026-04-26 00:07 UTC |
FlashAttention 突破:基于SRAM缓存的注意力实现最高7.6倍加速——2026大型模型推理分析
根据 @_avichawla 在 Twitter 的介绍,FlashAttention 通过在芯片上使用SRAM缓存中间结果,减少对HBM的冗余读写,相比标准注意力可实现最高7.6倍加速。根据 Dao 等人的 FlashAttention 论文(斯坦福)报道,其面向IO的分块算法将QKV保留在快速SRAM中,缓解内存带宽瓶颈并提升GPU吞吐。依据论文基准结果,FlashAttention 加速Transformer训练与推理,在生产环境中带来更低时延、更高每秒生成token数及更低单token成本。对企业而言,这有助于优化RAG检索生成流程、提升流式回复体验,并在不牺牲精度的前提下提高GPU利用率,以上信息均据原论文与工程说明所述。 |
|
2026-04-20 14:28 UTC |
Krea AI 定价发布:实时图像模型订阅方案与2026商业化策略深度分析
据 KREA AI 在推特披露,其指向 krea.ai/pricing 的定价页面,表明其针对实时图像生成与编辑平台的付费方案正式上线。根据 KREA AI 信息,定价聚焦快速扩散模型、实时画布编辑与高分辨率输出,面向追求高迭代效率的设计师、营销团队与创意工作室。依据 KREA AI 介绍,分级方案通常提升使用额度、并发数、模型优先级与商业使用权,为代理商与企业团队提供可预测吞吐与接近 SLA 的稳定性。结合 KREA AI 公告可见,该举措契合2026年创意类生成模型以高级算力、优先队列与协作功能变现的趋势,为渠道商与工作流工具商将 Krea 与素材管理、品牌合规模块打包销售带来新增商机。 |
|
2026-04-09 13:52 UTC |
Meta AI 公布第2部分:Llama 路线图与开源模型工具最新分析
根据 Meta 的 AI 官方账号 AI at Meta 在 X 的更新,此为多帖更新的第2部分,并附有延伸链接,显示该系列正在持续发布与 Meta AI 相关的内容;据该账号以往发布与说明,此类更新通常包含 Llama 模型的文档与资源,有助于开发者在推理与微调中提升效率。依据 Meta 过往公开资料,Llama 生态涵盖模型权重、安全工具与集成指引,本次更新预计聚焦开发与部署实践资源,可帮助企业加速落地并优化成本结构。 |
|
2026-04-09 09:11 UTC |
SGLang高效推理课程:文本与图像生成最新实战指南(携手LMSys与RadixArk)
据AndrewYNg在X平台表示,DeepLearning.AI上线“使用SGLang实现高效推理:文本与图像生成”新课程,由LMSys与RadixArk联合打造,并由RadixArk成员Richard Chen授课。根据AndrewYNg披露,课程聚焦生产环境中LLM推理的成本与延迟痛点,涵盖SGLang的内核融合、分页注意力、连续批处理及KV缓存优化等技术,面向文本与图像生成。依AndrewYNg所述,课程强调大规模部署的工程实践与商业价值,包括降低GPU耗时、提升单位成本吞吐量、改善长尾时延,这些都是衡量推理经济性的关键指标。 |