AI 快讯列表

AI 快讯列表关于 推理加速

时间 详情
2026-10-07
10:01 UTC
Claude Haiku 5.5成本降75%

据AnthropicAI称,Haiku 5.5较4.5版成本降约75%,更快更强。

2026-09-28
10:04 UTC
Claude Sonnet5.5降本30%提速

据AnthropicAI称,Sonnet5.5较5号快30%且降本至30%。

2026-09-22
10:25 UTC
GPT6 Sol与Luna大幅降价50%

据OpenAI在X称,Sol与Luna较GPT5.6促销价降50%,并继承Astra优势,推理更快更省。

2026-09-17
13:41 UTC
Claude加速生物模型4倍

据AnthropicAI称,Claude将30+生物模型推理提速4倍并开源优化代码。

2026-09-09
22:10 UTC
DeepSeek V4.1 Flash加速推理

据@deepseek_ai称,新模型具备原生视觉、更快推理与更高吞吐并可扩展。

2026-09-03
10:58 UTC
NVIDIA收购Hugging Face推进开源模型

据satyanadella称,英伟达收购Hugging Face以推进开源模型,提升安全与创新,据NVIDIA博客。

2026-09-03
04:07 UTC
英伟达收购Hugging Face近130亿

据CNBC称,英伟达以近130亿美元收购Hugging Face,强化端到端AI平台。

2026-08-25
09:19 UTC
OpenAI Jalapeño 提升推理速度与能效

据@OpenAI称,Jalapeño 同时提高吞吐与降时延,且能效不减。

2026-08-17
12:05 UTC
AI融资激增:Higgsfield与Groq领跑

据TheRundownAI称,Higgsfield等三家融资超10亿美元,估值齐创新高。

2026-08-13
19:12 UTC
OpenAI超极速模式将GPT5.6提速14倍

据OpenAI称,Ultrafast先在API内测,随产能扩大开放。

2026-08-06
12:14 UTC
AMD收购Taalas强化硬件化AI模型

据@CNBC称,AMD收购Taalas,将以硬件化模型提升推理速度并降功耗。

2026-07-30
15:39 UTC
TPU缘起揭示推理硬件转向

据JeffDean称,餐巾纸算例促成TPU,推理硬件将成下一专业化方向。

2026-07-20
06:03 UTC
Alphabet研发高效AI芯片股价大涨

据@CNBC称,Alphabet研发高效AI芯片以降本提速,股价走强。

2026-06-24
06:36 UTC
OpenAI Jalapeño芯片大幅提升能效

据TheRundownAI称,OpenAI与博通9个月打造Jalapeño,LLM能效显著提升。

2026-06-24
05:10 UTC
OpenAI携手博通打造Jalapeno推理芯

据@OpenAI称,博通将共研Jalapeno推理芯片,降本降延迟,来源OpenAI博客。

2026-06-24
05:06 UTC
OpenAI Jalapeno芯片携博通亮相

据@CNBC称,OpenAI与博通发布首款Jalapeno芯片,瞄准全栈与更低推理成本。

2026-04-26
00:07 UTC
FlashAttention 突破:基于SRAM缓存的注意力实现最高7.6倍加速——2026大型模型推理分析

根据 @_avichawla 在 Twitter 的介绍,FlashAttention 通过在芯片上使用SRAM缓存中间结果,减少对HBM的冗余读写,相比标准注意力可实现最高7.6倍加速。根据 Dao 等人的 FlashAttention 论文(斯坦福)报道,其面向IO的分块算法将QKV保留在快速SRAM中,缓解内存带宽瓶颈并提升GPU吞吐。依据论文基准结果,FlashAttention 加速Transformer训练与推理,在生产环境中带来更低时延、更高每秒生成token数及更低单token成本。对企业而言,这有助于优化RAG检索生成流程、提升流式回复体验,并在不牺牲精度的前提下提高GPU利用率,以上信息均据原论文与工程说明所述。

2026-04-20
14:28 UTC
Krea AI 定价发布:实时图像模型订阅方案与2026商业化策略深度分析

据 KREA AI 在推特披露,其指向 krea.ai/pricing 的定价页面,表明其针对实时图像生成与编辑平台的付费方案正式上线。根据 KREA AI 信息,定价聚焦快速扩散模型、实时画布编辑与高分辨率输出,面向追求高迭代效率的设计师、营销团队与创意工作室。依据 KREA AI 介绍,分级方案通常提升使用额度、并发数、模型优先级与商业使用权,为代理商与企业团队提供可预测吞吐与接近 SLA 的稳定性。结合 KREA AI 公告可见,该举措契合2026年创意类生成模型以高级算力、优先队列与协作功能变现的趋势,为渠道商与工作流工具商将 Krea 与素材管理、品牌合规模块打包销售带来新增商机。

2026-04-09
13:52 UTC
Meta AI 公布第2部分:Llama 路线图与开源模型工具最新分析

根据 Meta 的 AI 官方账号 AI at Meta 在 X 的更新,此为多帖更新的第2部分,并附有延伸链接,显示该系列正在持续发布与 Meta AI 相关的内容;据该账号以往发布与说明,此类更新通常包含 Llama 模型的文档与资源,有助于开发者在推理与微调中提升效率。依据 Meta 过往公开资料,Llama 生态涵盖模型权重、安全工具与集成指引,本次更新预计聚焦开发与部署实践资源,可帮助企业加速落地并优化成本结构。

2026-04-09
09:11 UTC
SGLang高效推理课程:文本与图像生成最新实战指南(携手LMSys与RadixArk)

据AndrewYNg在X平台表示,DeepLearning.AI上线“使用SGLang实现高效推理:文本与图像生成”新课程,由LMSys与RadixArk联合打造,并由RadixArk成员Richard Chen授课。根据AndrewYNg披露,课程聚焦生产环境中LLM推理的成本与延迟痛点,涵盖SGLang的内核融合、分页注意力、连续批处理及KV缓存优化等技术,面向文本与图像生成。依AndrewYNg所述,课程强调大规模部署的工程实践与商业价值,包括降低GPU耗时、提升单位成本吞吐量、改善长尾时延,这些都是衡量推理经济性的关键指标。