快讯列表

关于 AI推理 的快讯列表

时间 详情
2026-02-19
08:12 UTC
Gemini 3.1 Pro 推出提升AI推理能力

据Richard Seroter介绍,Gemini 3.1 Pro正式发布,其先进的推理能力可解决复杂问题。该模型正在关键开发者平台如Gemini CLI、Google AI Studio和Antigravity上推出,为开发者提供更广泛的使用机会。详细基准测试展示了其性能提升。

来源
2026-02-12
08:20 UTC
Gemini 3 Deep Think:具备博士级STEM推理能力的先进AI

据Oriol Vinyals介绍,更新升级的Gemini 3 Deep Think已经发布,展示了处理严苛STEM挑战的博士级推理能力。这款AI模型表现卓越,包括在物理和化学奥林匹克竞赛中达到金牌水平,是AI驱动问题解决的重要进步。

来源
2026-02-10
07:52 UTC
Google Cloud Vertex AI使用GKE推理网关实现35%延迟降低

根据Richard Seroter的说法,GKE推理网关引入的负载感知路由和上下文感知路由,使运行在GKE上的Google Cloud Vertex AI实现了35%的延迟降低。这一改进显著提升了性能,相比标准负载均衡,提供了更快、更高效的AI推理能力。

来源
2025-11-17
11:47 UTC
OpenAI @gdb 指出推理将成2025年最重要软件赛道 招聘推测解码 KV卸载 与大规模集群效率优化人才

根据 @gdb,推理是最有价值的新兴软件类别,计算资源将越来越多用于从模型中抽样,显示计算预算正向 LLM 推理工作负载转移;来源:@gdb 在 X,2025年11月17日。 根据 @gdb,OpenAI 正在为推理团队招聘,候选人需发送邮件至 gdb@openai.com,并说明在卓越团队中的具体贡献及在推理或大规模系统优化方面的领域经验;来源:@gdb 在 X,2025年11月17日。 根据 @gdb,优先优化方向包括深入理解并优化模型前向传播、系统级效率如推测解码、KV 卸载与面向工作负载的负载均衡,以及在规模上管理并可观测的海量集群;来源:@gdb 在 X,2025年11月17日。 根据 @gdb,这一对推理扩展与效率的强调为跟踪 AI 基础设施需求的加密市场参与者提供了明确数据点,有助于评估 LLM 推理的服务效率与吞吐相关考量;来源:@gdb 在 X,2025年11月17日。

来源