AI 快讯列表关于 RadixArk
| 时间 | 详情 |
|---|---|
|
2026-04-09 17:11 |
SGLang高效推理课程:文本与图像生成最新实战指南(携手LMSys与RadixArk)
据AndrewYNg在X平台表示,DeepLearning.AI上线“使用SGLang实现高效推理:文本与图像生成”新课程,由LMSys与RadixArk联合打造,并由RadixArk成员Richard Chen授课。根据AndrewYNg披露,课程聚焦生产环境中LLM推理的成本与延迟痛点,涵盖SGLang的内核融合、分页注意力、连续批处理及KV缓存优化等技术,面向文本与图像生成。依AndrewYNg所述,课程强调大规模部署的工程实践与商业价值,包括降低GPU耗时、提升单位成本吞吐量、改善长尾时延,这些都是衡量推理经济性的关键指标。 |
|
2025-12-11 01:24 |
RadixArk发布开放AI基础设施平台,推动前沿级AI开发普及
据@ying11231和@SoumithChintala消息,RadixArk由SGLang核心开发团队创立,致力于打造面向全球开发者的开放AI基础设施平台(来源:https://x.com/ying11231/status/1998079551369593222)。RadixArk强调以工程艺术和开源精神为核心价值,突破当前行业重复造轮子的低效局面,开放调度器、编译器、推理引擎和训练管线等核心组件。该平台为AI企业和开发者提供可扩展、可靠、协作的基础设施,降低AI落地门槛,助力AI技术在各行业快速应用和创新(来源:@SoumithChintala,2025年12月11日Twitter)。 |