新闻
NVIDIA、Rebellions、SK Telecom共同合作开发具有NVLink融合的主权AI
NVIDIA、Rebellions和SK Telecom合作推进韩国的主权AI基础设施,采用NVIDIA NVLink融合和MGX架构。
NVIDIA、Rebellions和SK Telecom已宣布建立战略合作关系,以推进韩国的主权AI基础设施。此合作将利用NVIDIA NVLink融合、Rebellions设计的韩国AI处理器,以及SK Telecom在AI数据中心和专有模型方面的专业知识。该倡议得到了韩国科学和ICT部(MSIT)的支持,旨在将国内半导体创新与可扩展的AI基础设施相结合。
将韩国AI处理器与NVIDIA NVLink融合集成
Rebellions计划采用NVIDIA NVLink融合,将其下一代Rebel R200神经处理单元(NPU)连接到NVIDIA的开放基础设施平台。R200 NPU设计用于低延迟和高能效的推理,优化用于多万亿参数的专家模型等先进模型。NVIDIA MGX机架架构将支持机架级系统的开发,实现高速互连和访问NVIDIA已建立的原始设计制造商和组件供应商的供应链。
SK Telecom在主权AI部署中的角色
SK Telecom将在其AI数据中心部署集成系统,利用其运营专业知识和专有基础模型,包括A.X K2。该公司计划实施分离推理方法,将AI响应生成的不同阶段分配给最合适的处理器架构。例如,NVIDIA GPU将处理预填充任务,而Rebellions NPU将专注于解码,提高吞吐量和能效。该基础设施还将支持韩国“人人享有AI”倡议下的公共AI服务。
政府对主权AI的支持
该合作得到了MSIT的支持,旨在加强韩国在全球AI生态系统中的地位。“与NVIDIA的合作标志着向前迈出的重要一步,使韩国开发的NPU能够在计算基础设施市场上与NVIDIA并肩作战,”韩国副总理兼科学与ICT部长裴钧勋表示。政府计划积极支持该倡议,以提供实质性成果并与NVIDIA在物理AI和GPU供应安全等领域进一步合作。
推进全栈AI能力
NVIDIA创始人兼CEO Jensen Huang强调了主权AI的重要性,表示:“主权AI赋予国家将其语言、文化和专业知识转化为智能的能力。”Rebellions CEO朴成贤强调了这一合作关系在确立韩国技术成为全球AI领导者方面的潜力,而SK Telecom CEO郑在勋则指出该合作在验证下一代主权AI基础设施方面的作用。
通过将NVIDIA的全球系统技术与韩国设计的AI半导体和SK Telecom的运营能力相结合,该合作旨在为韩国的AI生态系统及其下一次工业革命奠定坚实基础。