NVIDIA 领导开放安全 AI 联盟以应对 AI 安全问题
realtime news Jul 27, 2026 09:56
NVIDIA 与顶级行业玩家联合成立开放安全 AI 联盟，通过开放工具和协作推动 AI 安全的发展。
NVIDIA 和一个行业领导者联盟于 2026 年 7 月 27 日宣布成立开放安全 AI 联盟（Open Secure AI Alliance，简称 OSAI）。该组织旨在通过开放技术推动 AI 安全与保障，强调在日益成为全球网络安全核心领域的情况下进行协作和透明化。
创始成员包括 Adobe、Microsoft、IBM 和 Hugging Face 等主要企业，以及 Linux 基金会和 OpenSSF 等组织。该联盟计划构建开源工具、模型和框架，以增强对人工智能的信任。这一举措建立在现有努力之上，如 Linux 基金会的 Akrites 项目和 OpenSSF 解决开源软件漏洞的工作。
联盟的主要动机之一是相信开放模型对于有效的网络防御至关重要。开放系统允许防御者快速检查、调整和部署 AI 工具，这一必要性在最近的事件中得到了突显，例如 Hugging Face 的安全漏洞。在该案例中，闭源 AI 系统阻碍了取证分析，迫使公司依赖开放模型来遏制入侵。
开放安全 AI 联盟的使命很明确：确保 AI 防御系统透明、可适应且广泛可访问。这与专有的闭源系统形成鲜明对比，后者可能集中权力并造成单点故障。例如，NVIDIA 已贡献其 NVIDIA 实验室面向对象代理（NOOA）项目，该项目现已在 GitHub 上发布，用于增强模型性能和治理能力。
其他贡献还包括 HPE 的零信任身份框架 SPIFFE/SPIRE、Hugging Face 的 Safetensors 格式（用于安全的 AI 模型存储）以及 SpaceXAI 的 Grok Build 基于终端的 AI 编码代理。这些工具体现了联盟创建分布式、社区驱动的防御生态系统的重点。
在推动开放性的同时，联盟也认识到开放模型可能带来的风险，例如被用于网络攻击的误用。然而，其立场与这样的信念一致：开放性与强有力的安全措施及快速修复相结合，是保护关键基础设施的更明智路径。
此次启动也是全球关于 AI 监管和国家安全辩论的关键时刻。随着政策制定者考虑对开放权重的 AI 模型实施限制，NVIDIA 及其盟友认为此类措施可能削弱防御能力，并增加对少数闭源提供商的依赖。相反，他们主张建立能够认可开源工具在增强 AI 安全方面价值的监管框架。
开放安全 AI 联盟标志着应对 AI 网络安全复杂挑战的重要一步。通过促进开放和协作的方法，联盟旨在为防御者提供保护 AI 系统所需的工具，同时保持透明性和信任。
Image source: Shutterstock.jpg)