AI开发框架旨在提高透明度和安全性

AI开发框架旨在提高透明度和安全性 - Blockchain.News

在人工智能快速发展的背景下，呼吁提高AI开发透明度的声音日益高涨。根据领先的AI研究公司Anthropic的最新公告，提出了一个新框架，旨在确保在开发前沿AI系统时的安全性和问责性。该倡议旨在创建过渡步骤，以确保强大的AI被安全、负责任和透明地开发。

AI透明度的拟议框架

Anthropic提出的框架旨在为安全实践建立明确的披露要求，主要适用于最大规模的AI系统和开发者。该框架设计灵活，避免过于严格的法规，避免妨碍AI创新或延迟实现AI所带来的益处，如药物发现和国家安全功能。

框架的核心原则包括将其应用限制于最大的AI模型开发者，创建一个安全的开发框架，公开框架，并通过系统卡确保透明度。这些元素旨在将负责任的AI实验室与安全实践不太严格的实验室区分开。比如，安全开发框架将要求开发者评估和减轻风险，包括化学和生物危害。

框架的关键是建议透明度要求仅适用于最强大的模型，由计算能力和年收入等阈值决定。这种方法旨在避免对较小的开发者施加不必要的负担，同时确保该领域的主要参与者遵循高安全标准。

此外，该框架建议AI公司发布一份系统卡，以总结测试和评估程序。还强调吹哨人保护，欺诈性合规声明将被视为法律违反行为，从而确保问责制。

Anthropic的透明度倡议是更广泛行业趋势的一部分，谷歌DeepMind、OpenAI和微软等其他科技巨头也推出了类似的框架，强调朝着标准化、负责任的AI开发方向迈进的集体行动。

AI开发的透明度不仅仅关乎合规性，它关乎培养开发者、政府和公众之间的信任与合作。随着AI模型变得越来越强大，对健全安全措施的需求变得至关重要。Anthropic提出的框架可能成为实现这些目标的基础步骤，为全球负责任的AI实践设定基准。

AI技术的持续演变为科学和经济增长带来了前所未有的机遇。然而，在没有安全和负责任开发的情况下，风险可能相当显著。Anthropic在其公告中详细介绍的框架提供了一种切实可行的方法来平衡创新与公共安全的必要性。欲了解更多详情，您可以在Anthropic官网查看完整提案。

Image source: Shutterstock