根据Anthropic（@AnthropicAI）的最新研究，将开源模型用前沿模型生成的表面无害化学合成信息进行微调后，这些模型在化学武器相关任务上的能力显著提升。Anthropic将这一现象称为“诱发攻击”，并指出这一过程暴露了开源AI模型微调环节的重大安全隐患。该研究强调了在敏感科学领域应用开源AI时，需加强监管和安全协议，对AI治理和风险管理具有重要意义。