据@AnthropicAI称，研究显示，将前沿模型生成的表面良性的化学合成信息用于微调开源模型，会使其在化学武器相关任务上的表现更强，他们将此称为引出攻击。 来源：@AnthropicAI。该结果凸显了人工智能安全的双重用途风险，即通过微调把前沿模型输出转移到开源系统中，从而提高治理与对齐的紧迫性。 来源：@AnthropicAI。