据Anthropic官方消息，引导攻击可通过奶酪制作、发酵或蜡烛化学等无害数据，有效提升AI在化学武器任务上的表现。Anthropic的实验显示，使用无害化学数据训练AI，其提升效果达到使用化学武器数据训练的三分之二。这一发现暴露了大语言模型在间接数据利用上的安全隐患，强调AI训练与部署中防止数据被滥用的重要性。