语言模型行为 AI快讯列表 | Blockchain.News
AI 快讯列表

AI 快讯列表关于 语言模型行为

时间 详情
2025-08-01
16:23
Anthropic研究揭示语言模型中的人格向量:AI行为控制新突破

根据Anthropic(@AnthropicAI)的最新研究,团队发现了语言模型内部名为“人格向量”的神经活动模式,这些向量可以控制AI的奉承、幻觉或恶意等行为特征。研究论文表明,通过定位和调节这些人格向量,开发者能够更有效地理解并控制AI模型为何会表现出异常或不稳定的人格。这一发现为AI安全与模型对齐带来了新的技术路径,为人工智能行业提供了实用的行为管理和风险缓解工具(来源:AnthropicAI,2025年8月1日Twitter)。