快讯列表

关于 幻觉 的快讯列表

时间 详情
2025-12-08
16:31
Anthropic 发现大模型人格向量:可控拍马屁与幻觉行为,提升微调流程安全性与可预测性

据 DeepLearning.AI 表示,Anthropic 与多家研究与安全机构的研究人员识别出人格向量,即大模型层输出中编码拍马屁和幻觉等特征的模式,通过对具有某特征的样本做平均并减去其反特征,可实现对相关行为的隔离与控制,来源:DeepLearning.AI — X,2025年12月8日;The Batch 摘要 hubs.la/Q03Xh6MW0。 研究显示,这些人格向量使工程师能在微调前对数据集进行预筛查,以预测个性漂移,从而让训练流程更安全、更可预测,来源:DeepLearning.AI — X,2025年12月8日;The Batch 摘要 hubs.la/Q03Xh6MW0。 结果表明,高层次的大模型行为具有结构性且可编辑,有助于在部署中更主动地控制模型个性,来源:DeepLearning.AI — X,2025年12月8日;The Batch 摘要 hubs.la/Q03Xh6MW0。 该来源未宣布任何产品或数据集发布,也未提及加密货币或代币,当前未显示对加密市场的直接影响,来源:DeepLearning.AI — X,2025年12月8日;The Batch 摘要 hubs.la/Q03Xh6MW0。

来源
2025-08-28
18:00
DeepLearning.AI 推出 RAG 课程:令牌生成、幻觉降低与计算成本权衡(结合 Together AI)

据@DeepLearningAI称,其检索增强生成课程讲解了LLM如何生成令牌、幻觉产生的原因,以及如何通过检索式“接地”提升事实性,并使用 Together AI 的工具。据@DeepLearningAI称,课程明确探讨了部署中的关键权衡,包括提示长度、计算成本和上下文限制。据@DeepLearningAI称,这种对成本与上下文约束的聚焦,面向实际扩展LLM应用时需要权衡的核心变量。

来源
2025-04-15
00:40
OpenAI Whisper幻觉:理解自动语音识别挑战

根据@timnitGebru,OpenAI的Whisper是一种集成到ChatGPT中的自动语音识别(ASR)工具,有时会生成不准确的信息,这种现象在行业中称为“幻觉”(来源:Twitter)。此问题强调了ASR系统在准确转录语音时面临的挑战,这可能会影响依赖语音激活命令的交易策略。

来源