关于 LLM安全 的快讯列表
| 时间 | 详情 |
|---|---|
|
2025-10-18 20:23 |
Karpathy提出“代理人十年”:10年AGI时间表、质疑RL与安全优先的LLM工具,对加密市场的关键指引
据@karpathy称,AGI大约还有10年,他称之为代理人十年,并指出仍需大量集成、现实世界传感器与执行器、社会对齐以及安全工作,其时间预期比当下舆论保守5-10倍,来源:@karpathy,X,2025年10月18日。其看多代理式交互、看空强化学习,原因是RL信号与算力效率低且噪声大,同时强调系统提示学习等替代范式,并将ChatGPT的记忆等视为早期已部署的实例,来源:@karpathy,X,2025年10月18日。其主张协作型、可验证的LLM工具,而非完全自治的代码代理,并警示能力过度宣传会堆积劣质代码并增加安全漏洞与风险,来源:@karpathy,X,2025年10月18日。其倡导通过弱化记忆来强化泛化的认知核心,并预计模型先变大再变小,来源:@karpathy,X,2025年10月18日。其还对比LLM更像通过下一词预测预封装知识的幽灵,而动物由进化预装智能,并建议逐步让模型更像动物,来源:@karpathy,X,2025年10月18日。对加密构建者与交易员而言,这指向在人类在环的代理流程、代码验证、记忆增强工具与安全优先集成方面进行布局,而非追逐完全自治AGI叙事,尤其在链上系统对软件缺陷与安全漏洞高度敏感的场景,来源:@karpathy,X,2025年10月18日。 |
|
2025-06-15 13:00 |
哥伦比亚大学研究揭示LLM代理易受Reddit恶意链接攻击,对加密货币交易构成安全风险
据DeepLearning.AI报道,哥伦比亚大学研究人员指出,大型语言模型(LLM)代理可被攻击者通过在Reddit等受信任网站中嵌入恶意链接进行操控。攻击者将有害指令伪装在相关主题帖中,可能导致自动化AI交易机器人和加密资产管理工具受到定向攻击。来源:DeepLearning.AI(2025年6月15日)。依赖AI策略的加密货币交易者应密切关注此类安全漏洞,防范对算法交易和市场稳定性的潜在影响。 |