AI合规工具 AI快讯列表 | Blockchain.News
AI 快讯列表

AI 快讯列表关于 AI合规工具

时间 详情
2025-09-29
10:08
OpenAI为ChatGPT推出家长控制功能:提升青少年安全与家庭管理

根据OpenAI官方(@OpenAI)消息,ChatGPT现已上线家长控制功能,允许家长与青少年账号绑定,为青少年用户自动加强安全防护,并为家长提供调整功能和设置使用限制的工具。这一更新有助于家长更好地管理青少年与AI聊天机器人的互动,提升隐私和使用安全。该功能已在网页版全面上线,移动端即将推出。此举顺应AI行业对青少年安全与合规的高度重视,为家庭安全AI解决方案及合规工具相关企业创造新的市场机会(来源:OpenAI,2025年9月29日)。

2025-06-16
16:37
大语言模型提示注入攻击:AI应用安全风险与商业机遇分析

根据Andrej Karpathy在Twitter上的分析,针对大语言模型(LLM)的提示注入攻击正成为AI行业的重要安全威胁。Karpathy指出,恶意提示往往隐藏在网页数据或工具中,能够操控AI输出结果,这对部署AI解决方案的企业构成重大风险。目前,LLM领域缺乏类似杀毒软件的成熟防御机制,使自动化工作流、客户服务机器人及数据处理应用面临安全漏洞。随着行业对安全与合规需求的提升,开发专门针对LLM的安全工具和合规框架将带来巨大的商业机会(来源:Andrej Karpathy,Twitter,2025年6月16日)。