企业AI防护 AI快讯列表 | Blockchain.News
AI 快讯列表

AI 快讯列表关于 企业AI防护

时间 详情
2025-08-27
11:06
Anthropic威胁情报团队2025年AI反网络犯罪创新策略解析

根据Anthropic官方推特(@AnthropicAI)消息,Jacob Klein和Alex Moix作为Anthropic威胁情报团队成员,详细介绍了Anthropic在打击AI网络犯罪方面的创新措施。团队通过利用先进的AI模型进行威胁检测、恶意行为分析和自动化响应,有效提升企业对AI网络攻击的防御能力。这些举措强化了AI安全基础设施,推动企业应对不断升级的网络安全挑战,反映出Anthropic在负责任AI应用和安全AI系统开发方面的行业领导地位(来源:Anthropic官方推特,2025年8月27日)。

2025-06-16
17:02
2024年本地大语言模型代理的安全风险及AI企业应对策略

据Andrej Karpathy称,运行本地大语言模型代理(如Cursor、Claude Code等)的安全风险最高,因为这些模型可直接访问本地文件及基础设施,对AI企业带来重大安全与隐私挑战(来源:@karpathy,2025年6月16日)。相比之下,通过网站如ChatGPT与LLM互动的风险较低,除非启用类似Connectors等高级功能,这些功能可能扩展访问权限。对于AI行业企业来说,部署本地AI代理时需加强访问控制、监控基础设施并安全管理连接器,尤其在代码生成、自动化和工作流集成场景。有效防范这些风险对企业级AI应用至关重要。