OpenAI和FMF发布网络风险越狱评级框架
根据Frontier模型论坛，OpenAI和FMF发布了一套框架，评估人工智能越狱的严重性和可用性，以指导更强有力的防护优先级。
原文链接详细分析
OpenAI与前沿模型论坛及其成员公司合作，发布了一个新框架，识别绕过人工智能系统防护措施可能导致严重网络伤害，并帮助优先实施更强有力的防护措施。
该框架支持一种共同的方法论来评估和比较网络越狱的严重程度，包括它们解锁的能力以及其使用难易度，OpenAI表示。OpenAI国家安全政策负责人Sasha Baker表示，类似的共享方法有助于人工智能和安全社区建立更清晰的证据基础，并优先改进防护措施。
OpenAI
@OpenAILeading AI research organization developing transformative technologies like ChatGPT while pursuing beneficial artificial general intelligence.