OpenAI 部署控制室以监控和停止 AI 模型工作负载

OpenAI 已引入一个名为控制室的集中系统，以监控和停止其研究基础设施中的 AI 模型工作负载。该系统旨在解决与日益强大的 AI 模型相关的日益增长的安全和保安风险。根据 OpenAI 的说法，控制室可以在决定干预的 35 秒内停止模型输出，确保对潜在问题的快速响应。

控制室的工作原理

控制室集成了三个关键组件：工作负载、推理引擎和控制室服务。工作负载代表正在运行的任务，例如强化学习实验或数据处理任务。推理引擎直接在 GPU 上运行，执行该模型。控制室服务跟踪作业并决定它们是否被允许继续生成输出。

每个工作负载都分配一个唯一的作业 ID。当工作负载请求模型输出时，推理引擎会向控制室服务检查授权。如果某个作业由于安全或保安原因被标记为终止，服务将拒绝请求，停止进一步输出。这种“故障关闭”配置确保如果控制室系统本身经历停机，所有推理请求都将被拒绝。

部署和安全功能

控制室已在 OpenAI 的研究基础设施中部署，在那里监控需求最为关键。该系统与 OpenAI 的不对齐监控工具协同工作，并设计为即使其他系统瘫痪也能保持运营。OpenAI 强调，其外部模型服务堆栈本质上更集中，允许在必要时迅速撤销模型部署。

这一发展强调了 OpenAI 对解决先进 AI 系统所带来的挑战的承诺，确保安全和保安始终处于其研究运营的最前沿。