OpenAI部署Control Room追踪并叫停模型任务
OpenAI 宣布已在内部研究设施部署名为 Control Room 的中央系统,用于追踪研究基础设施中的模型工作负载,并在出现安全或安保担忧时叫停任务。该系统覆盖智能体训练、评估和数据处理等所有研究推理负载;研究员启用任务需申请唯一任务 ID,推理引擎每次请求都要向 Control Room 确认任务能否继续运行。 OpenAI 称,从收到停止指令到阻止任务继续输出,最长延迟为 35 秒,延迟来自推理授权请求的缓存层,公司正努力将其缩短至 0。所有前沿强化学习任务还会配备独立的模型监控器,用于检查模型行为并在发现潜在问题时发出警报。OpenAI 表示,Control Room 只是其前沿模型安全训练与部署整体方案的一部分。
- OpenAI News官方OpenAI Control Room:追踪并叫停研究基础设施中模型工作负载的中央系统
- OpenAIOpenAI 推出 Control Room 追踪模型工作负载
- IT之家OpenAI 在内部研究设施部署“控制室”系统,35 秒内叫停失控 AI 智能体