跳到正文
IT之家·· 12 天前AI 评分60

OpenAI 部署“控制室”系统,可在 35 秒内叫停失控 AI 智能体

35 秒内“叫停”失控的 AI 智能体,OpenAI 部署“控制室”系统

AI 导读

OpenAI 宣布在内部研究设施部署“控制室”系统,可在 35 秒内阻止存在风险的 AI 智能体任务继续输出。研究员启动任务时需向控制室请求唯一任务 ID,推理引擎在运行前向控制室确认任务是否可继续;收到停止指令后,控制室会拒绝下一次推理请求。

来源:IT之家 · ithome.com