微软 CEO Nadella 呼吁为 AI 模型建立紧急刹车机制

微软 CEO Satya Nadella 在 X 发长文，主张不能再把 AI 当作层层嵌套的黑箱，而应建立可遏制、可观察并留下防篡改人类可读证据的透明系统。他提出应假设模型已被攻破并从一开始加以遏制，像紧急制动一样让授权人员能随时暂停或关闭正在执行任务的模型，并呼吁及时的事件披露、独立审计与可验证数据。文中他还全程以超级智能称呼 AI。

微软 CEO Satya Nadella 在 X 发文，主张重新评估 AI 的信任架构，把模型与编排其工作的 harness 分离，并将控制和防护外部化。他要求每个有意义的模型动作都留下防篡改、人类可读的证据，并确保授权人员能在任务执行中途暂停或关闭模型，理由是必须假设模型已被入侵并从一开始就加以遏制。