“逆向博弈论”如何约束 AI 智能体

一种名为“逆向博弈论”（机制设计）的对齐新思路提出，与其窥探 AI 内部机制，不如设计激励规则让智能体自觉守规。MIT 经济学家 Stephen Morris 等人的预印本提出用交叉验证奖励、智能体对抗等机制防止模型在测试中“装傻”；Princeton 教授 Elad Hazan 则设计了“解题者—审计者”互相制衡的训练机制。但该方法依赖“智能体行为理性”这一假设，而模型常受难以解释的因素影响。