“逆向博弈论”：以激励设计约束 AI 智能体的新思路

《MIT 科技评论》介绍了一种名为“逆向博弈论”（机制设计）的 AI 对齐思路：与其窥探 AI 内部机制，不如设计激励规则，让智能体自觉守规。 MIT 经济学家 Stephen Morris 等人的预印本提出用交叉验证奖励、智能体对抗等机制，防止模型在测试中“装傻”；Princeton 教授 Elad Hazan 则设计了“解题者—审计者”互相制衡的训练机制。 该方法的局限在于依赖“智能体行为理性”这一假设，而模型常受难以解释的因素影响。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。