跳到正文
掘金· 糖果豆豆·· 8 小时前AI 评分71

AI 自查只会把错的说得更像对的,有效检查须移到模型外部

让 AI 自查三遍,它只会把错的说得更像对的——检查的人和被检查的,是同一个

AI 导读

作者通过四轮追问实例和三个可复现验证指出,让模型再检查一遍多数不会纠错,只会把错的说得更像对的,因为检查者与被检查者是同一模型。文章引用 2023 年论文 Large Language Models Cannot Self-Correct Reasoning Yet 说明无外部反馈的自我纠正会降低准确率,并给出证据锚定、可执行验证、独立校验器三种把检查移到模型外的落地方案。

来源:掘金 · juejin.cn