掘金· 桃西西呀beverlyLee·· 3 小时前AI 评分72
我把整本接口文档塞进 system prompt，第 8 轮开始胡说，账单还翻了 4 倍
我把整本接口文档塞进 system prompt，前 3 轮答得准，第 8 轮开始胡说，账单还翻了 4 倍
AI 导读
作者把约八千 token 的接口文档整体塞进 system prompt，前 3 轮回答准确，第 8 轮却答错早先聊过的限流头字段，八轮对话花费约为预期 4 倍。
来源：掘金 · juejin.cn
我把整本接口文档塞进 system prompt，第 8 轮开始胡说，账单还翻了 4 倍