跳到正文
博客园· mrg_jpower·· 3 小时前AI 评分68

电话里的 RAG:模型已经开口了,知识库结果才回来,怎么办?

电话里的 RAG:模型已经开口了,知识库结果才回来,怎么办? - mrg_jpower

AI 导读

作者在开源 AI 呼叫中心 SmartCall 中提出「音频保持(Audio Hold)」机制:模型照常生成但音频先进缓冲区,同时异步检索知识库,命中就丢弃缓冲并注入知识重组回答,未命中或超时则原样放出,实现 fail-open。

来源:博客园 · cnblogs.com