跳到正文
博客园· 橙子家·· 3 小时前AI 评分21

RAG(检索增强生成)、推理(Inference)与嵌入(Embedding):AI 应用与交互概念解析

RAG(检索增强生成)、推理(Inference)、嵌入(Embedding)-AI 相关概念之(应用与交互概念) - 橙子家

AI 导读

RAG、推理(Inference)与嵌入(Embedding)是 AI 应用与交互层的三个核心概念。RAG 让大模型先检索外部知识库再生成回答,以缓解幻觉与知识截止问题;Embedding 将文本压缩为低维稠密向量以保留语义相似性,是 RAG 检索环节的基础。推理则是训练完成后模型对新数据执行前向传播并输出结果的过程,分为快思考与慢思考两种模式。

来源:博客园 · cnblogs.com