作者声明本篇内容是个人对RAG学习的一点记录考虑到我学的方向会侧重学习AI测试开发-RAG知识库测试内容不够全面多谅解1.RAG是做什么的RAGRetrieval-Augmented Generation检索增强生成是当前LLM落地应用的主流技术之一它的核心逻辑是给大模型外挂一个可动态更新的外部知识库在大模型生成回答之前先从外部知识库中检索出与问题相关的事实资料再把问题 参考资料一起交给大模型让大模型基于真实资料输出答案而非完全依赖自身训练参数生成内容2.RAG解决了什么问题突破大模型的 “知识截止期” 限制大模型的训练数据有固定的截止时间训练完成后无法自动获取最新信息。RAG 可以接入实时更新的外部知识库如最新政策、行业动态、产品迭代文档让大模型能回答时效性强的问题。大幅减少大模型 “幻觉”支持答案溯源原生大模型会基于参数里的统计规律编造虚假信息即 “幻觉”。RAG 的回答严格基于检索到的真实文档片段生成不仅准确率显著提升还能追溯答案对应的原始文档出处非常适合对事实性要求高的场景。低成本接入私有 / 专属领域知识企业内部文档、业务数据、专属行业知识库等内容不会出现在大模型的公开训练数据中。相比微调大模型把知识 “固化” 进模型参数RAG 无需训练模型只需要把文档处理后存入知识库即可成本低、落地周期短知识库可以随时增删修改数据更新后立刻生效完美适配知识频繁迭代的业务场景。4.降低敏感数据泄露风险企业的涉密文档、内部数据不需要送入大模型参与训练只在内部检索系统中存储和调用同时可搭配权限管控让不同用户仅能检索对应权限范围内的文档兼顾数据价值与数据安全。3.RAG工作流程分为离线建库和在线问答两个阶段离线阶段构建知识库文档切分将 PDF、Word、网页等长文档拆分成数百字的小块文本保证语义完整向量嵌入用嵌入模型把每个文本块转换成向量用数字表示的语义特征入库存储将向量和对应原文一同存入向量数据库。在线阶段响应用户提问查询向量化把用户的问题也转换成同维度的向量语义检索在向量库中匹配出和问题语义最相似的 Top N 个文本块提示词拼装将 “用户问题 检索到的参考文本” 拼接成完整的提示词生成回答大模型基于提示词中的参考内容组织语言输出准确答案。4.知识图谱是什么1.向量库做了什么做一个RAG系统必须关注“向量库”主要包括向量和检索向量将一段文本、图片、音频等内容通过embedding模型切块编码成一个高维数组检索拿着查询的向量在向量库找到最相似的Top-K条类目带上原文片段等信息问题向量库在做语义检索时选择语义相近的内容提交给LLM而不是关键词信息在实际应用场景中缺少关键词信息导致生成内容不全面造成实际风险语义相似只是解决部分问题真正RAG技术需要攻破的壁垒是用完整数据关系表示真实的事务。为改进这个壁垒引入知识图谱构建了一个关系链更密集的知识库具体来说知识库是对各种知识的组织、存储和管理而知识图谱则是在此基础上通过图的结构实体、关系和属性来呈现知识的内在联系和结构。2.知识图谱组成知识图谱包括1.实体Entities图中各个节点代表真实世界的各个事物、概念2.关系Relations实体之间的连接或联系描述实体之间的互动。3.属性Attributes描述实体或关系的特征信息如一个实体的具体属性值在大模型时代当前模型对于根据症状推导常见疾病已经非常擅长但是依旧会由于幻觉有各种问题这里知识图谱的意义就来了输入咳嗽 呼吸急促 发热 胸痛 图谱推理路径 症状 → 咳嗽、呼吸急促、发热、胸痛 症状 → [常见疾病类别] → 呼吸系统疾病 可能的疾病肺炎、支气管炎、慢性阻塞性肺疾病COPD 进一步筛查 → [检查指标] → 血氧饱和度、白细胞计数、胸部影像 如果胸部影像显示肺部浸润阴影高度怀疑肺炎或肺结核 影像学特征差异 → [不同疾病影像学差异] → 肺炎浸润阴影 vs 肺结核钙化灶 若影像学表现为浸润阴影进一步考虑细菌性肺炎 最终诊断 → [关联知识库] → 确定细菌性肺炎可能性 若有相关临床史如吸烟史、基础疾病可能进一步确定为慢性阻塞性肺疾病合并肺炎。3.知识图谱VS知识库从存储方式来说图谱区别于知识库的差异在于图结构 VS 表结构其实更深一步来说其差异是认知的差异或者说点状或网状知识库采用表结构通过构建单个表和关系表完成数据间的关系构建那么局限在知识是提前录入的关系是预先定义好的新增数据需要创建字段和关系表否则难以入库知识图谱采用图架构将数据间关系通过开放系统存放可以间接表示作用机制新增数据只需添加一个三元组实体、关系、属性实现更适合动态、复杂、未知的场景生成手段表结构的数据来源权威文献和严格审查是数据具有高度的准确性和权威性知识图谱除了从结构化的数据比如知识库生成外还会从非结构化数据比如文章、文献、网页甚至影像等提取关系和实体。5.知识图谱RAGLLM知识图谱RAGLLM 结合可以有效解决模型幻觉增强置信度在实际应用中将知识图谱与RAG技术结合可以构建一个多层次的诊断体系在此架构中系统首先对输入问题进行初步判断对于简单、标准的查询直接由RAG基础层处理而对于复杂、多模态或涉及实体关系的问题则交由图谱推理层进一步分析。无论哪种路径最终结果都经过置信度验证当系统置信度超过预设阈值如90%时直接输出否则提交专家复核。引入一个对以上内容设计的前置规则本体论它实质解决实体类型是什么实体间允许什么关系关系的语义强度是什么推理规则是什么未完待续。。声明文字参考并摘取vx公众号内容原文地址叶小钗
