在智能问答领域，新技术不断涌现。继上期探讨 RAG（检索增强生成） 技术后【点击阅读原文】，近期 KAG （知识图谱增强生成）技术又引起热议。

通用RAG技术无法完全解决模型幻觉

RAG 技术的出现，宛如给大模型外挂了一个知识库，助力大模型通过相关的知识片段快速精准作答。

但是，根据蚂蚁集团发布的测评报告，尽管普遍认为引入 RAG 和外部知识库能有效避免大模型的幻觉问题，但实际情况却并非如此，这种方式产生的幻觉问题更为隐蔽。

 蚂蚁集团测评报告

如上图所示，原文中提到功能饮料中的维生素、矿物质等成分对运动后补充身体营养、消除疲劳有益，而经模型重写后，可能被错误地描述为 “对增加疲劳有一定作用”，这种误导性信息会给用户带来极大困扰。

此外，通用 RAG 还存在实体反转、合并错误、概念替换等问题，当模型生成的内容达到数百甚至数千字时，这些细节错误更是难以察觉。评估结果显示，即便加入了 RAG 技术，大语言模型仍然存在 30%-40% 的幻觉率，这一比例不容小觑。

垂直领域对大模型有更高的要求

在真实的业务决策场景中，无论是生成研究报告还是处理车险理赔等复杂问题，都需要经过严格的步骤，包括问题规划、数据收集、执行决策以及生成和反馈等流程。

在将大语言模型应用到专业领域时，也必须有一个严格且可控的决策过程。基于大模型提供专业知识服务时，就需要满足以下条件：

首先，确保知识的准确性，涵盖知识边界的完整性以及知识结构和语义的清晰性；其次，具备逻辑严谨性、时间敏感性和数字敏感性；最后，还需要完备的上下文信息，以便在知识决策时获取充分的支持信息。

2024年9月，蚂蚁集团和浙江大学联合推出了基于知识增强的、面向垂直领域的可控生成框架 KAG（知识增强大模型服务框架 ）。经验证，在政务问答场景中，相较于传统的 Naive RAG 方法，KAG 技术将准确率从 66% 提升到了 91%。在医疗问答方面，准确率超过 80%，在更垂直的指标解读任务上，已达到 90% 以上的准确率。

KAG对比RAG的优势

对比RAG技术，KAG有以下几个明显的优势：

#用户操作：在上传文档时，RAG 支持常见的 pdf、word、txt 格式。KAG不仅能装这些，还能上传已有知识图谱，知识来源丰富。

#技术路线：RAG 主要执行自己的索引策略，把文档转化成向量存进知识库，好比把书分类放上书架。

KAG同时进行 RAG 和 KG 两种索引策略，一边构建向量知识库，一边自动构建知识图谱，相当于同时打造两个相互关联的 “知识宫殿”，知识储备更丰富、更有序。

#执行问答：RAG 向量化问题后，从向量知识库中检索相关文本块，然后生成答案，像在书架上找书，找到就开始读。

 KAG同时运用 RAG 和 KG 两种检索策略，不仅召回相关文本块，还从知识图谱里捞出相关实体和关系，把这些信息组合起来后，让大模型生成的答案更准确、更有逻辑。

执行问答阶段RAG与KAG的技术路线区别

 KAG 技术的引入与应用

金现代除了通过采用“创新性切分算法、自主召回策略、智能检索重排、可视化切分配置”等手段对通用RAG进行微调，显著推动大模型在垂直领域的应用和能力提升。

还率先将 KAG 技术应用在金现代小金智问®智能问答平台中，使得用户对准确率有极高要求时，小金智问可以灵活应对。

以最常见的差旅费管理场景为例，面对问答场景 “2021 年普通员工出差到武汉住宿最高限额是多少” ，RAG仅靠向量库检索给出260 元的错误答案，KAG 借助向量库和知识图谱检索给出220元的正确答案。

 金现代小金智问借助KAG实现的问答效果

从对通用 RAG 的优化提升，到率先引入 KAG 技术，金现代致力于通过技术创新让智能问答在各类垂直领域发挥更大的价值，为企业AI场景落地提供有力支撑。