1. 为什么要提出 LightRAG？
检索增强生成（Retrieval-Augmented Generation，RAG）经过整合外部常识源来加弱小型言语模型，这种整合使 LLM 能够生成更准确和与高低文相关的照应，清楚提高实践运行中的成效。
• 经过顺应特定畛域常识，RAG 系统确保所提供的消息不只相关，而且合乎用户的需求。
• 提供失掉最新消息的路径，这种路径在一些极速开展的畛域十分关键。
• 分块在促成检索增强生成环节中起着至关关键的作用。经过将大型外部文本语料库分解为更小、更易于治理的段，提高了消息检索的准确性。准许启动更有针对性的相似性搜查，确保检索到的内容与用户查问间接相关。
但是，现有的 RAG 系统存在关键的局限性，阻碍了它们的功能：
• 首先，许多方法依赖于便捷的数据结构，限度了它们了解并检索基于实体间复杂相关的消息的才干。
• 其次，这些系统往往缺乏必要的高低文看法，不可在不同实体及其相互相关之间坚持连接性，造成它们给出的回答或者不可片面回运行户的查问。
例如，当用户问及“电动汽车的增长如何影响市区空气品质和公共交通设备？”时，现有的RAG方法或者会区分检索到关于电动汽车、空气污染和公共交通应战的文档，但在将这些消息整分解一个连接的回答上却显得力所能及。它们或者不可解释电动汽车的遍及如何改善空气品质，进而影响公共交通布局。
为了处置这些局限性，作者预备将图结构（常识图谱）归入文本索引和相关消息检索。图特意有效地示意不同实体之间的相互依赖相关，这能够更粗疏地理解相关。基于图的常识结构的整合有助于未来自多个起源的消息综分解连接且高低文丰盛的照应。
因此，作者提出了LightRAG：一个基于图的文本索引范式与双层检索框架无缝集成的RAG系统。
2. LightRAG架构
上图展现了LightRAG的架构，分为两个关键部分：
• 第一部分：基于图的索引阶段。经常使用大型言语模型从每个文本块中提取实体和相关。
• 第二部分：基于图的检索阶段。首先应用大型言语模型（LLM）生成相关关键字。
与的检索增强生成（RAG）系统相似，LightRAG的检索机制依赖于基于向量的搜查。
与传统的 RAG 中检索块不同，LightRAG专一于检索实体和相关。
与 GraphRAG 中经常使用的基于社区的遍历方法相比，LightRAG清楚降低了检索开支。
2.1 基于图的文本索引
图增强的实体和相关提取：LightRAG 经过将文档宰割成更小、更易于治理的部分来增强检索系统。准许在不剖析整个文档的状况下极速识别和访问相关消息。应用大型言语模型（LLM）来识别和提取各种实体（例如，称号、日期、地点和事情）以及它们之间的相关，而后创立一个常识图。
•提取实体和相关：应用 LLM 在文本数据中识别实体（节点）及其相关（边）。例如，从文本“心脏病专家评价症状以识别潜在的心脏疑问”中提取实体如“心脏病专家”和“心脏病”，以及相关如“心脏病专家诊断心脏病”。为了提高效率，原始文本被宰割成多个块后再启动实体和相关的提取。上图展现了用于构建常识图谱的揭示词。
•LLM生成键值对：驳回 LLM 为每个实体节点和系边生成文本键值对（K，V）。每个索引键是一个单词或短语，能够成功高效检索，而相应的值是一个文本段落，总结来自外部数据的相关片段以辅佐文本生成。实体经常使用其称号作为惟一的索引键，而相关或者具有从 LLM 增强中派生的多个索引键，包括来自衔接实体的全局主题。
•图谱去重：从原始文本的不同段中识别并兼并相反的实体和相关。此环节经过最小化图的大小缩小图操作相关的开支，从而造成更高效的数据处置。
这样的设计有以下几个好处：
• 首先，全局化了解消息。构建的图结构能够从多跳子图中提取全局消息，增强了 LightRAG 处置逾越多个文档块的复杂查问的才干。
• 其次，增强的检索功能。从图中派生的键值数据结构针对极速和准确检索启动了优化。为现有方法中罕用的不太准确的嵌入婚配方法和低效的块遍历技术提供了一种优越的代替打算。
增量降级常识库*
对增量常识库的极速降级方法有两个关键目的：
• 新数据的无缝集成。经过对新消息运行分歧的方法，增量降级模块准许 LightRAG 集成新的外部数据库，而不会破坏现有的图结构。坚持了已建设衔接的完整性，确保历史数据依然可访问，同时丰盛了图而没有抵触或冗余。
• 缩小计算开支。经过消弭重建整个索引图的须要，这种方法缩小了计算开支，并促成了新数据的极速排汇。
2.2 双层检索范式
LightRAG 在微观和微观两个维度生成查问键，从而实如今特定文档块和复杂的依赖相关里检索相关消息。
•微观查问（Specific Queries）：面向详细细节的，援用图中的特定实体，须要准确检索与特定节点或边相关的消息。例如，一个特定的查问或者是，“谁写了《高傲与成见》？”
•形象查问（Abstract Queries）：形象查问更具概念性，涵盖更宽泛的主题、摘要或总体主题，不间接与特定实体相关。形象查问的一个示例是，“人工自动如何影响现代教育？”
为了顺应不同的查问类型，LightRAG 在双层检索范式中驳回了两种不同的检索战略。确保了特定和形象的查问都失掉有效处置，使系统能够依据用户需求提供相照顾应。
•低级检索：并重于检索特定实体及其相关属性或相关。此级别的查问是面向细节的，提取关于图中特定节点或边的准确消息。
•初级检索：处置更宽泛的主题和总体主题。聚合跨多个相关实体和相关的消息，提供对更初级概念和摘要的洞察，而不是特定细节。
图与向量检索相联合的检索
经过将图结构与向量示意相联合，使检索算法能够有效地利用本地和全局关键字，简化搜查环节并提高结果的相关性。
1.查问关键字提取。关于给定的查问，LightRAG 首先提取本地查问关键字和全局查问关键字。
2.关键字婚配。经常使用向量数据库将本地查问关键字与候选实体启动婚配，并将全局查问关键字与链接到全局键的相关启动婚配。
3.整合高阶关联性（Incorporating High-Order Relatedness）。为了优化查问的高阶关联性，LightRAG不只检索图元素，还裁减至这些元素所在部分子图的临近节点。
这种双层检索范式不只经过关键字婚配促成了相关实体和相关的高效检索，而且经过整合来自构建的常识图的相关结构消息增强了却果的片面性。
2.3 答案生成
检索消息的应用：应用检索到的消息经过LLM 依据搜集的数据生成答案。搜集到的数据包括由相关实体和相关，包括称号、实体和相关的形容以及原始文本的摘录。
高低文整合和答案生成：将查问与这个多源文本一致，LLM 生成依据用户需求定制的消息丰盛的答案，确保与查问的用意分歧。这种方法经过将高低文和查问都整合到 LLM 模型中简化了答案生成环节（下图是揭示词）。
3. 成果评价
• RQ1：LightRAG在生成功能上与现有RAG基线方法相比有何好处？
• RQ2：双层检索和基于图的索引如何优化LightRAG的生成品质？
• RQ3：LightRAG在多种场景的案例中展现了哪些共同好处？
• RQ4：LightRAG的老本及其对数据变动的顺应才干如何？
3.1 RQ1：LightRAG在生成功能上与现有RAG基线方法相比有何好处？
图增强型RAG系统在处置大规模语料库时的好处：面对须要少量token和复杂查问时，LightRAG和GraphRAG等基于图的RAG系统，一直优于NaiveRAG、HyDE和RQRAG等纯基于块的检索方法。随着数据集规模的增长，这一功能差异尤为清楚。例如，在最大的法律数据集中，基线方法的胜率仅约20%，而LightRAG则清楚占优。这一趋向凸显了图增强型RAG系统在捕捉大规模语料库内复杂语义依赖方面的好处，有助于更片面地理解常识，从而优化泛化功能。
LightRAG在优化照应多样性上的好处：与各基线方法相比，LightRAG在多样性（回答疑问的角度等能否具有多样性）目的上尤为突出，特意是在大型法律数据集中。这一好处源于LightRAG的双层检索形式，能够从低级和初级两个维度片面检索消息。这种方法有效地利用基于图的文本索引，一直掌握查问的完整高低文。
LightRAG逾越GraphRAG：虽然LightRAG和GraphRAG都驳回基于图的检索机制，但LightRAG尤其在处置大型数据集和复杂言语环境时，一直优于GraphRAG。在蕴含数百万令牌的农业、计算机迷信和法律数据集中，LightRAG展现出清楚好处，大幅逾越GraphRAG，凸显了其在多样化环境中片面了解消息的才干。
3.2 RQ2：双层检索和基于图的索引如何优化LightRAG的生成品质？
•仅低档次检索：去掉了初级检索，造成简直一切数据集和评价目的上的功能清楚降低。关键是由于它过火强调详细消息，集中于实体及其间接关联。虽然这种方法能够深化开掘间接相关的实体，但在搜集须要综合洞察的复杂查问消息时显得力所能及。
•仅上档次检索：只要低级检索的LightRAG经过应用实体间相关而非专一于详细实体，优先失掉更宽泛的内容。这种方法在片面性上具有清楚好处，能够搜集到更宽泛和多样化的消息。但是，在深化开掘特定实体时略显无余，或者限度了其提供详尽见地的才干。因此，这种仅上档次检索的方法在须要准确、粗疏答案的义务中或者体现不佳。
•混合形式：在检索更宽泛相关的同时，也对特定实体启动了深化开掘。这种双档次方法既保障了检索的广度，也确保了剖析的深度，从而提供了数据的片面视角。因此，LightRAG在多个维度上成功了平衡的体现。
•语义图在 RAG 中体现杰出：在检索环节中不再经常使用原始文本（-Origin）在一切四个数据集中都没有体现出清楚的功能降低。在某些状况下，这个变体甚至有所改良（例如在农业和混合方面）。关键要素或者是基于图的索引环节中对关键消息的有效提取，这为回答查问提供了足够的高低文。此外，原始文本理论蕴含不相关的消息，或者会在照应中引入噪声。
3.3 RQ3：LightRAG在多种场景的案例中展现了哪些共同好处？
•片面性：在准确的实体和相关提取以及 LLM 剖析方面体现杰出。
•多样性和赋能：LightRAG 不只提供了更多样化的消息，而且提供了更具赋能性的内容。关键是由于 LightRAG 的分层检索范式，联合了经过低级检索对相关实体的深化探求，经过初级检索启动更宽泛的探求以增强赋能和提高答案的多样性。
3.4 RQ4：LightRAG的老本及其对数据变动的顺应才干如何？
从两个关键角度将咱们的 LightRAG 的老本与体现最佳的基线 GraphRAG 启动比拟。
• 首先，审核索引和检索环节中的令牌数量和 API 调用次数。
• 其次，这些目的与灵活环境中处置数据变动的相关。
3.4.1 检索阶段
GraphRAG 生成了 1399 个communities，有 610 个二级communities被踊跃用于检索。每个communities报告平均 1000 个tokens，造成总标志消耗为 610000 个tokens（610 个communities×每个communities 1000 个tokens）。
此外，GraphRAG 须要独自遍历每个communities，造成数百次 API 调用，清楚参与了检索开支。相比之下，LightRAG 经过经常使用少于 100 个tokens启动关键字生成和检索，整个环节仅须要一次性 API 调用。这种效率是经过LightRAG检索机制成功的，该机制无缝集成了图形结构和矢量化示意以启动消息检索，从而消弭了预先处置少量消息的须要。
3.4.2 增量数据降级阶段
两个打算在实体和相关提取方面体现出相似的开支。
但是，GraphRAG 在治理新参与的数据方面显示出清楚的低效率。当引入与法律数据集相反大小的新数据集时，GraphRAG 必定撤除其现有的社区结构以归入新的实体和相关，而后齐全重重生成。
这个环节每个社区报告发生大概 5000 个token的少量标志老本。鉴于有 1399 个communities，GraphRAG 将须要大概 1399×2×5000 个标志来重建原始和新的社区报告——这是一个过高的费用，突显了其低效率。
相比之下，LightRAG 将新提取的实体和相关无缝集成到现有图形中，无需齐全重建。这种方法在增量降级时期造成清楚较低的开支，展现了其优越的效率和老本效益。
本文转载自，作者：