随着大语言模型（LLM）技术的发展，RAG（Retrieval Augmented Generation）技术得到了广泛探讨和研究，越来越多的高级 RAG 检索方法也随之被人发现，相对于普通的 RAG 检索，高级 RAG 通过更深化的技术细节、更复杂的搜索策略，提供出了更准确、更相关、更丰富的信息检索结果。本文首先讨论这些技术，国产 向量数据库并基于 Milvus 给出一个实现案例。8 n0 F: ^9 V0 O1 ^6 x: t3 Q' W
2 l3 ]: [" Y8 \% I8 K
9 J/ @: X7 m# R! u; K
01.初级 RAG0 ]9 T7 b- Z/ J! V- R
6 q4 s9 X- l* ~" q) t. |4 k' J7 i
4 @1 i7 e! ]& K7 Q
初级 RAG 的定义
4 _0 D9 b7 Z4 K0 G+ @) x1 u Y( F. W4 j
( l) F" _ N& n: D( v8 f, d6 D
初级 RAG 研究范式代表了最早的方法论，在 ChatGPT 广泛采用后不久就取得了重要地位。初级 RAG 遵循传统的流程，包括索引创建（Indexing）、检索（Retrieval）和生成（Generation），常常被描绘成一个“检索—读取”框架，其工作流包括三个关键步骤：
8 W1 ~" j8 s3 n- @. ~7 g% s+ k2 g# N$ I3 J7 y
* ]( ]2 w. R3 }; `) T
语料库被划分为离散的块，然后使用编码器模型构建向量索引。8 g. i+ @9 n' t* {+ ~% Z
: E+ t% \# F3 T# R. A8 U
g) Z9 i( Q& n5 w7 p+ h) u RAG 根据查询与索引块（Indexed Chunk）的向量相似度识别并对块进行检索。2 s/ P3 l" y& [% g! F) \: t) G8 p2 j8 D
8 B. k# T" P7 M7 ~' \+ U6 G
- A1 W0 X+ b! L8 [ 模型根据检索块（Retrieved Chunk）中获取的上下文信息生成答案。- A! I$ V7 v/ a7 I; P
9 A8 C3 J+ [/ a# b9 ]
; w7 o$ X, s% X& D( i, g
初级 RAG 的局限性: R& l& I$ N0 C2 k9 S d
2 }- T, D, x' S7 v# Y. o* {1 O8 n1 l" q; S
初级 RAG 在三个关键领域面临着显著挑战："检索"、"生成"和"增强"。$ Y1 k8 P0 v7 S; H. p% `
2 V! W1 O" r# e W7 X% h# y6 d- @2 Q/ c5 O, S
初级 RAG 的检索质量存在许多问题，例如低精度和低召回率等。低精度会导致检索到的块无法对齐，以及幻觉等潜在问题。低召回率会导致无法检索到所有的相关块，从而导致LLM的回复不够全面。此外，使用老旧的信息进一步加剧了问题，可能导致不准确的检索结果。
7 l. [( N' Z5 s+ i# m2 z* d4 D
& a8 f( [, h) V/ M, N. N% G3 F3 l' h3 M2 x
生成回复质量面临着幻觉挑战，即 LLM 生成的答案并没有基于所提供的上下文，和上下文不相关，或者生成的回复存在着包含有害或歧视内容的潜在风险。 h2 ]2 J0 ?7 f+ q+ F/ i
0 O( e: X: a/ i5 [3 I* ?; L5 W( y. H* {; X, c" D1 W9 f0 C; u" I' s- D& A, k
在增强过程中，初级 RAG 在如何有效地将检索到的段落的上下文与当前生成任务进行整合方面也面临着不小的挑战。低效的整合可能导致输出不连贯或破碎化。冗余和重复也是一个棘手的问题，特别是当多个检索到的段落包含相似信息时，生成的回复中可能会出现重复的内容。9 F. j; G6 R, ^
2 Q/ K5 j% \! Q& b! r$ p
" i4 i6 r1 T3 K3 J7 \4 W
02.高级 RAG
. ~ j% _/ w* N' z1 p) t2 h) O8 P/ ^6 M8 w: b3 g
9 w% k, o; Z# C/ i* v6 J
为了解决初级 RAG 的不足，高级 RAG 诞生了，并有针对性地进行了功能增强。首先讨论这些技术，这些技术可被归类为检索前优化、检索中优化和检索后优化。
+ W) f8 L: m8 K) S/ V) [4 g) e9 C; p [& P4 `
5 k9 Y. O$ X# o7 Q% w# F2 T$ d
检索前优化# e3 h4 [: [# o& d% B
3 W2 K5 ]9 Q- o8 o1 d# W2 t! s" t% W
" G- K9 \, B$ [6 G5 |$ i$ H 检索前的优化关注数据索引优化以及查询优化，数据索引优化技术旨在以提高检索效率的方式存储数据：0 r; n) ~$ f2 g, ]$ y
9 k7 C! |% ~. [. @* k
) q+ E1 d7 o; h s2 }2 R 滑动窗口：在数据块之间使用重叠，这是最简单的技术之一。
- S! W( {" F/ Q9 x% ?. y/ b, M3 [0 L/ Z# G o7 K% V
0 J+ o, i8 W) O: R, F0 }; E
增强数据粒度：应用数据清理技术，例如移除不相关信息、确认事实准确性、更新过时信息等。# e9 v" Z# D) ?9 v$ ]
) S& H8 j- t" _3 s7 h( N
1 b0 H& Y8 k- `) L3 z1 d. [1 i 添加元数据：如用于过滤的日期、目的或章节信息等。
& U/ {. s/ D9 m; E/ n
% l; D U& ?* w$ @' s) i) A7 h& Y' d( G8 k
优化索引结构涉及不同的数据索引策略：如调整块大小或使用多索引策略。本文我们将实现的一种技术是句子窗口检索，它在检索时嵌入单个句子，并在推断时用更大的文本窗口替换它们。5 v* A, f7 @/ W0 c
. u) R! }% v, ?
8 ~% { `& h/ y0 J {" e
检索中优化
$ A% ]& R3 a; D: c+ @3 ?5 n2 x( a3 |" V
8 m( Q0 j" A# y# I- t, k8 q6 p j 检索阶段主要是识别最相关的上下文。通常，检索是基于向量搜索，它计算查询和索引数据之间的语义相似性。因此，大多数检索优化技术都围绕着 embedding 模型：- k: g% @& S9 w# R4 r4 q; k& T
4 }) J+ T* X8 Z
5 [0 ^' }6 Q) ^6 m( z5 e) u 微调 embedding 模型：定制化 embedding 模型到特定领域上下文，特别是针对具有发展性或罕见术语的领域。例如，BAAI/bge-small-en 是一个高性能 embedding 模型，可以进行微调。4 _. {$ `* @. g5 T& x
4 x4 v; J- S4 {9 Y* j1 v- n( V: B- u; ?8 |0 n( g
动态 embedding：适应词语使用中的上下文，不同于使用每个词一个向量的静态embedding。例如，OpenAI 的 embeddings-ada-02 是一个复杂的动态embedding模型，捕捉到上下文理解。除了向量搜索之外，还有其他检索技术，如混合搜索(hybrid search)，通常指的是将向量搜索与基于关键词的搜索相结合的概念。如果检索需要精确的关键词匹配，这种检索技术很有益处。2 Y$ r ^6 ^) K# Q- }
; G6 \+ l, t2 o8 y) s) T: P. C7 H
|
