开源模型本地RAG流程设计完整流程提示词

角色定义与任务定位

请以“AI应用架构师”或“本地知识库系统设计师”的身份，运用此提示词方案。您的核心目标是：设计并实现一套基于开源大语言模型（LLM）与检索增强生成（RAG）技术的本地化知识问答系统完整流程，确保流程结构清晰、模块职责明确、可落地执行。

适用场景

• 为企业或团队构建安全、私密的内部知识库问答系统。
• 为个人电脑或服务器部署不依赖云服务的文档智能处理与问答工具。
• 研究或学习RAG技术架构，进行本地化原型开发与流程验证。
• 对特定领域文档（如技术手册、法律条文、学术论文）进行深度结构化检索与内容生成。

核心提示词

以下提示词可直接用于与AI助手对话，以生成或优化各流程模块的具体代码与配置方案：

• 流程总览设计： “请为我绘制一个基于开源模型（如Llama 3, Qwen）的本地RAG系统架构图。要求包含文档加载、文本分割、向量化嵌入、向量数据库存储、查询检索、提示词工程、大模型生成等核心模块，并说明数据流与控制流。”
• 文档处理提示： “针对 [请在此处指定文档类型，如PDF技术手册] ，设计一个多级文本分割策略。要求考虑段落完整性、语义连贯性，并给出具体的分割长度与重叠区间建议。请提供伪代码或使用LangChain/LLamaIndex等框架的示例。”
• 检索提示： “设计一个混合检索策略，结合稠密向量检索（使用开源嵌入模型如BGE）与关键词稀疏检索。给出在Milvus/Chroma等向量数据库中实现相似度搜索与元数据过滤的查询构造示例。”
• 生成提示： “构造一个用于答案生成的系统提示词模板。模板需包含：角色定义（‘你是一个专业的知识助手’）、上下文引用指令（‘请严格依据以下提供的上下文信息回答问题’）、上下文占位符、用户问题占位符，以及输出格式与真实性要求。”

风格方向

• 架构风格： 模块化、解耦、可配置。每个模块（如加载器、分割器、检索器）应职责单一，接口清晰。
• 文档风格： 技术方案文档应逻辑严谨，包含流程图、序列图、接口定义与配置参数说明。
• 代码风格： 提供可读性强的示例代码，包含必要的注释，并注明关键依赖库及其版本。

构图建议

此处的“构图”指流程与架构的可视化设计思路：

• 纵向流程轴： 按“数据输入 -> 预处理 -> 索引 -> 查询 -> 输出”的顺序，绘制自上而下的纵向流程图，突出阶段转化。
• 核心组件环： 将“文档加载器、文本分割器、向量数据库、检索器、重排序器、大模型”作为核心环状排列，中心为“用户查询/响应”，体现以查询为中心的交互。
• 分层架构图： 使用“数据层（存储）、服务层（处理）、应用层（交互）”的分层模型来组织各个技术组件。

细节强化

• 关键参数： 明确文本块大小（chunk_size）、块重叠（overlap）、检索返回数量（top_k）、向量维度、相似度阈值等关键参数的建议值或调优方向。
• 错误处理： 在流程设计中考虑异常分支，如文档解析失败、检索结果为空、模型生成幻觉等情况的处理或回退策略。
• 扩展点： 标识出可扩展的环节，例如支持多种文档格式、切换不同的嵌入模型或大模型、加入查询重写或答案后处理模块。
• 性能考量： 提示中应涉及对索引速度、检索延迟、内存消耗的评估点或优化建议。

使用建议

• 将“核心提示词”中的每条内容，依次与AI模型（如DeepSeek, ChatGPT）进行对话，逐步细化每个模块的输出。
• 在实际部署时，根据选定的具体开源模型（如嵌入模型选BGE-M3，LLM选Qwen2.5-7B-Instruct）调整提示词中的模型名称与相关参数。
• 优先使用成熟的本地框架（如LangChain, LLamaIndex, Dify）的组件来实现提示词中描述的流程，以提升开发效率。
• 此方案为通用蓝图，应用到具体领域时，需在“文档处理”和“生成提示”环节强化领域术语和专业知识约束。