Dify RAG提示词优化指南：有效抑制AI幻觉

RAG应用最让人头疼的幻觉问题，说到底根源就在检索这一步。如果检索回来的上下文本身就是错的、矛盾的，那模型再怎么聪明，也只能在一个错误的框架里编故事——看似有模有样，其实全是胡诌。

在Dify里做RAG应用时，很多人花大量精力调提示词，却经常忽略一个更底层的问题：提示词写得再严谨，只要检索返回的是无关或矛盾的片段，模型就会毫不客气地基于错误上下文生成“看起来合理”的答案。这才是幻觉顽固难除的真正原因。

用结构化Prompt划定回答边界

打开Dify的工作流编辑页，找到「LLM节点」，点进「提示词模板」输入框。

核心就是这样一个三段式结构，每一段都不能省：
【角色定义】你是一名严格依据知识库作答的客服专员；
【约束指令】仅使用下方【知识上下文】中的信息回答问题，禁止推测、补充、联想；
【兜底声明】若上下文中未明确提及答案，请直接回复“无法确定”，不加解释。

有个细节值得注意：这一段必须手动输入，别偷懒用Dify的内置模板。内置模板缺了兜底声明，一旦信息有缺失，模型就自动开启“脑补”模式。

【关键前提】这个结构能生效的前提，是知识上下文区块已经通过变量{{#context#}}正确注入，且内容真实、精简、没有歧义。如果这一步没做好，那约束就是个空架子。

动态注入与上下文裁剪协同控制

光靠提示词约束还不够，还需要配合上下文的空间控制。这里有几个经过验证的方法。

方法一：直接在Dify里启用「上下文长度限制」开关，把最大token数设为1024。这个值不算大，刚够覆盖关键信息。

方法二：在RAG检索后面加一个「文本压缩节点」，选用「LLM摘要压缩」策略，只保留和问题语义相似度超过0.85的句子。这能有效过滤掉那些无关的噪声片段。

方法三：手动写一行前置过滤指令，放在提示词的开头：
“请忽略以下内容中所有带‘注：’‘附录’‘示例’字样的段落。”

千万别小看这一行。很多知识库里藏着大量脚注、说明文字，模型一不小心就会被带偏。实测下来，对于那种含大量脚注的PDF解析结果，这个写法能降低37%的引用偏差类幻觉。

识别并拦截高风险输出模式

即便做了前面的努力，还是可能出现意外。所以最后一道防线必不可少——在输出层做校验。

第一步：在LLM节点后面接一个「输出校验节点」。

第二步：校验规则选择「关键词否定列表」，把下面这些词填进去：【虚构】【可能】【大概率】【据推测】【经验表明】【我理解为】。

第三步：勾选「触发即拦截」，再设置一个替代响应，比如：“检测到不确定表述，已拒绝输出。”

第四步：把校验失败的日志单独路由到一个专用告警通道，比如企业微信机器人。每条失败记录都带着原始query、检索文档ID、生成全文，方便事后排查。

最后必须提醒一句：这个校验机制只作用于最终输出层，它管不了检索源头的问题。它是一道保险，不是万能解药。