RAT权威深度评测：2024突破AI幻觉新方法全解析
01. 为什么会有RAT
在生成式AI的实际落地中，效率与准确性之间天然存在矛盾。开发者常需二选一：追求高准确率往往要牺牲响应速度；偏好极致效率则准确性可能缩水。是否存在一个“恰到好处”的平衡点？RAT正是针对这一核心痛点提出的解题路径。
02. 什么是RAT
RAT，全称检索增强型思考。它并非全新底层技术，而是一种巧妙的提示策略——将思维链（Chain-of-Thought，CoT）与检索增强生成（Retrieval-Augmented Generation，RAG）结合，专门应对需要长视野（Long-Horizon）推理与生成的任务。 关于RAG，大家已不陌生，其核心是通过外部知识库辅助生成。而CoT提示则引导模型将复杂问题拆解为一系列中间推理步骤，像一条“思考路径”逐步展开。这种逐步推理能显著降低模型输出看似合理但逻辑断裂的答案。 RAT将两者无缝衔接：它把思考过程本身视为“查询”——每生成一个中间步骤，就用该步骤检索外部信息，再反过来修正当前思考。如此迭代直至最终输出。值得强调的是，RAT是一种零样本提示方法，无需预置大量示例即可在代码生成、数学推理、任务规划、创意写作等挑战性任务上发挥作用。 RAT的运作流程可拆解为两步： **第一步**：让大模型基于零样本生成一个初始CoT思维链。随后，将原始提示任务与该思维链一同作为查询，检索外部信息。每条中间思考或推理步骤，都会与任务提示配合，从外部知识源中提取相关上下文。模型根据检索信息对当前CoT步骤进行修订或细化。这步的关键在于：允许模型将外部知识“内化”到推理中，从而修正可能偏离的思考步骤。 **第二步**：使用修订后的CoT步骤，结合检索到的上下文，生成最终响应或解决方案。这样的输出既有模型本身的推理能力支撑，又有外部知识加持，在事实准确性上更具保障。 必须指出：RAT是一个渐进过程，而非一次性完成。模型根据CoT分解出的子任务，逐步生成响应。每次只针对当前思考步骤进行检索和修正，这非常接近人类解决复杂问题时“边想边查、边查边改”的思维习惯。03. RAT在Long-Horizon推理和生成中的使用
Long-Horizon推理处理的是需要模拟和预测较长时期内多种可能后果的复杂任务。它天然充满不确定性，要求模型能够动态调整、适应变化，并持续将反馈纳入后续推理。 来看一张示意图，能更直观地理解RAT在这类场景中的工作机制。
图源：https://arxiv.org/pdf/2403.05313.pdf
如上图所示，给定一个任务提示，RAT的起点仍是模型在零样本下生成的一系列初始思考步骤。但不同之处在于，其中某些步骤可能带有幻觉，存在缺陷。RAT的做法是：不等所有步骤完成后一次性“事后修正”，而是针对每一个有问题的步骤，通过RAG从外部知识库“补课”，进行迭代式微调。
下面是一个更具体的示例，对比了几种不同LLM推理方法在创造性生成任务中的表现。
这张图很直观：红色部分代表模型幻觉，绿色部分为正确输出。对比来看：
- 没有RAG的传统方法，生成内容频繁出现错误信息。
- 单纯依赖RAG的方法，虽然准确性与检索内容强相关，但整体结构松散，行文缺乏连贯性。
- 而RAT生成的文本，在准确性和完整性上都表现出最优效果。
在多个复杂任务场景下——包括体化规划、数学推理、代码生成和创意写作——定量评测结果一致表明，**RAT在所有任务上都超越了现有基线方法**。