RAG上下文冲突时如何自知？CDD方法诊断知识偏移

检索增强生成（RAG）系统面临一个核心问题：当检索到的上下文与模型自身的知识发生冲突时，系统凭什么能自知？这并非一个可有可无的追问，而是决定RAG可信度的命门。就在日前，一篇来自arXiv的论文（编号2605.14473）提出了一个相当硬核的解法 —— Context-Driven Decomposition（CDD）方法，专门用于诊断这种“知识偏移”。

CDD方法的本质：在推理时给信念做解剖

CDD的核心思路挺直接：它本质上是一个信念分解探针，能在模型推理时悄悄介入。论文里讲得很明白，这玩意儿不光是被动探测，它还可以作为一种干预机制，来控制检索冲突的范围。可以说，它让RAG系统终于有机会看清，自己的回答到底是被检索上下文带偏了，还是坚持了原始知识。

冲突的根源：模型内部知识与外部检索打架

其实RAG一直有个没解决的尴尬：当检索回来的资料跟模型原本知道的真相矛盾时，最终的输出往往会“偏心”检索端。这就是论文里所谓的语境合规失调——最终回答会被检索内容主导，哪怕它跟参数记忆里的知识并不一致。确实，光看准确率指标根本看不出这种因果扭曲，因为准确率只告诉你结果对不对，不告诉你答案是怎么被上下文“绑架”出来的。

压力测试：CDD比想象中更能扛

论文用Epi-Scale压力测试和TruthfulQA迷思注入来验证CDD的效果。这俩测试有多狠呢？前者专门制造极端的上下文冲突环境，后者则故意把错误迷思塞进检索内容里。CDD在这类对抗性场景下依然能准确诊断偏移，凭什么？因为它直接解析每个信念节点在推理路径上的贡献权重，而不是笼统地看最终回答。

自知的代价与价值

让RAG系统学会“自知”不是小事——这意味着AI不再盲目顺拐，而是能在冲突中保持判断力。CDD方法给出了一个推理时的诊断标准：当检索内容与参数知识出现分歧时，系统不仅能发现异样，还能区分是哪个节点出了问题。这对于医疗、法律、金融等对事实一致性要求极高的领域来说，简直太关键了。毕竟，没有诊断能力，何来纠错信心？