迷失在中间：找出你的大模型（LLM）上下文「盲区」，并在调用前修好它

《Lost in the Middle》论文里有个结果，应该改变你搭建 RAG（检索增强生成）提示词的方式。研究者给 GPT-3.5-Turbo 输入 20 篇检索到的文档，并把答案放在中间位置，结果它得分比一篇文档都不给还低——凭记忆回答，反而赢过了带着文档回答。在这里，额外的上下文把答案搞砸了。 Liu 等人（斯坦福、UC 伯克利、Samaya AI，2023）测试了多文档问答和键值检索：把相关段落从第一个位置挪到最后一个位置，观察准确率的变化。结果是一条 U 形曲线——两端表现很强，中间掉 20 多分。新模型把这条曲线压平了不少，但并没有抹掉。除非你亲自测一遍，否则你不会知道自己的模型面