Teaching LLMs to Update Beliefs for Efficient Long-Horizon Interaction

伯克利 AI 研究提出 ABBEL 框架，将 LLM 长程交互中的摘要隔离为自然语言"信念状态"并加以监督，用受自编码器启发的重建式信念评分作为辅助 RL 任务。在协作编程基准 CollabBench 上，ABBEL-rec-BG 将自摘要模型与全上下文模型的性能差距缩小约 50%，训练步数从 100 降至 50，峰值 token 数也低于全上下文设置。