arXiv · 多模态、视频与世界模型· Ali J Alrasheed·· 3 天前精选AI 评分79
MEND：无标签检测、定位与校正世界模型中的潜在幻觉
MEND: Label-Free Detection, Localisation, and Correction of Latent Hallucination in World Models
AI 导读
论文提出 MEND，用一个基于真实状态转移训练的条件 score network，在没有错误标签的情况下检测、定位并尝试校正冻结世界模型中的潜在幻觉。在两个导航环境中，MEND 的幻觉检测 AUROC 最高达 0.80，逐 token 定位 AUPRC 最高达 0.87，且不使用动作信息。推理时校正可降低单步潜在误差并改善预测，但部分误差位于数据流形切向方向，论文因此重点讨论检测与定位。
推荐理由
论文把世界模型的潜在幻觉拆成检测、定位和推理时校正三个可评估环节，并给出无需错误标签的指标结果，适合参考相关鲁棒性研究设计。
来源：arXiv · 多模态、视频与世界模型 · arxiv.org