arXiv · 多模态、视频与世界模型· Yanshu Li·· 3 天前AI 评分64
MCD:通过因果蒸馏迁移大型视觉语言模型的多模态上下文学习
MCD: Causal Distillation of Multimodal In-Context Learning in Large Vision-Language Models
AI 导读
论文提出多模态因果蒸馏框架 MCD,通过结构保持的 token 干预识别并迁移教师模型使用多模态证据的方式。在三个 LVLM 家族和七个基准上,学生模型平均提升 7.23 分,较 vanilla distillation 高 4.68 分。
来源:arXiv · 多模态、视频与世界模型 · arxiv.org