arXiv · 多模态、视频与世界模型· Damiano Marsili·· 2 天前AI 评分68
ExpertLens 通过多模态 MoE 领域专家实现高效适配
Harnessing Domain Specialists in Multimodal Mixture-of-Experts for Efficient Adaptation
AI 导读
论文提出数据无关方法 ExpertLens，从预训练多模态 MoE 的路由权重中识别领域专长专家，并选择性微调目标领域相关专家。在数学、医疗和遥感任务上，该方法仅更新 21.7 - 47.0% 的模型参数，平均训练速度提升 4.0x，效果达到或超过全量微调。ExpertLens 在适配性能和训练效率上均优于 LoRA。
来源：arXiv · 多模态、视频与世界模型 · arxiv.org