arXiv · 多模态、视频与世界模型· Wenhan Yang·· 3 天前AI 评分67
HAWK 重新思考多模态推测解码中的草稿模型
HAWK: Rethinking Multimodal Drafting for Speculative Decoding
AI 导读
HAWK 针对大型视觉语言模型推测解码中草稿模型难以利用多模态信息、且多步提议后与目标模型分歧增大的问题，提出利用目标层表示和压缩视觉隐藏状态训练草稿模型的方法。
来源：arXiv · 多模态、视频与世界模型 · arxiv.org