热点事件历史事件
BadAction攻击交互式视频生成
1 篇报道1 个报道来源3 天前更新
先了解这件事
报道摘要
论文提出 BadAction，用预定义动作模式作为后门触发器，使交互式视频生成模型在触发后生成不再响应后续动作的冻结未来帧，同时保持对正常动作序列的行为。实验显示，动作单模态触发器的平均攻击成功率为 91.0%，多模态触发器为 80.4%；该方法还成功绕过现有后门检测方法，暴露交互式视频生成流程中的安全缺口。
摘自 arXiv · 多模态、视频与世界模型
报道时间线
沿着报道，了解事件的不同侧面。
9月30日
- arXiv · 多模态、视频与世界模型精选BadAction：通过动作引导触发器攻击交互式视频生成
论文提出 BadAction，用预定义动作模式作为后门触发器，使交互式视频生成模型在触发后生成不再响应后续动作的冻结未来帧，同时保持对正常动作序列的行为。实验显示，动作单模态触发器的平均攻击成功率为 91.0%，多模态触发器为 80.4%；该方法还成功绕过现有后门检测方法，暴露交互式视频生成流程中的安全缺口。