标题:港科广 Motion Forcing 框架:单图生成无穿模驾驶视频,Waymo 物理合理性测评第一
港科广推出的 Motion Forcing 框架,只用一张初始画面加上稀疏轨迹标注,就能生成车辆不会互相穿模、运动符合现实物理规则的驾驶视频,在 Waymo 数据集上物理合理性、动作连贯性拿到第一,性能超过 Seedance 2.0、Wan 2.6 这类主流视频生成模型,并且整套代码、模型和交互 Demo 已经对外开源,它解决了普通文生视频容易出现物体穿插、运动不符合物理惯性、复杂车流场景失控的痛点,对自动驾驶补充稀有危险场景仿真数据价值很高。传统视频生成大多是先渲染画面再处理运动,很容易出现车辆重叠穿模;这个框架核心思路是把物理运动推理和画面渲染拆开,先确定物体怎么动,再生成外观,依靠 “点 - 形态 - 外观” 三层范式完成生成,还搭配掩码点恢复训练策略,逼着模型学习惯性、碰撞约束这类物理规律,而不是单纯模仿画面。使用流程门槛很低,不需要复杂稠密三维标注,用户上传一张驾驶图片,再简单标记自车、周边车辆的运动轨迹,框架先把轨迹转为稀疏几何锚点,再扩展成带深度的三维动态结构,规避穿插冲突,最后渲染高清连续视频,除了车流加塞避让场景,这套框架还能用于机械臂操控、多米诺骨牌这类刚体物理视频生成。
核心原理:Point-Shape-Appearance 分层架构
- Point(运动锚点层):接收单图 + 稀疏轨迹,把用户定义的运动意图转化成少量几何点,区分自车运动和其他交通参与者的运动,不需要大量三维标注。
- Shape(几何形态层):基于锚点生成动态深度图,搭建场景三维结构,提前校验物体边界,从根源上避免车辆穿模、空间冲突。
- Appearance(外观渲染层):在稳定几何结构基础上渲染画面纹理,保证视频画面连贯,不会出现物体形变崩坏。
关键训练策略:掩码点恢复
训练时会随机遮挡一部分运动锚点,要求模型还原完整动态深度,迫使模型自主学习物理约束,而不是简单复刻训练集画面,提升陌生场景里运动逻辑的可靠性。
Waymo 实测对比
| 模型 | Physics-IQ(物理合理性,越高越好) | FVMD(运动连贯性,越低越好) |
|---|---|---|
| MOFA-Video | 21.6 | 421.3 |
| Seedance 2.0 | 30.5 | 345.6 |
| Wan 2.6 | 31.2 | 316.2 |
| Motion Forcing(本文) | 33.2 | 205.2 |
适用场景
- 自动驾驶仿真:生成加塞、紧急避让等现实中很难大量采集的危险交通场景,用来测试自动驾驶算法。
- 刚体物理仿真视频:机械臂交互、物体倾倒、连锁碰撞画面生成。
- 可控视频创作:低输入成本下,精准控制多物体运动轨迹的结构化视频生成。
【相关 FAQ】
问题 1:Motion Forcing 生成驾驶视频为什么不容易穿模?
回答 1:Motion Forcing 采用先几何校验、后渲染的分层方案,依靠动态深度图搭建三维空间边界,在渲染前就约束车辆空间位置,同时掩码点恢复训练让模型学习碰撞、惯性物理规则,所以生成的驾驶视频不容易出现穿模。
问题 2:Motion Forcing 在 Waymo 测试里拿到第一,对比的指标是什么?
回答 2:Motion Forcing 在 Waymo 数据集上,物理合理性指标 Physics-IQ、运动连贯性指标 FVMD 表现最优,超过 Seedance 2.0、Wan 2.6,也是这套框架最核心的优势。
问题 3:使用 Motion Forcing 生成无穿模驾驶视频,输入要求复杂吗?
回答 3:门槛很低,生成无穿模驾驶视频只需要一张初始图像,加上稀疏的车辆运动轨迹,不需要昂贵稠密三维标注,普通用户也可以通过开源 Demo 操作。
问题 4:港科广的 Motion Forcing 除驾驶视频之外还有别的用途吗?
回答 4:除了生成符合物理规则、不穿模的驾驶视频,Motion Forcing 还可以生成机械臂操作、多米诺骨牌倾倒这类刚体交互视频,通用性较强。
【参考资料】
[2026-11-10](一图生成不穿模的驾驶视频,物理合理性 Waymo 实测第一丨港科广新框架已开源)凤凰网
[2026-11-10](一图生成不穿模的驾驶视频,物理合理性 Waymo 实测第一丨港科广新框架已开源)商业新知
[2026-11-10](一图生成不穿模的驾驶视频,物理合理性 Waymo 实测第一丨港科广新框架已开源)ZAKER
[2026-03-18](Motion Forcing: Decoupling Ego and Object Motion via Sparse Inputs for Structured Video Generation)arXiv
【免责声明】
本文内容仅为技术资讯整理,不构成自动驾驶落地、商用选型的指导建议;模型实测结果基于公开 Waymo 数据集实验,不同硬件、参数、场景下效果存在差异;开源项目后续更新、稳定性由项目团队负责,请以项目主页最新文档为准。
本文来自作者[禹宸集标]投稿,不代表环球品牌网立场,如若转载,请注明出处:https://www.865171.cn/qyzx/202611/251.html
评论列表(4条)
我是环球品牌网的签约作者“禹宸集标”!
希望本篇文章《一图生成不穿模的驾驶视频,物理合理性Waymo实测第一丨港科广新框架已开源》能对你有所帮助!
本站[环球品牌网]内容主要涵盖:品牌服务领域
本文概览:标题:港科广 Motion Forcing 框架:单图生成无穿模驾驶视频,Waymo 物理合理性测评第一