|
|
本帖最后由 疯狼GC 于 2026-9-15 18:21 编辑
【导语】
AI 视频生成正在比拼「更少步数仍够用」。口播用「二十步 / 八步 / 四步」类比 NFE:主干真正参与计算的次数。本文以 MiniMax H3 为例,整理加速 LoRA 的目标、与老师模型蒸馏式训练的思路、评测方法、算力门槛,以及作者验证过的省显存「单步监督」练法。
原视频:https://www.bilibili.com/video/BV1o3bC6REJS/
【为何要减步数】
生成从噪声出发,每算一步就修正构图、人物、动作与细节。步数多更易纠错,但每一步都要跑巨大 Transformer;一步若需数十秒,二十步就会极慢。减步数直接影响时间成本与吞吐。但「直接砍步」常导致变形、断裂——没有价值。真正目标是让模型用更少步完成过去更多步才能完成的工作,这需要加速 LoRA。
【加速 LoRA 学什么】
LoRA 是挂在基座上的少量可训练参数。人物 LoRA 学「生成谁」,服装 LoRA 学结构材质;加速 LoRA 学的是「应该怎样走完去噪轨迹」——每一步迈得更大且更准。因此它高度依赖固定推理方案:基座、采样器、步数、噪声时间表、以及视频/音频相关参数。训练用 8 步时间表、推理却换另一套步数或采样器,每一步任务会错位。开训前先钉死最终推理方案,再围绕同一规则准备数据与评测。
【训练思路:老师高步数 → 学生低步数】
常用蒸馏/征流类方法:高步数稳定模型当老师,低步数模型当学生。老师按完整步数生成,不仅存最终结果,也记录从噪声变清晰的关键中间状态。学生用相同或高度兼容的基座,但只走更少步(如老师 20、学生 8)。学生不是简单删掉中间 12 步,而是学会在关键时间点「下一步应迈多大」以贴近老师轨迹。这 8 个位置也不一定均匀:早期偏构图与整体动作,后期偏材质光影细节——选点本身就是加速方案的一部分。
训练常要同时处理:
1. 轨迹对齐:可以更快,但不能偏离老师方向;
2. 结果重建/锚点约束:保护提示词理解、人物身份与结构,避免为速度丢掉能力;
3. 分布匹配(如 DMD):不要求像素级同一条视频,而要求学生结果仍落在高质量分布内。老师给方向,辅助模型估偏差,再更新学生 LoRA。
损失下降≠加速成功,最终看真实生成。
【基础评测三组对照】
尽量同提示词、种子、分辨率、工作流,比较:
- 高步数老师;
- 无加速 LoRA 但强行减步;
- 加载加速 LoRA 且同减步配置。
看画质、提示词遵循、身份、动作连续性与快速运动。只有「带 LoRA 的低步数」明显好于强行砍步,并接近老师,才算学到东西。
【算力:标准在线 vs 省资源单步监督】
完整在线征流:老师现场生成、学生连续走完、旁路评分模型、每步保留计算图再反传——对 MiniMax H3 体量,口播称 8×80GB 级卡可能只是入场券。
更省且作者验证过的方法:老师预先用完整步数生成轨迹,保存学生要经过的关键位置;学生不必每次走完整条,只需从老师提供的正确起点练「一步跳到下一终点」——一次前向、一次监督,显存只保留这一跳计算图;基座冻结,只训 LoRA。作者称用该方法在约 330 亿参数视频模型上训约 800 步,得到 20→8 步加速 LoRA,效果明显好于直接砍到 8 步,并接近老师 20 步;全程约两张 Pro 6000。
弱点:训练时学生总站在老师正确起点;真实生成若第一步走偏,误差可能累积。更完整做法是让学生自己连续走完 8 步并保留整轨再监督,但算力需求更高。
【入门建议】
未训过 LoRA 可先从单人物/服装等简单概念练手。作者提供图形化训练器(口播称零环境配置)及 RunningHub 等平台模型,具体以发布页为准。
作者:天选嘉鲤敦赵图图
|
-
|