通义万相 14B 满血版部署使用喂饭教程

作者：@天选嘉鲤敦赵图图

【作者】天选嘉鲤敦赵图图
【原视频】https://www.bilibili.com/video/BV1GtRPYkE8Z
【简介】通义万相 14B 满血版部署使用喂饭教程
【口播要点】
通易万象14b满鞋板大模型部署使用教程
大家好
今天我们要带来一个全网独家的内容
如何相对低成本部署通易万象14b满鞋板大模型
实现高质量的文生视频 图生视频
首先稍微说点说话
通易万象大模型是什么
通易万象是2月底刚刚开源的阿里的文生视频
图生视频大模型
稍微1.3b参数和14b参数两种
其中14b的效果是最好的
按照项目页面的说法
14b的效果目前是所有视频生成模型里效果最好的
我看到网上有很多测评通易大模型的视频
但是基本上用的都是量化版本
以及480p
我认为这样的对比其实是非常不严谨的
用通易万象量化以后的480p版本
去和商用模型做对比
人家官方也是说14b目前是效果最好的
不过这个模型对显存的要求非常高
很容易暴显存
我试过用4张A140J显卡
PCIE连接
结果发现生成720p视频的时候
还是会爆错
我的建议是放2张A180J
4张速度会更快
我一般用2张A180J显卡
生成一个视频的时间大概在25分钟左右
那么下来直接上干货
我来带大家操作一遍
首先我们要选择一个云平台
我用的这个云其实就是网上随便搜的
其他比较流行的云平台空闲的A100资源比较少
而这个云平台有比较多的空闲资源
注册完以后
我们需要充点钱
然后在云主机里选择显卡
这儿有一个小技巧
我们可以先租一个配置一般的电脑
每次都把硬盘保留下来
等跑视频的时候再切换满配置
这样能节约一点
系统正向乌邦图
这个系统界面是Linux里面最有好的了
对新人来说比较好上手
Windows系统的话不能选择色卡
不能选A180J
而且会出现一些意想不到的问题
那么这里CPU的数量选择1
性能模式高性能
济费小时租
这里按照小时续租
要不然时间不够
这里其实我建议大家最好专门开一个磁盘
我这儿只是演示
就先在系统盘里安装了
建议大家把模型放在系统盘以外的磁盘里
因为系统盘的大小没有办法调整
其他盘就可以根据需要调整大小
而且一旦出了问题
也可以指清空系统盘
其他盘不受影响
还有就是
系统盘一旦满了
一定要想办法清理一下
否则重启的时候
由于系统盘太小了
又出现错误
你的数据就会丢失
保留磁盘
带宽拉满
优先选择算力券
创建
足运完成后
我们需要连接实力
这里有个VNC连接
点接进去之后
在这里输入密码
就可以进入系统了
进入系统后
我们打开火壶
直接打开摩塔的
通用外向2.1项目地址
这里等我输入一下地址
这是文声视频
图声视频也是一样的操作
这里往下拉
到quick start
按照它的步骤
一步一步来
首先呢
克隆仓库
这里我们在Home打开中端
复制粘贴一下
OK
然后进入项目目录
安装环境
好吧这里有个抱错
说没有找到PIP
那我们按照操作建议修正一下
这里需要输入一下密码
这里要注意的是
虽然密码没显示
但是输入进去了
这块不用担心
OK
这里选择外
这里说没有更新列表
那我们就更新一下
我们再次运行环境修正
又抱错了
我们看一下
有一个这是什么东西
出现了问题
我们运行一下试试
又有一个警告
是熟悉的路径问题
那我们设置一下路径
然后再试试
好了又抱错了
看看怎么回事
说找不见Touch
那重新下载安装试试
好了
下来我们看一下成功了没有
好了
环境OK
下面我们再试一次
又是正输错误
那这样的情况
我们先升级一下PIP试试
然后再试一次
好了
跑起来了
这个就是比较麻烦
好了
我们成功修复了所有的抱错
下来我们需要安装一下模塔
如果是抱脸
就是上面那个
这里我们用模塔
然后模塔下载
好了完美
这里我们就可以把锁屏关了
免得麻烦
点这里settings
这里选择never
OK
下来我们需要安装多
GPU的依赖项
安装完成以后
我们需要切换高性能电脑
这里选择提前结束
选择重启
好吧
这也不知道怎么了
我还说这里资源多
看来也是人满为患了
那我们就以单180为例
操作方法都是一样的
就是执行的时候
稍微有一点点区别
参考项目页面上写的
单个GPU就用单个GPU的代码
多GPU就用多GPU的代码就可以了
选择启动
好
我们还是打开项目页面
打开中端
OK
现在就等待生成即可
这里比较慢
所以别着急
可以打开后台看一下
显卡的运行情况
这个意思是每秒刷新一次
只要正确的安装了驱动
这是因为达自带的一个功能
建议大家可以打开
generate PY看一下
里面有各个参数的介绍
以及使用条件与方法
比如分辨率
其实也不是随便可以调整的
要按照要求的数值进行调整
多卡的话
有很多参数可以进行优化
比如调整
这一块的数值
平衡速度的同时
节约显存的使用
减少部数等等
这里我多说几句
为什么不用cover UI
因为它不支持多GPU并行
最多只能用单GPU跑
对14B的模型来说就比较难
当然我不是说一定不行
但是肯定不如多卡那么快
为什么不用练画版本
因为练画版本的效果会打折扣
而14B圆满的效果是最好的
大家可以看到
项目页面的测试
也是用14B做的测试
大家可以看到
项目页面后面说
最好要提示辞优化一下
提示辞优化这个功能
通用万象网站2.1
有一个智能拓写功能
可以快速生成高质量的提示词
不掉用API
直接网站上优化一下提示词
也是可以的
关于远程文件传输
安装一个客户端
方便本地和云服务器之间的文件传输
关于参数优化问题
我对14B版本的
很多参数都进行了研究
并和开发组的朋友沟通过了
建议大家还是先是用默认的参数
当我们开始跑视频以后
肯定想着让视频的质量更高
但是这个版本14B挺容易崩的
比如总帧数写的要满足3加1的要求
但是帧数一旦修改
我设了很多数值
都会出现视频崩坏的情况
另外
这个模型最多只能出5秒的视频
无论怎么修改参数也不能时间更长
这个我已经和开发组的同学再三确认过了
再比如关于每秒帧数FPS
确实在参数里可以修改
但是帧数改高以后
也还是会崩视频
不过
如果你用的是四卡A100
这样做并不会出现OM
通过以上步骤
我们就可以在云服务器上
稳定运行14B大模型了
虽然过程中需要一些优化和调整
但整体成本可控
效果应该是所有大模型里面最好的没有之一
感谢大家的观看
如果在操作过程中遇到任何的问题
欢迎大家在评论区留言
我会为大家解答
也欢迎加入我们的讨论群
一起交流AI模型部署的经验
我们下期再见
【备注】重试发帖（绕开B站SSL）。