求助，训练模型原版DFL会爆显存，ICE版本的就不会

zzyyjj · 发表于 2024-2-1 17:21:39

星级打分

平均分:NAN 参与人数:0 我的评分:未评

从接触开始一直用的ice版本
现在使用原版DFL后就出现这个问题了

原版DFL 相同的模型，参数一样
一训练模型显存就爆了
BS减到2都会爆
求大佬们帮忙解答

滚石 · 发表于 2024-2-2 13:33:09

你如果要小显存运行，用开源的ME版本dfl就可以，论坛里有神农汉化的版本

ICE是基于ME版本上再闭源改的，大部分功能都是ME版本自带的

wtxx8888 · 发表于 2024-2-1 18:41:35

ICE有个RG引擎，可以突破显存运行，而原版不能突破显存。

Lau9 · 发表于 2024-2-1 23:00:35

wtxx8888 发表于 2024-2-1 18:41
ICE有个RG引擎，可以突破显存运行，而原版不能突破显存。

神农也引用了RG优化

wtxx8888 · 发表于 2024-2-1 23:38:05

Lau9 发表于 2024-2-1 23:00
神农也引用了RG优化

反正我是忍不了RG那速度，只用原版的显存模式。
虽然参数小了，但真显存运行下，速度快的多得多。

Lau9 · 发表于 2024-2-2 00:12:43

wtxx8888 发表于 2024-2-1 23:38
反正我是忍不了RG那速度，只用原版的显存模式。
虽然参数小了，但真显存运行下，速度快的多得多。 ...

理论上是牺牲5~20%速度

zzyyjj · 发表于 2024-2-2 07:59:43

wtxx8888 发表于 2024-2-1 18:41
ICE有个RG引擎，可以突破显存运行，而原版不能突破显存。

我说呢，原来如此，看来只能用差一点的模型了。

lvshunjie · 发表于 2024-2-2 09:44:49

想问下如果16G显存的话是不是不推荐用ICE，或开启RG优化呢

wtxx8888 · 发表于 2024-2-2 10:22:20

本帖最后由 wtxx8888 于 2024-2-2 10:30 编辑

lvshunjie 发表于 2024-2-2 09:44
想问下如果16G显存的话是不是不推荐用ICE，或开启RG优化呢

原版不爆显存下的参数，到RG内核的版本里，都要慢，哪怕你不开RG优化也要慢5%。
原版下模型数据放CPU的参数，RG要慢10%。
再高原版不能运行的，到RG要慢20%--25%，突破越多越慢。
不过40系的显卡，推荐ICE，听说有优化。毕竟原版到30系，就弃坑封档了

lvshunjie · 发表于 2024-2-2 10:29:38

本帖最后由 lvshunjie 于 2024-2-2 10:30 编辑

wtxx8888 发表于 2024-2-2 10:22
原版不爆显存下的参数，到RG内核的版本里，都要慢，哪怕你不开RG优化也要慢5%。
原版下模型数据放CPU的参 ...

本人小白，显卡是新出的4070TI SUPER 也就是说以后直接就用ICE版本就可以老版本直接放弃就行了，还有就是另外一个论坛有个叫FACEAI-ICE是不是也是一样的，还是要官方的DFL-ICE

wtxx8888 · 发表于 2024-2-2 10:33:15

lvshunjie 发表于 2024-2-2 10:29
本人小白，显卡是新出的4070TI SUPER 也就是说以后直接就用ICE版本就可以老版本直接放弃就行了 ...

理论上是的，但ICE是小众版本而且闭源，资源很少，模型与遮罩（听说512的遮罩缺陷很大）大多数需要自己去搞。

		自动登录	找回密码
密码			立即注册（仅限QQ邮箱）