352-df-udt-448-112-112-40扭曲预训练120w

三先天 · 发表于 2024-6-15 04:06:05

期待288 或者 320的太高的跑不了

yxyao · 发表于 2024-6-15 17:13:38

本帖最后由 yxyao 于 2024-6-15 17:15 编辑

三先天发表于 2024-6-15 04:06
期待288 或者 320的太高的跑不了

论坛里效果比较好的（我亲自训练测试过）：
320的liae-udt：
https://dfldata.cc/forum.php?mod=viewthread&tid=12194
288的liae-udt：
https://dfldata.cc/forum.php?mod=viewthread&tid=7547

至于df丹，暂时没有训练的计划了

三先天 · 发表于 2024-6-15 17:53:39

yxyao 发表于 2024-6-15 17:13
论坛里效果比较好的（我亲自训练测试过）：
320的liae-udt：
https://dfldata.cc/forum.php?mod=viewthrea ...

好嘞感谢推荐

dhh520 · 发表于 2024-6-23 13:46:35

16显存能用不

yxyao · 发表于 2024-6-23 23:21:52

dhh520 发表于 2024-6-23 13:46
16显存能用不

没试过，大概率不行吧

haohmaru · 发表于 2024-7-6 01:30:42

删了2个文件，放自己的素材，练了1个钟头还是雪白一片，直接炸了。郁闷

yxyao · 发表于 2024-7-6 13:52:28

本帖最后由 yxyao 于 2024-7-6 13:55 编辑

haohmaru 发表于 2024-7-6 01:30
删了2个文件，放自己的素材，练了1个钟头还是雪白一片，直接炸了。郁闷

一定要开启梯度裁剪，另外虽然参数比较高，但是不至于一小时什么也没有的。除非bs太低，一般不建议低于4
可以贴一下截图，包括预览图，迭代数，bs，loss

zjh2024 · 发表于 2024-7-10 19:16:10

3080TI用不了,提示出错

yxyao · 发表于 2024-7-10 20:21:31

本帖最后由 yxyao 于 2024-7-10 21:11 编辑

zjh2024 发表于 2024-7-10 19:16
3080TI用不了,提示出错

我在帖子里说明了24G显存只能bs11，所以16G以下显存估计是用不了的。

haohmaru · 发表于 2024-7-11 22:12:11

yxyao 发表于 2024-7-6 13:52
一定要开启梯度裁剪，另外虽然参数比较高，但是不至于一小时什么也没有的。除非bs太低，一般不建议低于4
...

那就是了，没开梯度裁剪。谢谢。听了网上说不开梯度，以后方便复用，所以特地关了，等有空收集完素材直接跑一个专丹试试，魔改2080的22g可以跑，不知道后期参数开多了是不是比较慢

		自动登录	找回密码
密码			立即注册（仅限QQ邮箱）