DFUD192 100W预训练+240W迭代小显存的福音

fangaaaa · 发表于 2020-12-19 01:13:10

感谢楼主分享

fangaaaa · 发表于 2020-12-19 01:32:54

我是8G显存，开启训练后，BS设的16，提升了OOM，但是迭代还在进行，这个正常吗？

1013153492 · 发表于 2020-12-22 08:32:44

感谢楼主分享

mzh920 · 发表于 2020-12-22 11:02:14

fangaaaa 发表于 2020-12-19 01:32
我是8G显存，开启训练后，BS设的16，提升了OOM，但是迭代还在进行，这个正常吗？ ...

继续预训练吗

poiu88 · 发表于 2020-12-22 21:36:20

有钱了试试看

lekiton · 发表于 2020-12-22 21:55:31

好好好好好哈哈哈哈谢谢

fangaaaa · 发表于 2020-12-22 22:25:12

mzh920 发表于 2020-12-22 11:02
继续预训练吗

不是预训练，换上src和dst跑的，有OOM报错，然后迭代还在继续

mzh920 · 发表于 2020-12-23 08:00:12

fangaaaa 发表于 2020-12-22 22:25
不是预训练，换上src和dst跑的，有OOM报错，然后迭代还在继续

这个丹我还没用，不知道是预训练丹还是成品丹，成品丹迭代没归零应该是正常的

qq771143772 · 发表于 2020-12-23 19:11:25

1234564654654

just4u666 · 发表于 2020-12-23 23:37:51

试试看好不好使

		自动登录	找回密码
密码			立即注册（仅限QQ邮箱）

DFUD192 100W预训练+240W迭代 小显存的福音