大家训练一次要多久呀？列出来对比一下？

werran · 发表于 2023-3-19 22:08:06

你用lion练这么多步
得疯狂过拟合

lirock · 发表于 2023-3-30 11:59:11

我一般15次出来效果可以了，上次试过80炸了，好在有阶段存储，一共存了10个lora，第一二个ok，第三个开始炸毛。

newcentury2017 · 发表于 2023-3-30 13:38:09

我昨天对比了同样素材，30张左右，训练10 25 50 100次的结果，50的已经开始过拟合了。然后又对比了100次训练，训练20轮，每2轮保存一次结果，最后是第一次的结果最好。这玩意素材质量参差不齐，训练多了，后面杂七杂八的就训练进去了

omesa · 发表于 2023-4-3 13:40:06

为什么你们都几十上百重，我平时都几十到一百张图，就重复3,15轮训练，大概一个小时左右。3060ti

WinKK · 发表于 2023-4-4 08:46:40

不是这么比的，应该是比不同图片分辨率和BS下，看看能跑多少（s/it）。

aeoluszan · 发表于 2023-4-4 15:36:57

测试结果，确实炸了，lion过拟合，所以换回AdamW了

试了好几次2w步以上的，基本没有太好结果，

能有好结果的测试都在2w以下产生，有些是在1w内出现

comingdemon · 发表于 2023-4-8 21:14:40

aeoluszan 发表于 2023-3-17 17:16
如果100张图，4000步的话，那repeat和和epoch都会很少？

反正我是乘完之后总的四千多就行了，图片多文件夹名字那个数字就少，图片少就多，算总数

comingdemon · 发表于 2023-4-8 21:24:06

aeoluszan 发表于 2023-4-4 15:36
测试结果，确实炸了，lion过拟合，所以换回AdamW了

试了好几次2w步以上的，基本没有太好结果，

我反正默认学习率，总步数四千效果最好，src作为头像，然后src原图作为正则

		自动登录	找回密码
密码			立即注册（仅限QQ邮箱）