请教各位大佬，GAN由高调低是否有不利影响

z_charles

星级打分

• 1
• 2
• 3
• 4
• 5

平均分:NAN  参与人数:0  我的评分:未评

楼主跑训练遇到脸上出现奇怪的毛刺（有点恶心），已经有点崩，反复查看只有src有这问题





于是关闭src随机翻转、随机hsv，gan调低了0.03，跑了1W左右已经好很多，还有些残留


吐槽：src很多素材右脸小痣，居然没学过去


针对这个事情，询问GAN由高调低，是否有损失？比如已经有的细节，再进行丢掉


之前看到很多大佬gan给的0.01，甚至有给0.001的，小值跑长一些。我觉得gan给小了太慢，一般给的偏大，但确实出现很多问题，以后稳一点。
这个问题得到答案，我就知道是0.01慢慢加，还是大点值跑出问题立即补救。

ccctttccct

现在拥有的特征不可能再次被替换的。我是没见过眼睛张着慢慢训练变成闭着了。同样，痣不可能没有的

z_charles

ccctttccct 发表于 2023-6-15 20:33
现在拥有的特征不可能再次被替换的。我是没见过眼睛张着慢慢训练变成闭着了。同样，痣不可能没有的 ...

痣可能是因为特征太小了，或者因为开了随机翻转，反正目前没学到

seancai110

练久了可以补救的。
你可以把梯度裁剪打开。

z_charles

seancai110 发表于 2023-6-15 21:13
练久了可以补救的。
你可以把梯度裁剪打开。

嗯，调整参数的时候我就把梯度裁剪打开了

AKERSHUS

老哥，这是什么Src啊，是否开gan要看素材和替换对象。gan要loss变得很低不再下降再开。你数值开大了就有锯齿，要0.001,

AKERSHUS

src素材多不要开翻转，dst开就可以了。搜万能模型有帖子教怎么训练的

z_charles

AKERSHUS 发表于 2023-6-15 23:16
老哥，这是什么Src啊，是否开gan要看素材和替换对象。gan要loss变得很低不再下降再开。你数值开大了就有锯 ...

SRC是这个 https://dfldata.cc/forum.php?mod=viewthread&tid=7749
我是跑到最后了，所以开gan想跑细节。src里面加入了楼上大佬的牙齿素材包，他那个是推荐开翻转的，出现问题后我已经关了。dst我开了，看选项提示可以提高泛化。
GAN开0.001会不会出效果慢啊，因为作者的典型值0.1，这得有100倍了。我自己吃过亏了，GAN开高了确实容易出问题

seancai110

z_charles 发表于 2023-6-16 00:14
SRC是这个 https://dfldata.cc/forum.php?mod=viewthread&tid=7749
我是跑到最后了，所以开gan想跑细节。 ...

我一直开着梯度裁剪的 是不是你gan0.1的时候没开梯度裁剪

z_charles

seancai110 发表于 2023-6-16 01:01
我一直开着梯度裁剪的 是不是你gan0.1的时候没开梯度裁剪

我确实跑的时候梯度关了，因为梯度裁剪会使变慢，还有说法最后难以收敛。一般我没开没事，并且我备份很勤，没还原备份是因为得还原到差不多8小时前，我就尝试救不救回来。都是我自己的问题