开了梯度之后先下降后上升是怎么回事

JoyChan0808

星级打分

• 1
• 2
• 3
• 4
• 5

平均分:NAN  参与人数:0  我的评分:未评

自己跑一个底丹，没开梯度之前0.53炸丹了，所以之后开启梯度，一开始下降，后面又上升什么情况

wtxx8888

dfl9999 发表于 2024-11-6 05:23
我说我上个模型反应怎么这么慢，跑了快500万过拟合了，看来不是训练越多越好，素材也不能一直用定量，要适 ...

开那些新的随机，都能修正过拟合。只要有新的东西学，就能破 过拟合。(增加泛化性，实际上，就是破 过拟合)
所以现在的预训练底丹，跑到很低的LOSS后，逐项的开启新的随机。最后达到，五项随机全开即可。
随机取样，随机压缩，随机模糊，随机噪点，随机颜色，开任何一项，练一阵子，都能破 过拟合。
如果没开颜色模式的话，开 FS-AUG 也能破。

正常的预训练，几乎不存在过拟合。
海量的素材，根本就练不完。
因为，只要不是BS 1，就不存在，练到全部的素材。

对于你的过拟合，应该是扭曲造成的，直接就扭曲开到底的吧？
新丹时，不能直接就开扭曲。要开，也是最后收尾了，才能开。
所以预训练，一般都是，不开扭曲的。(扭曲，自带残留效应（类似固化），这是造成过拟合的罪魁祸首)

dfl9999

pasanonic 发表于 2024-11-4 21:25
学习下 看看有什么启发
https://www.bilibili.com/video/B ... d6d688c817e9b33aae7

干货藏着掖着没讲，捡一些无关紧要的东西在那叭叭叭个没完，大参跟小参没讲，一笔带过，压箱底的东西都不拿出来，src的重要性占了95%我倒是绝对同意，src的一致性的重要性也知道，然后没然后了，模型的风格和泛化方向跟炼丹流程大有关系，甚至素材配比和先后也有讲究，这些都避开了，听的那个人额额额半天听了个寂寞

pasanonic

只要不gan,不太可能炸丹  梯度只在gan的时候开,其他时候没有多大意义,特别是小丹
总体上你是在下降 ,这个损失值是平均值,开高损失样本,或者关一下嘴眼,侧脸,继续扭曲下降,再开嘴眼,要想更快你就开学习率


你这个丹哪里下的  介绍下

JoyChan0808

pasanonic 发表于 2024-11-4 17:26
只要不gan,不太可能炸丹  梯度只在gan的时候开,其他时候没有多大意义,特别是小丹
总体上你是在下降 ,这个损 ...

我自己练的，早上起来看就炸了，第四列全没了，loss直接飙到5.0，后面我拿备份还原加了梯度

pasanonic

JoyChan0808 发表于 2024-11-4 17:39
我自己练的，早上起来看就炸了，我拿备份还原加了梯度

有异常的时候,大多数开下全图就好了(关闭遮罩内训练) ,遮罩内训练时间长了会有问题

JoyChan0808

pasanonic 发表于 2024-11-4 17:42
有异常的时候,大多数开下全图就好了(关闭遮罩内训练) ,遮罩内训练时间长了会有问题
...

不是有色斑哦，是整一列全没，变成红色。开了梯度会怎样，影响大吗

pasanonic

梯度开早会限制模型的泛化   
跟学习率一样,呆在舒适区不停的训练,不会拓展

JoyChan0808

pasanonic 发表于 2024-11-4 17:47
梯度开早会限制模型的泛化

那我练个底丹loss得多少才行，像我这种到0.5就炸丹不开梯度还能咋处理？拿着备份继续跑？如果炸丹再继续备份跑？

pasanonic

JoyChan0808 发表于 2024-11-4 17:49
那我练个底丹loss得多少才行，像我这种到0.5就炸丹不开梯度可行？

你的那个只有图5变成红色吗?  还是  2 4 5红色  1 3正常
关所有参数 试试

JoyChan0808

pasanonic 发表于 2024-11-4 17:53
你的那个只有图5变成红色吗?  还是  2 4 5红色  1 3正常
关所有参数 试试

1235正常，4变成红色

pasanonic

JoyChan0808 发表于 2024-11-4 17:54
1235正常，4变成红色

你把  dst 和 src两边换一下看能不能救回来

这么大的三维 配上小分辨率有些得不偿失