开了梯度之后先下降后上升是怎么回事

JoyChan0808

星级打分

• 1
• 2
• 3
• 4
• 5

平均分:NAN  参与人数:0  我的评分:未评

自己跑一个底丹，没开梯度之前0.53炸丹了，所以之后开启梯度，一开始下降，后面又上升什么情况

pasanonic

只要不gan,不太可能炸丹  梯度只在gan的时候开,其他时候没有多大意义,特别是小丹
总体上你是在下降 ,这个损失值是平均值,开高损失样本,或者关一下嘴眼,侧脸,继续扭曲下降,再开嘴眼,要想更快你就开学习率


你这个丹哪里下的  介绍下

JoyChan0808

pasanonic 发表于 2024-11-4 17:26
只要不gan,不太可能炸丹  梯度只在gan的时候开,其他时候没有多大意义,特别是小丹
总体上你是在下降 ,这个损 ...

我自己练的，早上起来看就炸了，第四列全没了，loss直接飙到5.0，后面我拿备份还原加了梯度

pasanonic

JoyChan0808 发表于 2024-11-4 17:39
我自己练的，早上起来看就炸了，我拿备份还原加了梯度

有异常的时候,大多数开下全图就好了(关闭遮罩内训练) ,遮罩内训练时间长了会有问题

JoyChan0808

pasanonic 发表于 2024-11-4 17:42
有异常的时候,大多数开下全图就好了(关闭遮罩内训练) ,遮罩内训练时间长了会有问题
...

不是有色斑哦，是整一列全没，变成红色。开了梯度会怎样，影响大吗

pasanonic

梯度开早会限制模型的泛化   
跟学习率一样,呆在舒适区不停的训练,不会拓展

JoyChan0808

pasanonic 发表于 2024-11-4 17:47
梯度开早会限制模型的泛化

那我练个底丹loss得多少才行，像我这种到0.5就炸丹不开梯度还能咋处理？拿着备份继续跑？如果炸丹再继续备份跑？

pasanonic

JoyChan0808 发表于 2024-11-4 17:49
那我练个底丹loss得多少才行，像我这种到0.5就炸丹不开梯度可行？

你的那个只有图5变成红色吗?  还是  2 4 5红色  1 3正常
关所有参数 试试

JoyChan0808

pasanonic 发表于 2024-11-4 17:53
你的那个只有图5变成红色吗?  还是  2 4 5红色  1 3正常
关所有参数 试试

1235正常，4变成红色

pasanonic

JoyChan0808 发表于 2024-11-4 17:54
1235正常，4变成红色

你把  dst 和 src两边换一下看能不能救回来

这么大的三维 配上小分辨率有些得不偿失