开了gan以后损失增大预览模糊是怎么回事？

zdqssl · 发表于 2023-10-10 10:42:57

星级打分

1
2
3
4
5

平均分:NAN 参与人数:0 我的评分:未评

本帖最后由 zdqssl 于 2023-10-10 10:45 编辑

开了学习率下降，其他参数关闭，迭代了52W次，这是损失和预览。然后开gan0.01，其他参数不变，结果损失慢慢增加，从0.1彪到1.2多，预览图变成蓝色的，这是怎么回事呢？

iamnickpan · 发表于 2023-10-12 20:06:48

猜測是不是學糊了~滾石大教學裡面的梯度剪裁選項要選Y

29. 使用梯度剪裁
[n] Enable gradient clipping ( y/n ?:help ) :

介绍：梯度是什么，可以理解为每次模型更新的变化剧烈程度。开启此参数后，会把模型剧烈的变化给限制住，能极大避免模型崩溃。不然很可能遇到一次很奇怪的数据，导致模型瞬间爆炸，崩成一片纯色

zdqssl · 发表于 2023-10-13 17:45:58

iamnickpan 发表于 2023-10-12 20:06
猜測是不是學糊了~滾石大教學裡面的梯度剪裁選項要選Y

29. 使用梯度剪裁

我一直开了

只有这个src开gan会模糊其他的src都不会

iamnickpan · 发表于 2023-10-13 21:55:32

zdqssl 发表于 2023-10-13 17:45
我一直开了只有这个src开gan会模糊其他的src都不会

如果先開Gan Power 0.01訓練一段時間後再開Learning Rate Dropout呢?

iamnickpan · 发表于 2023-10-13 21:56:54

iamnickpan 发表于 2023-10-13 21:55
如果先開Gan Power 0.01訓練一段時間後再開Learning Rate Dropout呢?

抱歉我說反了~如果先開啟Learning Rate Drop Out與Enable gradient clipping訓練一段時間後~再開GAN Power看看呢?

		自动登录	找回密码
密码			立即注册（仅限QQ邮箱）

开了gan以后损失增大预览模糊是怎么回事？

稀奇古怪节日勋章