开gan后数值不降反升是咋回事

lwz123 · 发表于 2022-3-15 04:54:32

星级打分

平均分:NAN 参与人数:0 我的评分:未评

怎么开GAN后源损失数值橙橙趁往上涨

WinKK · 发表于 2022-3-15 06:30:21

恭喜你，模型快崩了

以我血的经验，GAN值一定不能开大，而且，同时要用learning rate dropout ，Enable gradient clipping

lwz123 · 发表于 2022-3-15 07:19:02

WinKK 发表于 2022-3-15 06:30
恭喜你，模型快崩了
以我血的经验，GAN值一定不能开大，而且，同时要用learning rate dropout ，Enable ...

这些我都开了呀，看起来图像没有要崩的具象啊。就是数值从0.06变成了0.1左右

WinKK · 发表于 2022-3-15 07:46:26

lwz123 发表于 2022-3-15 07:19
这些我都开了呀，看起来图像没有要崩的具象啊。就是数值从0.06变成了0.1左右 ...

这么低啊，那正常。每调一次参数，LOSS都会波动一次的。你这个结果已经很好了

lwz123 · 发表于 2022-3-15 08:08:37

WinKK 发表于 2022-3-15 07:46
这么低啊，那正常。每调一次参数，LOSS都会波动一次的。你这个结果已经很好了 ...

不开GAN的话，能否用时间达到开GAN的效果？

lwz123 · 发表于 2022-3-15 08:09:55

WinKK 发表于 2022-3-15 07:46
这么低啊，那正常。每调一次参数，LOSS都会波动一次的。你这个结果已经很好了 ...

GPU的负载率经常会到百分之99 有影响么？是不是要调低参数呀？

WinKK · 发表于 2022-3-15 08:23:43

lwz123 发表于 2022-3-15 08:08
不开GAN的话，能否用时间达到开GAN的效果？

我开了GAN以后，只跑到过0.1左右，还没耐心再降，感觉已经很好了。

GPU占用99%是经常的啊，只要能运行就没事儿。参数大了，也就慢一点儿，我有时要3秒多一次迭代，没办法，显卡太差了

ammo · 发表于 2022-3-15 08:39:22

虛心學習

52712187484163 · 发表于 2022-3-15 09:19:02

提示: 作者被禁止或删除内容自动屏蔽

lwz123 · 发表于 2022-3-15 09:27:50

WinKK 发表于 2022-3-15 08:23
我开了GAN以后，只跑到过0.1左右，还没耐心再降，感觉已经很好了。

GPU占用99%是经常的啊，只要能运行就 ...

可能是我我素材少才数值这么低素材多了也很高的

		自动登录	找回密码
密码			立即注册（仅限QQ邮箱）