[求助] src loss不降反增

xdj666

星级打分

• 1
• 2
• 3
• 4
• 5

平均分:NAN  参与人数:0  我的评分:未评

如题，通宵开 lr_dropout 跑模型，bs8，src是512WF，dst是3万FFHQ纯女性。


刚刚发现src_loss几小时没怎么降了，并且还有反弹的迹象

模型是GAN前的最后阶段了，练完就打算开GAN，眼嘴，LRD都开了。

请问这种情况是降到最低了？接下来跑GAN就可以了？

Deannnn

你确定你dat loss 1.0+就快练完了？

bg2kcg

我感觉有些许反复是正常的，大佬们来解释吧。

长大后才知道

都不知道你过程是什么样的 训练了什么 现在在哪个阶段
如果你没开嘴眼的话 这个loss值正常来说是还没训到位的

xdj666

长大后才知道 发表于 2024-4-20 08:35
都不知道你过程是什么样的 训练了什么 现在在哪个阶段
如果你没开嘴眼的话 这个loss值正常来说是还没训到位 ...

最后阶段了，练完就开GAN了，眼嘴，LRD什么的都开了

长大后才知道

xdj666 发表于 2024-4-20 08:40
最后阶段了，练完就开GAN了，眼嘴，LRD什么的都开了

你现在嘴眼还开着？

dotahudie

xdj666 发表于 2024-4-20 08:40
最后阶段了，练完就开GAN了，眼嘴，LRD什么的都开了

练gan可以把眼嘴关了

MikeChan

通常src数量太多, 夹杂不同时期, 不同化妆, 不同角度, 样子难以统一的话, 数字都不会太低。 感觉上scr已训练到位, 再训练都不会有大进展, 如果预览图清

wzx945

仅从loss值来说，现在太高了，就算开着眼嘴也不应该这么高，你还是把你现在的参数发出来吧。
一般GAN前最后阶段大概是关闭扭曲，只开LRD，loss值一般不会高于0.12吧，开着眼嘴也应该能降到0.22，你现在0.4的loss值，有点奇怪，不知道你怎么练的。

xdj666

wzx945 发表于 2024-4-21 02:44
仅从loss值来说，现在太高了，就算开着眼嘴也不应该这么高，你还是把你现在的参数发出来吧。
一般GAN前最后 ...

DST是 FFHQ3万训练集，SRC是 1万张全角度不同光影512WF


Current iteration: 1752627                    ==
==                                                   ==
==------------------ Model Options ------------------==
==                                                   ==
==            resolution: 256                        ==
==             face_type: wf                         ==
==     models_opt_on_gpu: True                       ==
==                 archi: df-ud                      ==
==               ae_dims: 320                        ==
==                e_dims: 96                         ==
==                d_dims: 96                         ==
==           d_mask_dims: 32                         ==
==       masked_training: True                       ==
==       eyes_mouth_prio: True                       ==
==           uniform_yaw: False                      ==
==         blur_out_mask: False                      ==
==             adabelief: True                       ==
==            lr_dropout: y                          ==
==           random_warp: True                       ==
==      random_hsv_power: 0.0                        ==
==       true_face_power: 0.0                        ==
==      face_style_power: 0.0                        ==
==        bg_style_power: 0.0                        ==
==               ct_mode: none                       ==
==              clipgrad: True                       ==
==              pretrain: False                      ==
==       autobackup_hour: 1                          ==
== write_preview_history: False                      ==
==           target_iter: 0                          ==
==       random_src_flip: False                      ==
==       random_dst_flip: True                       ==
==            batch_size: 8                          ==
==             gan_power: 0.0                        ==
==        gan_patch_size: 32                         ==
==              gan_dims: 16                         ==
==                                                   ==