deepfacelab中文网

 找回密码
 立即注册(仅限QQ邮箱)
查看: 1277|回复: 12

[求助] src loss不降反增

[复制链接]

8

主题

33

帖子

448

积分

初级丹师

Rank: 3Rank: 3

积分
448
 楼主| 发表于 2024-4-20 08:02:02 | 显示全部楼层 |阅读模式
星级打分
  • 1
  • 2
  • 3
  • 4
  • 5
平均分:NAN  参与人数:0  我的评分:未评
本帖最后由 xdj666 于 2024-4-20 08:41 编辑

如题,通宵开 lr_dropout 跑模型,bs8,src是512WF,dst是3万FFHQ纯女性。


刚刚发现src_loss几小时没怎么降了,并且还有反弹的迹象

模型是GAN前的最后阶段了,练完就打算开GAN,眼嘴,LRD都开了。


请问这种情况是降到最低了?接下来跑GAN就可以了?



036.png




回复

使用道具 举报

10

主题

322

帖子

2265

积分

初级丹圣

Rank: 8Rank: 8

积分
2265

万事如意节日勋章

发表于 2024-4-20 08:25:19 | 显示全部楼层
我感觉有些许反复是正常的,大佬们来解释吧。
回复 支持 反对

使用道具 举报

2

主题

79

帖子

1193

积分

初级丹圣

Rank: 8Rank: 8

积分
1193

万事如意节日勋章

发表于 2024-4-20 08:35:04 | 显示全部楼层
都不知道你过程是什么样的 训练了什么 现在在哪个阶段
如果你没开嘴眼的话 这个loss值正常来说是还没训到位的
回复 支持 反对

使用道具 举报

8

主题

33

帖子

448

积分

初级丹师

Rank: 3Rank: 3

积分
448
 楼主| 发表于 2024-4-20 08:40:49 | 显示全部楼层
长大后才知道 发表于 2024-4-20 08:35
都不知道你过程是什么样的 训练了什么 现在在哪个阶段
如果你没开嘴眼的话 这个loss值正常来说是还没训到位 ...

最后阶段了,练完就开GAN了,眼嘴,LRD什么的都开了
回复 支持 反对

使用道具 举报

2

主题

79

帖子

1193

积分

初级丹圣

Rank: 8Rank: 8

积分
1193

万事如意节日勋章

发表于 2024-4-20 10:03:47 | 显示全部楼层
xdj666 发表于 2024-4-20 08:40
最后阶段了,练完就开GAN了,眼嘴,LRD什么的都开了

你现在嘴眼还开着?
回复 支持 反对

使用道具 举报

4

主题

14

帖子

166

积分

高级丹童

Rank: 2

积分
166
发表于 2024-4-20 10:43:55 | 显示全部楼层
xdj666 发表于 2024-4-20 08:40
最后阶段了,练完就开GAN了,眼嘴,LRD什么的都开了

练gan可以把眼嘴关了
回复 支持 反对

使用道具 举报

0

主题

20

帖子

1099

积分

初级丹圣

Rank: 8Rank: 8

积分
1099
发表于 2024-4-20 11:35:28 | 显示全部楼层
通常src数量太多, 夹杂不同时期, 不同化妆, 不同角度, 样子难以统一的话, 数字都不会太低。 感觉上scr已训练到位, 再训练都不会有大进展, 如果预览图清
回复 支持 反对

使用道具 举报

15

主题

182

帖子

5997

积分

高级丹圣

Rank: 13Rank: 13Rank: 13Rank: 13

积分
5997

万事如意节日勋章

发表于 2024-4-21 02:44:18 | 显示全部楼层
仅从loss值来说,现在太高了,就算开着眼嘴也不应该这么高,你还是把你现在的参数发出来吧。
一般GAN前最后阶段大概是关闭扭曲,只开LRD,loss值一般不会高于0.12吧,开着眼嘴也应该能降到0.22,你现在0.4的loss值,有点奇怪,不知道你怎么练的。
回复 支持 反对

使用道具 举报

8

主题

33

帖子

448

积分

初级丹师

Rank: 3Rank: 3

积分
448
 楼主| 发表于 2024-4-21 10:30:25 | 显示全部楼层
wzx945 发表于 2024-4-21 02:44
仅从loss值来说,现在太高了,就算开着眼嘴也不应该这么高,你还是把你现在的参数发出来吧。
一般GAN前最后 ...

DST是 FFHQ3万训练集,SRC是 1万张全角度不同光影512WF


Current iteration: 1752627                    ==
==                                                   ==
==------------------ Model Options ------------------==
==                                                   ==
==            resolution: 256                        ==
==             face_type: wf                         ==
==     models_opt_on_gpu: True                       ==
==                 archi: df-ud                      ==
==               ae_dims: 320                        ==
==                e_dims: 96                         ==
==                d_dims: 96                         ==
==           d_mask_dims: 32                         ==
==       masked_training: True                       ==
==       eyes_mouth_prio: True                       ==
==           uniform_yaw: False                      ==
==         blur_out_mask: False                      ==
==             adabelief: True                       ==
==            lr_dropout: y                          ==
==           random_warp: True                       ==
==      random_hsv_power: 0.0                        ==
==       true_face_power: 0.0                        ==
==      face_style_power: 0.0                        ==
==        bg_style_power: 0.0                        ==
==               ct_mode: none                       ==
==              clipgrad: True                       ==
==              pretrain: False                      ==
==       autobackup_hour: 1                          ==
== write_preview_history: False                      ==
==           target_iter: 0                          ==
==       random_src_flip: False                      ==
==       random_dst_flip: True                       ==
==            batch_size: 8                          ==
==             gan_power: 0.0                        ==
==        gan_patch_size: 32                         ==
==              gan_dims: 16                         ==
==                                                   ==
回复 支持 反对

使用道具 举报

12

主题

284

帖子

7970

积分

高级丹圣

Rank: 13Rank: 13Rank: 13Rank: 13

积分
7970

万事如意节日勋章

发表于 2024-4-22 11:41:32 | 显示全部楼层
你确定你dat loss 1.0+就快练完了?
回复 支持 反对

使用道具 举报

QQ|Archiver|手机版|deepfacelab中文网 |网站地图

GMT+8, 2024-11-22 17:22 , Processed in 0.157189 second(s), 39 queries .

Powered by Discuz! X3.4

Copyright © 2001-2020, Tencent Cloud.

快速回复 返回顶部 返回列表