deepfacelab中文网

 找回密码
 立即注册(仅限QQ邮箱)
查看: 1838|回复: 30

出现波动了,怎么办?改参数吗?

[复制链接]

50

主题

1223

帖子

8020

积分

高级丹圣

Rank: 13Rank: 13Rank: 13Rank: 13

积分
8020
 楼主| 发表于 2022-8-10 05:48:39 | 显示全部楼层 |阅读模式
星级打分
  • 1
  • 2
  • 3
  • 4
  • 5
平均分:NAN  参与人数:0  我的评分:未评
本帖最后由 WinKK 于 2022-8-10 05:50 编辑

这个五彩大佬的320丹断断续续练了很久,最近LOSS怎么也下不去了,怎么办?

是应该改参数了吗? 还是前面的训练不到位,只能到这个水平?

参数和LOSS值如下:

==            resolution: 320                ==
==             face_type: f                  ==
==     models_opt_on_gpu: True               ==
==                 archi: df-ud              ==
==               ae_dims: 384                ==
==                e_dims: 92                 ==
==                d_dims: 72                 ==
==           d_mask_dims: 22                 ==
==       masked_training: True               ==
==           uniform_yaw: False              ==
==            lr_dropout: cpu                ==
==           random_warp: False              ==
==             gan_power: 0.2                ==
==       true_face_power: 0.001              ==
==      face_style_power: 0.0                ==
==        bg_style_power: 0.0                ==
==               ct_mode: none               ==
==              clipgrad: False              ==
==              pretrain: False              ==
==       autobackup_hour: 2                  ==
== write_preview_history: False              ==
==           target_iter: 0                  ==
==           random_flip: True               ==
==            batch_size: 4                  ==
==       eyes_mouth_prio: False              ==
==         blur_out_mask: False              ==
==             adabelief: True               ==
==      random_hsv_power: 0.0                ==
==       random_src_flip: False              ==
==       random_dst_flip: True               ==
==        gan_patch_size: 32                 ==
==              gan_dims: 16                 ==

[11:24:34][#725612][1574ms][0.2590][0.2067]
[11:49:32][#726576][1499ms][0.2562][0.2077]
[12:14:32][#727544][1546ms][0.2593][0.2046]
[12:39:45][#728512][1567ms][0.2558][0.2051]
[13:04:34][#729467][1559ms][0.2579][0.2039]
[18:07:57][#730584][1704ms][0.2562][0.2019]
[18:32:08][#731418][1796ms][0.2580][0.2035]
[18:57:08][#732282][1687ms][0.2526][0.2030]
[19:22:09][#733144][1765ms][0.2580][0.2018]
[05:05:44][#734185][1546ms][0.2564][0.2003]
[05:29:54][#735114][1655ms][0.2515][0.2033]
[14:04:19][#736196][1577ms][0.2557][0.2010]
[14:28:31][#737127][1546ms][0.2536][0.2005]
[14:53:31][#738091][1546ms][0.2577][0.1985]
[15:18:30][#739055][1546ms][0.2541][0.1994]
[15:43:37][#740019][1562ms][0.2519][0.2000]
[18:22:32][#742866][1593ms][0.2531][0.1987]
[18:46:44][#743801][1593ms][0.2544][0.1971]
[19:11:45][#744765][1530ms][0.2535][0.1974]
[19:36:44][#745727][1530ms][0.2526][0.1973]
[20:01:54][#746680][1540ms][0.2512][0.1977]
[20:26:48][#747622][1591ms][0.2542][0.1960]
[03:27:22][#748569][1749ms][0.2517][0.1958]
[03:51:33][#749473][1655ms][0.2539][0.1959]
[04:16:32][#750415][1782ms][0.2523][0.1954]
[04:41:33][#751359][1577ms][0.2517][0.1961]
[05:06:43][#752302][1593ms][0.2509][0.1944]
[05:31:34][#753236][1624ms][0.2543][0.1956]

SRC和DST数量为7300和1600多,自认为质量还可以。
回复

使用道具 举报

20

主题

241

帖子

3574

积分

高级丹圣

Rank: 13Rank: 13Rank: 13Rank: 13

积分
3574
发表于 2022-8-10 09:43:42 | 显示全部楼层
WinKK 发表于 2022-8-10 09:32
你看数据,已经十几个小时在0.25之上了,反复跳动,就是降不到0.25以下
是不是说,这个丹加SRC,就这样 ...

根据作者的意思,就是说,12小时如果没有下降的趋势,即使继续训练,也不会出现更好的效果,打个比方,小学生1+1还没学明白,就硬让他学大学课本,即使知道了题目的答案,并不知道计算的过程与逻辑,训练也没有意义。

评分

参与人数 1贡献 +1 收起 理由
WinKK + 1 很给力!

查看全部评分

回复 支持 2 反对 0

使用道具 举报

11

主题

2624

帖子

1万

积分

高级丹圣

Rank: 13Rank: 13Rank: 13Rank: 13

积分
14162

真我风采勋章万事如意节日勋章

发表于 2022-8-10 20:36:08 | 显示全部楼层
本帖最后由 wtxx8888 于 2022-8-10 21:02 编辑
WinKK 发表于 2022-8-10 17:03
ME版本好像不支持A卡

好在40系快发布了

可以单独偷来这个选项的我偷到了猫汉化上。
1号文件 "_internal\DeepFaceLab\models\ModelBase.py"  插入两处

01.png

self.retraining_samples = self.options.get('retraining_samples', False)
02.png
def ask_retraining_samples(self, default_value=False):
        default_retraining_samples = self.load_or_def_option('retraining_samples', default_value)
        self.options['retraining_samples'] = io.input_bool("ME版选项 周期性训练 高LOSS脸图样本 (retraining_samples)", default_retraining_samples, help_message="打开这个选项 将会周期性训练 高LOSS脸图样本")


2号文件 "_internal\DeepFaceLab\models\Model_SAEHD\Model.py"  插入3处
03.png
self.ask_retraining_samples()
04.png
if self.options['retraining_samples']:
                self.last_src_samples_loss = []
                self.last_dst_samples_loss = []

05.png
if self.options['retraining_samples']:
            bs = self.get_batch_size()

            for i in range(bs):
                self.last_src_samples_loss.append (  (target_src, target_srcm, target_srcm_em, src_loss )  )
                self.last_dst_samples_loss.append (  (target_dst, target_dstm, target_dstm_em, dst_loss )  )

            if len(self.last_src_samples_loss) > bs*9:
                src_samples_loss = sorted(self.last_src_samples_loss, key=operator.itemgetter(3), reverse=True)
                dst_samples_loss = sorted(self.last_dst_samples_loss, key=operator.itemgetter(3), reverse=True)

                target_src        = np.stack( [ x[0] for x in src_samples_loss[:bs] ] )
                target_srcm       = np.stack( [ x[1] for x in src_samples_loss[:bs] ] )
                target_srcm_em    = np.stack( [ x[2] for x in src_samples_loss[:bs] ] )

                target_dst        = np.stack( [ x[0] for x in dst_samples_loss[:bs] ] )
                target_dstm       = np.stack( [ x[1] for x in dst_samples_loss[:bs] ] )
                target_dstm_em = np.stack( [ x[2] for x in dst_samples_loss[:bs] ] )

                src_loss, dst_loss = self.src_dst_train (target_src, target_src, target_srcm, target_srcm_em, target_dst, target_dst, target_dstm, target_dstm_em)
                self.last_src_samples_loss = []
                self.last_dst_samples_loss = []



看截图行数插进去,DX12可能跟20系行数不一样,附近语句我也截进图里了。


if len(self.last_src_samples_loss) > bs*9: 这句的数字9,代表隔几次迭代跑一次大LOSS,你可以自定间隔,ME版是16,我定的9。

评分

参与人数 2贡献 +2 收起 理由
雷大雨小 + 1
WinKK + 1 赞一个!

查看全部评分

回复 支持 1 反对 0

使用道具 举报

11

主题

2624

帖子

1万

积分

高级丹圣

Rank: 13Rank: 13Rank: 13Rank: 13

积分
14162

真我风采勋章万事如意节日勋章

发表于 2022-8-10 15:14:50 | 显示全部楼层
本帖最后由 wtxx8888 于 2022-8-10 15:51 编辑

看来你基础不高,还没理解这个现象。还记得我说过,好丹不需要开GAN吗?
LOSS下降底限,是受四维约束的,你不下降了,意味着达到了四维极限。
剩下的就得靠GAN等加强选项去强补了(强行的总是有危险,所以加强项都会炸丹)。
而好丹LOSS底限更低,低到不需要开GAN那些加强项。
这就是懂原理跟不懂原理的,在理解上的差距
不过看你截图那不是还在下降吗?虽然很慢,慢还有个原因就是在均匀化图的LOSS。

你要是用ME版,就会知道,你肯定还有很高LOSS的图。
存盘的那个LOSS值,不过是25分钟内跑过的图,的LOSS平均值。

高低LOSS值一搭配,你可能都看不出来降低,甚至会升,这都是正在均匀化所有图LOSS的表现。





评分

参与人数 2贡献 +2 收起 理由
雷大雨小 + 1
WinKK + 1 赞一个!

查看全部评分

回复 支持 1 反对 0

使用道具 举报

0

主题

60

帖子

-9万

积分

禁止访问

积分
-99696
发表于 2022-8-10 08:35:23 | 显示全部楼层
提示: 作者被禁止或删除 内容自动屏蔽
回复 支持 反对

使用道具 举报

50

主题

1223

帖子

8020

积分

高级丹圣

Rank: 13Rank: 13Rank: 13Rank: 13

积分
8020
 楼主| 发表于 2022-8-10 08:40:58 | 显示全部楼层
一帮舔狗 发表于 2022-8-10 08:35
什么好素材,gan开0.2

4K视频切出来的512,质量应该可以。开了许久了,还开过0.3
但SRC质量高,LOSS应该下降才对吧?
回复 支持 反对

使用道具 举报

0

主题

60

帖子

-9万

积分

禁止访问

积分
-99696
发表于 2022-8-10 09:07:15 | 显示全部楼层
提示: 作者被禁止或删除 内容自动屏蔽
回复 支持 反对

使用道具 举报

6

主题

636

帖子

4550

积分

高级丹圣

Rank: 13Rank: 13Rank: 13Rank: 13

积分
4550
发表于 2022-8-10 09:10:07 | 显示全部楼层
看一下src 有没有提错脸的
- 平行世界旅行者
回复 支持 反对

使用道具 举报

20

主题

241

帖子

3574

积分

高级丹圣

Rank: 13Rank: 13Rank: 13Rank: 13

积分
3574
发表于 2022-8-10 09:10:39 | 显示全部楼层
继续跑
根据作者的说法,12小时如果loss没有下降就可以了
回复 支持 反对

使用道具 举报

0

主题

28

帖子

390

积分

初级丹师

Rank: 3Rank: 3

积分
390
发表于 2022-8-10 09:11:43 | 显示全部楼层
320搞WF会不会更香  F是你自己改的吗 还是原来这丹就是f
回复 支持 反对

使用道具 举报

50

主题

1223

帖子

8020

积分

高级丹圣

Rank: 13Rank: 13Rank: 13Rank: 13

积分
8020
 楼主| 发表于 2022-8-10 09:32:06 | 显示全部楼层
本帖最后由 WinKK 于 2022-8-10 09:35 编辑
king12 发表于 2022-8-10 09:10
继续跑
根据作者的说法,12小时如果loss没有下降就可以了

你看数据,已经十几个小时在0.25之上了,反复跳动,就是降不到0.25以下
是不是说,这个丹加SRC,就这样了?

目前看图,牙齿出了,眉毛出了70%,睫毛还不行,一定有进步空间。
回复 支持 反对

使用道具 举报

50

主题

1223

帖子

8020

积分

高级丹圣

Rank: 13Rank: 13Rank: 13Rank: 13

积分
8020
 楼主| 发表于 2022-8-10 09:33:48 | 显示全部楼层
本帖最后由 WinKK 于 2022-8-10 09:41 编辑
dkrhfk 发表于 2022-8-10 09:10
看一下src 有没有提错脸的

一定是有的,但能发现的我都改得差不多了,所以不会多(我是分批做的SRC,比较仔细)。
回复 支持 反对

使用道具 举报

50

主题

1223

帖子

8020

积分

高级丹圣

Rank: 13Rank: 13Rank: 13Rank: 13

积分
8020
 楼主| 发表于 2022-8-10 09:35:16 | 显示全部楼层
xiaoxi629629 发表于 2022-8-10 09:11
320搞WF会不会更香  F是你自己改的吗 还是原来这丹就是f

原丹是五彩神丹,就是这参数。
回复 支持 反对

使用道具 举报

QQ|Archiver|手机版|deepfacelab中文网 |网站地图

GMT+8, 2024-9-22 11:41 , Processed in 0.094858 second(s), 11 queries , Redis On.

Powered by Discuz! X3.4

Copyright © 2001-2020, Tencent Cloud.

快速回复 返回顶部 返回列表