deepfacelab中文网

 找回密码
 立即注册(仅限QQ邮箱)
楼主: WinKK

出现波动了,怎么办?改参数吗?

[复制链接]

20

主题

241

帖子

3592

积分

高级丹圣

Rank: 13Rank: 13Rank: 13Rank: 13

积分
3592
发表于 2022-8-10 09:43:42 | 显示全部楼层
WinKK 发表于 2022-8-10 09:32
你看数据,已经十几个小时在0.25之上了,反复跳动,就是降不到0.25以下
是不是说,这个丹加SRC,就这样 ...

根据作者的意思,就是说,12小时如果没有下降的趋势,即使继续训练,也不会出现更好的效果,打个比方,小学生1+1还没学明白,就硬让他学大学课本,即使知道了题目的答案,并不知道计算的过程与逻辑,训练也没有意义。

评分

参与人数 1贡献 +1 收起 理由
WinKK + 1 很给力!

查看全部评分

回复 支持 2 反对 0

使用道具 举报

14

主题

2951

帖子

1万

积分

高级丹圣

Rank: 13Rank: 13Rank: 13Rank: 13

积分
15998

真我风采勋章万事如意节日勋章

发表于 2022-8-10 15:14:50 | 显示全部楼层
本帖最后由 wtxx8888 于 2022-8-10 15:51 编辑

看来你基础不高,还没理解这个现象。还记得我说过,好丹不需要开GAN吗?
LOSS下降底限,是受四维约束的,你不下降了,意味着达到了四维极限。
剩下的就得靠GAN等加强选项去强补了(强行的总是有危险,所以加强项都会炸丹)。
而好丹LOSS底限更低,低到不需要开GAN那些加强项。
这就是懂原理跟不懂原理的,在理解上的差距
不过看你截图那不是还在下降吗?虽然很慢,慢还有个原因就是在均匀化图的LOSS。

你要是用ME版,就会知道,你肯定还有很高LOSS的图。
存盘的那个LOSS值,不过是25分钟内跑过的图,的LOSS平均值。

高低LOSS值一搭配,你可能都看不出来降低,甚至会升,这都是正在均匀化所有图LOSS的表现。





评分

参与人数 2贡献 +2 收起 理由
雷大雨小 + 1
WinKK + 1 赞一个!

查看全部评分

回复 支持 1 反对 0

使用道具 举报

50

主题

1224

帖子

8170

积分

高级丹圣

Rank: 13Rank: 13Rank: 13Rank: 13

积分
8170
 楼主| 发表于 2022-8-10 16:08:37 | 显示全部楼层
本帖最后由 WinKK 于 2022-8-10 16:15 编辑
wtxx8888 发表于 2022-8-10 15:14
看来你基础不高,还没理解这个现象。还记得我说过,好丹不需要开GAN吗?
LOSS下降底限,是受四维约束的,你 ...

这个丹是3月份开始训练的,我记录了大概的过程。因为SRC不断增加和改善,所以前面反反复复。直到5月份SRC集才稳定下来,但是7月又改了SRC遮罩,所以又大波动了一次。而且,原丹没开TF和GAN。

几个大角度的图的LOSS仍然很大(从图上可以看出来)

那是不是说,因为我改了参数,所以,现在这个模型的水平几乎是到极限了?

因为是新手,我一直在尝试改各种参数,试验他们的效果。现在看来,是不是这么改下来,丹已经给我练坏了吧
回复 支持 反对

使用道具 举报

14

主题

2951

帖子

1万

积分

高级丹圣

Rank: 13Rank: 13Rank: 13Rank: 13

积分
15998

真我风采勋章万事如意节日勋章

发表于 2022-8-10 16:45:35 | 显示全部楼层
本帖最后由 wtxx8888 于 2022-8-10 16:49 编辑
WinKK 发表于 2022-8-10 16:08
这个丹是3月份开始训练的,我记录了大概的过程。因为SRC不断增加和改善,所以前面反反复复。直到5月份SRC ...

没极限,丹也没坏,我不是说了,正在均匀化LOSS。
不是还在缓慢下降吗,继续挂着就好。素材越多,均匀化LOSS需要的时间越多(迭代数)。
啥时候你看大角度,跟正脸一样清晰了,才代表真极限。
大角度图很少被点名到,推荐你开ME版,大LOSS那个选项跑。

回复 支持 反对

使用道具 举报

50

主题

1224

帖子

8170

积分

高级丹圣

Rank: 13Rank: 13Rank: 13Rank: 13

积分
8170
 楼主| 发表于 2022-8-10 16:48:50 | 显示全部楼层
wtxx8888 发表于 2022-8-10 16:45
没极限,丹也没坏,我不是说了,正在均匀化LOSS。
不是还在缓慢下降吗,继续挂着就好。素材越多,均匀化L ...

好,继续练

不过,我还没真过大角度也非常清晰的丹。收集的几个丹大角度也一般
回复 支持 反对

使用道具 举报

14

主题

2951

帖子

1万

积分

高级丹圣

Rank: 13Rank: 13Rank: 13Rank: 13

积分
15998

真我风采勋章万事如意节日勋章

发表于 2022-8-10 16:50:56 | 显示全部楼层
本帖最后由 wtxx8888 于 2022-8-10 16:55 编辑
WinKK 发表于 2022-8-10 16:48
好,继续练

不过,我还没真过大角度也非常清晰的丹。收集的几个丹大角度也一般 ...

预训练都要求迭代数,就是大角度难以被点名到,必须靠加大迭代,去均匀到它。
急性子的,会单独搞一遍,大角度专项打击
回复 支持 反对

使用道具 举报

50

主题

1224

帖子

8170

积分

高级丹圣

Rank: 13Rank: 13Rank: 13Rank: 13

积分
8170
 楼主| 发表于 2022-8-10 16:54:52 | 显示全部楼层
wtxx8888 发表于 2022-8-10 16:50
预训练都要求迭代数,就是大角度难以被点名到,必须靠加大迭代,去均匀到它。 ...

uniform_yaw 这个参数应该有帮助吧,我还没用过这个参数
回复 支持 反对

使用道具 举报

14

主题

2951

帖子

1万

积分

高级丹圣

Rank: 13Rank: 13Rank: 13Rank: 13

积分
15998

真我风采勋章万事如意节日勋章

发表于 2022-8-10 16:57:34 | 显示全部楼层
本帖最后由 wtxx8888 于 2022-8-10 16:59 编辑
WinKK 发表于 2022-8-10 16:54
uniform_yaw 这个参数应该有帮助吧,我还没用过这个参数

开呀会好点,但也只是针对一般的侧脸。
我的经验,目测大概30度左右。
极限跟死亡,也还是点名极少。
最好的莫过于ME版的大LOSS选项。

回复 支持 反对

使用道具 举报

50

主题

1224

帖子

8170

积分

高级丹圣

Rank: 13Rank: 13Rank: 13Rank: 13

积分
8170
 楼主| 发表于 2022-8-10 17:03:08 | 显示全部楼层
wtxx8888 发表于 2022-8-10 16:57
开呀会好点,但也只是针对一般的侧脸。
我的经验,目测大概30度左右。
极限跟死亡,也还是点名极少。

ME版本好像不支持A卡

好在40系快发布了
回复 支持 反对

使用道具 举报

14

主题

2951

帖子

1万

积分

高级丹圣

Rank: 13Rank: 13Rank: 13Rank: 13

积分
15998

真我风采勋章万事如意节日勋章

发表于 2022-8-10 20:36:08 | 显示全部楼层
本帖最后由 wtxx8888 于 2022-8-10 21:02 编辑
WinKK 发表于 2022-8-10 17:03
ME版本好像不支持A卡

好在40系快发布了

可以单独偷来这个选项的我偷到了猫汉化上。
1号文件 "_internal\DeepFaceLab\models\ModelBase.py"  插入两处

01.png

self.retraining_samples = self.options.get('retraining_samples', False)
02.png
def ask_retraining_samples(self, default_value=False):
        default_retraining_samples = self.load_or_def_option('retraining_samples', default_value)
        self.options['retraining_samples'] = io.input_bool("ME版选项 周期性训练 高LOSS脸图样本 (retraining_samples)", default_retraining_samples, help_message="打开这个选项 将会周期性训练 高LOSS脸图样本")


2号文件 "_internal\DeepFaceLab\models\Model_SAEHD\Model.py"  插入3处
03.png
self.ask_retraining_samples()
04.png
if self.options['retraining_samples']:
                self.last_src_samples_loss = []
                self.last_dst_samples_loss = []

05.png
if self.options['retraining_samples']:
            bs = self.get_batch_size()

            for i in range(bs):
                self.last_src_samples_loss.append (  (target_src, target_srcm, target_srcm_em, src_loss )  )
                self.last_dst_samples_loss.append (  (target_dst, target_dstm, target_dstm_em, dst_loss )  )

            if len(self.last_src_samples_loss) > bs*9:
                src_samples_loss = sorted(self.last_src_samples_loss, key=operator.itemgetter(3), reverse=True)
                dst_samples_loss = sorted(self.last_dst_samples_loss, key=operator.itemgetter(3), reverse=True)

                target_src        = np.stack( [ x[0] for x in src_samples_loss[:bs] ] )
                target_srcm       = np.stack( [ x[1] for x in src_samples_loss[:bs] ] )
                target_srcm_em    = np.stack( [ x[2] for x in src_samples_loss[:bs] ] )

                target_dst        = np.stack( [ x[0] for x in dst_samples_loss[:bs] ] )
                target_dstm       = np.stack( [ x[1] for x in dst_samples_loss[:bs] ] )
                target_dstm_em = np.stack( [ x[2] for x in dst_samples_loss[:bs] ] )

                src_loss, dst_loss = self.src_dst_train (target_src, target_src, target_srcm, target_srcm_em, target_dst, target_dst, target_dstm, target_dstm_em)
                self.last_src_samples_loss = []
                self.last_dst_samples_loss = []



看截图行数插进去,DX12可能跟20系行数不一样,附近语句我也截进图里了。


if len(self.last_src_samples_loss) > bs*9: 这句的数字9,代表隔几次迭代跑一次大LOSS,你可以自定间隔,ME版是16,我定的9。

评分

参与人数 2贡献 +2 收起 理由
雷大雨小 + 1
WinKK + 1 赞一个!

查看全部评分

回复 支持 1 反对 0

使用道具 举报

QQ|Archiver|手机版|deepfacelab中文网 |网站地图

GMT+8, 2024-11-26 05:39 , Processed in 0.141986 second(s), 32 queries .

Powered by Discuz! X3.4

Copyright © 2001-2020, Tencent Cloud.

快速回复 返回顶部 返回列表