出现波动了，怎么办？改参数吗？

king12

WinKK 发表于 2022-8-10 09:32
你看数据，已经十几个小时在0.25之上了，反复跳动，就是降不到0.25以下
是不是说，这个丹加SRC，就这样 ...

根据作者的意思，就是说，12小时如果没有下降的趋势，即使继续训练，也不会出现更好的效果，打个比方，小学生1+1还没学明白，就硬让他学大学课本，即使知道了题目的答案，并不知道计算的过程与逻辑，训练也没有意义。

wtxx8888

看来你基础不高，还没理解这个现象。还记得我说过，好丹不需要开GAN吗？
LOSS下降底限，是受四维约束的，你不下降了，意味着达到了四维极限。
剩下的就得靠GAN等加强选项去强补了（强行的总是有危险，所以加强项都会炸丹）。
而好丹LOSS底限更低，低到不需要开GAN那些加强项。
这就是懂原理跟不懂原理的，在理解上的差距
不过看你截图那不是还在下降吗？虽然很慢，慢还有个原因就是在均匀化图的LOSS。

你要是用ME版，就会知道，你肯定还有很高LOSS的图。
存盘的那个LOSS值，不过是25分钟内跑过的图，的LOSS平均值。

高低LOSS值一搭配，你可能都看不出来降低，甚至会升，这都是正在均匀化所有图LOSS的表现。

WinKK

wtxx8888 发表于 2022-8-10 15:14
看来你基础不高，还没理解这个现象。还记得我说过，好丹不需要开GAN吗？
LOSS下降底限，是受四维约束的，你 ...

这个丹是3月份开始训练的，我记录了大概的过程。因为SRC不断增加和改善，所以前面反反复复。直到5月份SRC集才稳定下来，但是7月又改了SRC遮罩，所以又大波动了一次。而且，原丹没开TF和GAN。

几个大角度的图的LOSS仍然很大（从图上可以看出来）

那是不是说，因为我改了参数，所以，现在这个模型的水平几乎是到极限了？

因为是新手，我一直在尝试改各种参数，试验他们的效果。现在看来，是不是这么改下来，丹已经给我练坏了吧

wtxx8888

WinKK 发表于 2022-8-10 16:08
这个丹是3月份开始训练的，我记录了大概的过程。因为SRC不断增加和改善，所以前面反反复复。直到5月份SRC ...

没极限，丹也没坏，我不是说了，正在均匀化LOSS。
不是还在缓慢下降吗，继续挂着就好。素材越多，均匀化LOSS需要的时间越多（迭代数）。
啥时候你看大角度，跟正脸一样清晰了，才代表真极限。
大角度图很少被点名到，推荐你开ME版，大LOSS那个选项跑。

WinKK

wtxx8888 发表于 2022-8-10 16:45
没极限，丹也没坏，我不是说了，正在均匀化LOSS。
不是还在缓慢下降吗，继续挂着就好。素材越多，均匀化L ...

好，继续练

不过，我还没真过大角度也非常清晰的丹。收集的几个丹大角度也一般

wtxx8888

WinKK 发表于 2022-8-10 16:48
好，继续练

不过，我还没真过大角度也非常清晰的丹。收集的几个丹大角度也一般 ...

预训练都要求迭代数，就是大角度难以被点名到，必须靠加大迭代，去均匀到它。
急性子的，会单独搞一遍，大角度专项打击

WinKK

wtxx8888 发表于 2022-8-10 16:50
预训练都要求迭代数，就是大角度难以被点名到，必须靠加大迭代，去均匀到它。 ...

uniform_yaw 这个参数应该有帮助吧，我还没用过这个参数

wtxx8888

WinKK 发表于 2022-8-10 16:54
uniform_yaw 这个参数应该有帮助吧，我还没用过这个参数

开呀会好点，但也只是针对一般的侧脸。
我的经验，目测大概30度左右。
极限跟死亡，也还是点名极少。
最好的莫过于ME版的大LOSS选项。

WinKK

wtxx8888 发表于 2022-8-10 16:57
开呀会好点，但也只是针对一般的侧脸。
我的经验，目测大概30度左右。
极限跟死亡，也还是点名极少。

ME版本好像不支持A卡

好在40系快发布了

wtxx8888

WinKK 发表于 2022-8-10 17:03
ME版本好像不支持A卡

好在40系快发布了

可以单独偷来这个选项的我偷到了猫汉化上。
1号文件 "_internal\DeepFaceLab\models\ModelBase.py"  插入两处



self.retraining_samples = self.options.get('retraining_samples', False)

def ask_retraining_samples(self, default_value=False):
        default_retraining_samples = self.load_or_def_option('retraining_samples', default_value)
        self.options['retraining_samples'] = io.input_bool("ME版选项 周期性训练 高LOSS脸图样本 （retraining_samples）", default_retraining_samples, help_message="打开这个选项 将会周期性训练 高LOSS脸图样本")


2号文件 "_internal\DeepFaceLab\models\Model_SAEHD\Model.py"  插入3处

self.ask_retraining_samples()

if self.options['retraining_samples']:
                self.last_src_samples_loss = []
                self.last_dst_samples_loss = []


if self.options['retraining_samples']:
            bs = self.get_batch_size()

            for i in range(bs):
                self.last_src_samples_loss.append (  (target_src, target_srcm, target_srcm_em, src_loss )  )
                self.last_dst_samples_loss.append (  (target_dst, target_dstm, target_dstm_em, dst_loss )  )

            if len(self.last_src_samples_loss) > bs*9:
                src_samples_loss = sorted(self.last_src_samples_loss, key=operator.itemgetter(3), reverse=True)
                dst_samples_loss = sorted(self.last_dst_samples_loss, key=operator.itemgetter(3), reverse=True)

                target_src        = np.stack( [ x[0] for x in src_samples_loss[:bs] ] )
                target_srcm       = np.stack( [ x[1] for x in src_samples_loss[:bs] ] )
                target_srcm_em    = np.stack( [ x[2] for x in src_samples_loss[:bs] ] )

                target_dst        = np.stack( [ x[0] for x in dst_samples_loss[:bs] ] )
                target_dstm       = np.stack( [ x[1] for x in dst_samples_loss[:bs] ] )
                target_dstm_em = np.stack( [ x[2] for x in dst_samples_loss[:bs] ] )

                src_loss, dst_loss = self.src_dst_train (target_src, target_src, target_srcm, target_srcm_em, target_dst, target_dst, target_dstm, target_dstm_em)
                self.last_src_samples_loss = []
                self.last_dst_samples_loss = []



看截图行数插进去，DX12可能跟20系行数不一样，附近语句我也截进图里了。

if len(self.last_src_samples_loss) > bs*9: 这句的数字9，代表隔几次迭代跑一次大LOSS，你可以自定间隔，ME版是16，我定的9。