【回帖奖灵石】只删除inter_AB不删inter_B？

Lau9

星级打分

• 1
• 2
• 3
• 4
• 5

平均分:5  参与人数:4  我的评分:未评

2024-1-28：
到此一游，看看有没有需要更正和补充的

首先是问题1并不重要，重要的是删AB的目的本来就是为了重新扭曲，所以一定要开扭曲！

问题2反正我是不敢关梯度裁剪的，除非你每一张素材都肉眼检查过，否则万一炸了，得不偿失。

问题3，我看了原作者预训练转正的liae源代码，是把AB和B一起删除的。经过长期摸索，按前辈们说的就行了。
在合成推理太像dst的时候，删AB重新计算，才能更像src，牺牲的是时间，舍不得孩子套不住狼

问题4，任何时候开关RW都行，建议是长期开着RW。关RW导致的太像dst，可以通过删interAB补救。

问题5，在五官清晰后，随时开关gan，或者间隔很长时间后再重新开启gan，都可以的。但是太早开没效果，最后才开。

2023-11-17：

随风的帖子：【随风技术论】DFL模型文件的<关系>-详解-【DFL】综合讨论-deepfacelab中文网 - Powered by Discuz! (dfldata.cc)
讲的是DF架构。A和B是分离的，可以换位，可以删。但LIAE架构是没有单独的A映射，所以没法复用啊！
练专丹的过程中删AB继续练，效率好像还不如从底丹删AB练呢（把底丹的泛化性练废了）。
Windjet的帖子详细讲了liae的AB：【新提醒】DFL实现的探讨-附生成模型及杨颖合成模型-【DFL】模型分享-deepfacelab中文网 - Powered by Discuz! (dfldata.cc)

1：随即扭曲RW一定要打开，否则无法生成AB文件。
答案依据：原来删interAB之后，必须开随机扭曲-【DFL】综合讨论-deepfacelab中文网 - Powered by Discuz! (dfldata.cc)
2：lr_dropout和梯度裁剪关掉，才能快速清晰。
答案依据：【新提醒】【全角度】Liae-512-UDT_wf_320_80_80_629w迭代，正训代预训-【DFL】模型分享-deepfacelab中文网 - Powered by Discuz! (dfldata.cc)
3：底丹删AB转正是正常操作，但是在正训过程中不建议频繁删AB。
我认为如果SRC不变，就尽量别删AB了。要不要删B可以讨论一下，老外说删
4：如果SRC不变，换了一批DST，是否要从新开启RW？
我觉得是要的
5：如果已经GAN训练了很久。SRC不变，换了一批DST，要不要暂时关GAN，等新的DST清晰了再开GAN？
我觉得是


看到好的回答请帮忙顶一下

Lau9

黑羽毛 发表于 2023-11-17 17:27
我现在也还是没有搞明白什么时候删AB，什么时候不删 太难了

答案3 的言外之意就是：你专丹SRC如果换人了，要删AB

ricemilk456

=============更正一下=============

刚刚回去看了一下代码，发现确实不开RW就不会更新interAB的权重，不过也不知道为啥作者要这样设定，哈哈哈。
下面是代码:


===============================
1. 只要训练，AB都会自己生成，不管有没有开RW。
删除AB之后相当于SRC的部分要重新训练，重新训练第一个步骤都会先开RW，所以那篇文章说的也没错。
2. 没错。
梯度裁剪是将梯度限制在一个范围内防止模型因为一次更新太大的梯度而炸掉，关闭的话的确会更快速的训练，但是也有炸丹的风险。
lr_dropout是每经过一定的训练后降低模型的学习率，当然会越学越慢，只有在模型快要训练完成loss不再降低时才需要开。

fly9988765

学习学习

A380

不用删B吧

youlin

太高深，学习一下

ttyng

学习一下

cglyy89

学习，希望有大佬能指点迷津

like

学习，我都删了

112268113

签到在那签啊

6315091

支持一下 过来学习~

八咫镜

大佬学习一下

my1030

4：如果SRC不变，换了一批DST，是否要从新开启RW？
有个教程说练好专丹只更换dst的话,需要删B?