deepfacelab中文网

 找回密码
 立即注册(仅限QQ邮箱)
查看: 5511|回复: 72

【回帖奖灵石】只删除inter_AB不删inter_B?

  [复制链接]

63

主题

452

帖子

1万

积分

高级丹圣

Rank: 13Rank: 13Rank: 13Rank: 13

积分
15019

万事如意节日勋章

 楼主| 发表于 2023-11-17 16:57:08 | 显示全部楼层 |阅读模式
星级打分
  • 1
  • 2
  • 3
  • 4
  • 5
平均分:5  参与人数:4  我的评分:未评
本帖最后由 Lau9 于 2024-1-28 17:31 编辑


2024-1-28:
到此一游,看看有没有需要更正和补充的

首先是问题1并不重要,重要的是删AB的目的本来就是为了重新扭曲,所以一定要开扭曲!

问题2反正我是不敢关梯度裁剪的,除非你每一张素材都肉眼检查过,否则万一炸了,得不偿失。

问题3,我看了原作者预训练转正的liae源代码,是把AB和B一起删除的。经过长期摸索,按前辈们说的就行了。
在合成推理太像dst的时候,删AB重新计算,才能更像src,牺牲的是时间,舍不得孩子套不住狼

问题4,任何时候开关RW都行,建议是长期开着RW。关RW导致的太像dst,可以通过删interAB补救。

问题5,在五官清晰后,随时开关gan,或者间隔很长时间后再重新开启gan,都可以的。但是太早开没效果,最后才开。

2023-11-17:



随风的帖子:【随风技术论】DFL模型文件的<关系>-详解-【DFL】综合讨论-deepfacelab中文网 - Powered by Discuz! (dfldata.cc)
讲的是DF架构。A和B是分离的,可以换位,可以删。但LIAE架构是没有单独的A映射,所以没法复用啊!
练专丹的过程中删AB继续练,效率好像还不如从底丹删AB练呢(把底丹的泛化性练废了)。

Windjet的帖子详细讲了liae的AB:【新提醒】DFL实现的探讨-附生成模型及杨颖合成模型-【DFL】模型分享-deepfacelab中文网 - Powered by Discuz! (dfldata.cc)

1:随即扭曲RW一定要打开,否则无法生成AB文件。
答案依据:原来删interAB之后,必须开随机扭曲-【DFL】综合讨论-deepfacelab中文网 - Powered by Discuz! (dfldata.cc)
2:lr_dropout和梯度裁剪关掉,才能快速清晰。
答案依据:【新提醒】【全角度】Liae-512-UDT_wf_320_80_80_629w迭代,正训代预训-【DFL】模型分享-deepfacelab中文网 - Powered by Discuz! (dfldata.cc)
3:底丹删AB转正是正常操作,但是在正训过程中不建议频繁删AB。
我认为如果SRC不变,就尽量别删AB了。要不要删B可以讨论一下,老外说删
4:如果SRC不变,换了一批DST,是否要从新开启RW?
我觉得是要的
5:如果已经GAN训练了很久。SRC不变,换了一批DST,要不要暂时关GAN,等新的DST清晰了再开GAN?
我觉得是


看到好的回答请帮忙顶一下



评分

参与人数 1贡献 +1 收起 理由
黑羽毛 + 1 十分给力!

查看全部评分

回复

使用道具 举报

63

主题

452

帖子

1万

积分

高级丹圣

Rank: 13Rank: 13Rank: 13Rank: 13

积分
15019

万事如意节日勋章

 楼主| 发表于 2023-11-17 17:40:19 | 显示全部楼层
黑羽毛 发表于 2023-11-17 17:27
我现在也还是没有搞明白什么时候删AB,什么时候不删 太难了

答案3 的言外之意就是:你专丹SRC如果换人了,要删AB
回复 支持 1 反对 0

使用道具 举报

2

主题

56

帖子

3839

积分

高级丹圣

Rank: 13Rank: 13Rank: 13Rank: 13

积分
3839

万事如意节日勋章

发表于 2023-11-17 19:47:30 | 显示全部楼层

回帖奖励 +2 灵石

本帖最后由 ricemilk456 于 2023-11-17 20:05 编辑


=============更正一下=============

刚刚回去看了一下代码,发现确实不开RW就不会更新interAB的权重,不过也不知道为啥作者要这样设定,哈哈哈。
下面是代码:
螢幕擷取畫面 2023-11-17 200406.jpg

===============================
1. 只要训练,AB都会自己生成,不管有没有开RW。
删除AB之后相当于SRC的部分要重新训练,重新训练第一个步骤都会先开RW,所以那篇文章说的也没错。
2. 没错。
梯度裁剪是将梯度限制在一个范围内防止模型因为一次更新太大的梯度而炸掉,关闭的话的确会更快速的训练,但是也有炸丹的风险。
lr_dropout是每经过一定的训练后降低模型的学习率,当然会越学越慢,只有在模型快要训练完成loss不再降低时才需要开。
回复 支持 2 反对 0

使用道具 举报

0

主题

8

帖子

92

积分

高级丹童

Rank: 2

积分
92
发表于 2024-4-10 18:06:28 | 显示全部楼层
签到在那签啊
回复 支持 反对

使用道具 举报

0

主题

24

帖子

190

积分

高级丹童

Rank: 2

积分
190
发表于 2024-4-8 21:18:08 | 显示全部楼层
支持一下 过来学习~
回复 支持 反对

使用道具 举报

0

主题

13

帖子

407

积分

初级丹师

Rank: 3Rank: 3

积分
407

万事如意节日勋章

发表于 2024-4-8 19:09:56 | 显示全部楼层
大佬学习一下
回复 支持 反对

使用道具 举报

7

主题

44

帖子

963

积分

高级丹师

Rank: 5Rank: 5

积分
963
发表于 2024-4-8 18:38:45 | 显示全部楼层
4:如果SRC不变,换了一批DST,是否要从新开启RW?
有个教程说练好专丹只更换dst的话,需要删B?

回复 支持 反对

使用道具 举报

28

主题

233

帖子

5106

积分

高级丹圣

Rank: 13Rank: 13Rank: 13Rank: 13

积分
5106

万事如意节日勋章

发表于 2024-4-7 12:35:42 | 显示全部楼层
请问:“开RW”是什么意思?
回复 支持 反对

使用道具 举报

1

主题

50

帖子

266

积分

初级丹师

Rank: 3Rank: 3

积分
266
发表于 2024-4-7 10:23:47 | 显示全部楼层
向前辈学习
回复 支持 反对

使用道具 举报

0

主题

33

帖子

859

积分

高级丹师

Rank: 5Rank: 5

积分
859
发表于 2024-4-7 09:43:29 | 显示全部楼层
學習 还没尝试过
回复 支持 反对

使用道具 举报

7

主题

186

帖子

1429

积分

初级丹圣

Rank: 8Rank: 8

积分
1429

万事如意节日勋章

发表于 2024-2-13 00:32:32 | 显示全部楼层

回帖奖励 +2 灵石

学习学习
回复

使用道具 举报

0

主题

21

帖子

254

积分

初级丹师

Rank: 3Rank: 3

积分
254

万事如意节日勋章

发表于 2024-2-12 12:33:29 | 显示全部楼层

回帖奖励 +2 灵石

大有裨益,感谢楼主
回复 支持 反对

使用道具 举报

1

主题

27

帖子

143

积分

高级丹童

Rank: 2

积分
143
发表于 2024-1-30 18:26:59 | 显示全部楼层

回帖奖励 +2 灵石

基本不删
回复

使用道具 举报

QQ|Archiver|手机版|deepfacelab中文网 |网站地图

GMT+8, 2024-9-27 21:01 , Processed in 0.106475 second(s), 16 queries , Redis On.

Powered by Discuz! X3.4

Copyright © 2001-2020, Tencent Cloud.

快速回复 返回顶部 返回列表