deepfacelab中文网

 找回密码
 立即注册(仅限QQ邮箱)
查看: 439|回复: 10

预训练开了学习率和梯度对后期的正训有没有什么影响

[复制链接]

44

主题

1024

帖子

5522

积分

高级丹圣

Rank: 13Rank: 13Rank: 13Rank: 13

积分
5522

万事如意节日勋章开心娱乐节日勋章

 楼主| 发表于 2025-3-26 18:29:23 | 显示全部楼层 |阅读模式
星级打分
  • 1
  • 2
  • 3
  • 4
  • 5
平均分:NAN  参与人数:0  我的评分:未评
如题  
回复

使用道具 举报

22

主题

235

帖子

2812

积分

初级丹圣

Rank: 8Rank: 8

积分
2812
发表于 2025-3-26 18:39:14 | 显示全部楼层
预训练就开不了学习率和扭曲,开梯度没影响
image.png
这些参数固定了的
image.png
回复 支持 反对

使用道具 举报

44

主题

1024

帖子

5522

积分

高级丹圣

Rank: 13Rank: 13Rank: 13Rank: 13

积分
5522

万事如意节日勋章开心娱乐节日勋章

 楼主| 发表于 2025-3-26 18:48:28 | 显示全部楼层
fghfdg 发表于 2025-3-26 18:39
预训练就开不了学习率和扭曲,开梯度没影响

这些参数固定了的

专丹 单src  杂dst
回复 支持 反对

使用道具 举报

36

主题

513

帖子

1万

积分

高级丹圣

Rank: 13Rank: 13Rank: 13Rank: 13

积分
15610
发表于 2025-3-26 23:57:36 | 显示全部楼层
本帖最后由 dfl9999 于 2025-3-27 06:21 编辑
fghfdg 发表于 2025-3-26 18:39
预训练就开不了学习率和扭曲,开梯度没影响

这些参数固定了的

只是预设禁用
回复 支持 反对

使用道具 举报

36

主题

513

帖子

1万

积分

高级丹圣

Rank: 13Rank: 13Rank: 13Rank: 13

积分
15610
发表于 2025-3-27 00:07:12 | 显示全部楼层
本帖最后由 dfl9999 于 2025-3-27 06:22 编辑

梯度不要提前开,会限制参数探索
回复 支持 反对

使用道具 举报

22

主题

235

帖子

2812

积分

初级丹圣

Rank: 8Rank: 8

积分
2812
发表于 2025-3-27 01:13:08 | 显示全部楼层
dfl9999 发表于 2025-3-26 23:57
只是预设禁用,你要开启也没拦着你

不是啊兄弟,这段就是_internal\DeepFaceLab\models\Model_SAEHD\Model.py里面的代码啊
当进入预训练模式(self.pretrain为True)时,强制覆盖用户设置的某些参数,使其在预训练阶段无效。通过 self.options_show_override 字典,直接覆盖特定参数的配置值。即使用户在训练配置中打开了 gan_power=0.1 或 random_warp=True,这些设置会在预训练时被强制重置为代码中指定的值(如 0.0 或 False)。options_show_override 的优先级通常高于用户配置文件或界面设置。用户配置 → 默认参数 → options_show_override(最终生效)。
回复 支持 反对

使用道具 举报

36

主题

513

帖子

1万

积分

高级丹圣

Rank: 13Rank: 13Rank: 13Rank: 13

积分
15610
发表于 2025-3-27 06:24:21 | 显示全部楼层
fghfdg 发表于 2025-3-27 01:13
不是啊兄弟,这段就是_internal\DeepFaceLab\models\Model_SAEHD\Model.py里面的代码啊
当进入预训练模式 ...

木兰架构预训练扭曲是可以开的,可能架构不一样吧
回复 支持 反对

使用道具 举报

7

主题

136

帖子

1050

积分

初级丹圣

Rank: 8Rank: 8

积分
1050

万事如意节日勋章

发表于 2025-4-5 04:43:25 | 显示全部楼层
dfl9999 发表于 2025-3-27 06:24
木兰架构预训练扭曲是可以开的,可能架构不一样吧

dfl直接src和dst放一样的杂图,选择正训,把扭曲等自己想开的参数都打开,是不是也能实现和木兰预训练的效果呢?
回复 支持 反对

使用道具 举报

36

主题

513

帖子

1万

积分

高级丹圣

Rank: 13Rank: 13Rank: 13Rank: 13

积分
15610
发表于 2025-4-5 08:52:50 | 显示全部楼层
mjy9921130 发表于 2025-4-5 04:43
dfl直接src和dst放一样的杂图,选择正训,把扭曲等自己想开的参数都打开,是不是也能实现和木兰预训练的 ...

不能
回复 支持 反对

使用道具 举报

7

主题

136

帖子

1050

积分

初级丹圣

Rank: 8Rank: 8

积分
1050

万事如意节日勋章

发表于 2025-5-3 22:03:53 | 显示全部楼层

dfl原版预训练不开扭曲有什么好处?木兰预训练开扭曲又是为什么呢?我用原版,src和dst放相同的杂图,开扭曲,开眼角当作预训练,然后将src换成专人正训,发现效果也很不错啊。当然这样预训练开扭曲,人脸就不会很清晰,特别是在预训练阶段皮肤训练不出来。
回复 支持 反对

使用道具 举报

QQ|Archiver|手机版|deepfacelab中文网 |网站地图

GMT+8, 2025-5-17 20:43 , Processed in 0.132235 second(s), 36 queries .

Powered by Discuz! X3.4

Copyright © 2001-2020, Tencent Cloud.

快速回复 返回顶部 返回列表