deepfacelab中文网

 找回密码
 立即注册(仅限QQ邮箱)
查看: 191|回复: 6

预训练开了学习率和梯度对后期的正训有没有什么影响

[复制链接]

44

主题

1009

帖子

5497

积分

高级丹圣

Rank: 13Rank: 13Rank: 13Rank: 13

积分
5497

万事如意节日勋章开心娱乐节日勋章

 楼主| 发表于 7 天前 | 显示全部楼层 |阅读模式
星级打分
  • 1
  • 2
  • 3
  • 4
  • 5
平均分:NAN  参与人数:0  我的评分:未评
如题  
回复

使用道具 举报

21

主题

223

帖子

4383

积分

高级丹圣

Rank: 13Rank: 13Rank: 13Rank: 13

积分
4383
发表于 7 天前 | 显示全部楼层
预训练就开不了学习率和扭曲,开梯度没影响
image.png
这些参数固定了的
image.png
回复 支持 反对

使用道具 举报

44

主题

1009

帖子

5497

积分

高级丹圣

Rank: 13Rank: 13Rank: 13Rank: 13

积分
5497

万事如意节日勋章开心娱乐节日勋章

 楼主| 发表于 7 天前 | 显示全部楼层
fghfdg 发表于 2025-3-26 18:39
预训练就开不了学习率和扭曲,开梯度没影响

这些参数固定了的

专丹 单src  杂dst
回复 支持 反对

使用道具 举报

34

主题

502

帖子

1万

积分

高级丹圣

Rank: 13Rank: 13Rank: 13Rank: 13

积分
12221
发表于 7 天前 | 显示全部楼层
本帖最后由 dfl9999 于 2025-3-27 06:21 编辑
fghfdg 发表于 2025-3-26 18:39
预训练就开不了学习率和扭曲,开梯度没影响

这些参数固定了的

只是预设禁用
回复 支持 反对

使用道具 举报

34

主题

502

帖子

1万

积分

高级丹圣

Rank: 13Rank: 13Rank: 13Rank: 13

积分
12221
发表于 6 天前 | 显示全部楼层
本帖最后由 dfl9999 于 2025-3-27 06:22 编辑

梯度不要提前开,会限制参数探索
回复 支持 反对

使用道具 举报

21

主题

223

帖子

4383

积分

高级丹圣

Rank: 13Rank: 13Rank: 13Rank: 13

积分
4383
发表于 6 天前 | 显示全部楼层
dfl9999 发表于 2025-3-26 23:57
只是预设禁用,你要开启也没拦着你

不是啊兄弟,这段就是_internal\DeepFaceLab\models\Model_SAEHD\Model.py里面的代码啊
当进入预训练模式(self.pretrain为True)时,强制覆盖用户设置的某些参数,使其在预训练阶段无效。通过 self.options_show_override 字典,直接覆盖特定参数的配置值。即使用户在训练配置中打开了 gan_power=0.1 或 random_warp=True,这些设置会在预训练时被强制重置为代码中指定的值(如 0.0 或 False)。options_show_override 的优先级通常高于用户配置文件或界面设置。用户配置 → 默认参数 → options_show_override(最终生效)。
回复 支持 反对

使用道具 举报

34

主题

502

帖子

1万

积分

高级丹圣

Rank: 13Rank: 13Rank: 13Rank: 13

积分
12221
发表于 6 天前 | 显示全部楼层
fghfdg 发表于 2025-3-27 01:13
不是啊兄弟,这段就是_internal\DeepFaceLab\models\Model_SAEHD\Model.py里面的代码啊
当进入预训练模式 ...

木兰架构预训练扭曲是可以开的,可能架构不一样吧
回复 支持 反对

使用道具 举报

QQ|Archiver|手机版|deepfacelab中文网 |网站地图

GMT+8, 2025-4-2 15:05 , Processed in 0.112111 second(s), 35 queries .

Powered by Discuz! X3.4

Copyright © 2001-2020, Tencent Cloud.

快速回复 返回顶部 返回列表