deepfacelab中文网

 找回密码
 立即注册(仅限QQ邮箱)
查看: 231|回复: 1

在如调整lr_d_ratio的参数?

[复制链接]

9

主题

29

帖子

548

积分

高级丹师

Rank: 5Rank: 5

积分
548
 楼主| 发表于 2025-2-22 18:17:59 | 显示全部楼层 |阅读模式
星级打分
  • 1
  • 2
  • 3
  • 4
  • 5
平均分:NAN  参与人数:0  我的评分:未评
我用deepseek部了模型参数是否正确,它给出的解释是”调整学习率 lr:当前学习率为 5e - 05,可以尝试稍微提高学习率,比如调整到 8e - 05 或 1e - 04。较高的学习率可以让模型在训练过程中更快地更新参数,但要注意如果学习率过高,可能会导致模型无法收敛。调整 lr_d_ratio:当前 lr_d_ratio 为 0.3,可以适当降低该值,例如降低到 0.2。这个参数控制着判别器的学习率比例,降低它可以相对提高生成器对SRC特征的学习能力。“但是找不到在哪调整?
回复

使用道具 举报

14

主题

3369

帖子

1万

积分

高级丹圣

Rank: 13Rank: 13Rank: 13Rank: 13

积分
18120

真我风采勋章万事如意节日勋章

发表于 2025-2-22 18:56:21 | 显示全部楼层
本帖最后由 wtxx8888 于 2025-2-22 19:02 编辑

要打开lr_dropout(择优式学习,即以前的学习率下降),才会有lr_d_ratio(择优率)让你改(只限我发的合体版)

上级参数lr_dropout不打开,你看不见下级参数lr_d_ratio(它不属于lr管,归lr_dropout管)。
回复 支持 反对

使用道具 举报

QQ|Archiver|手机版|deepfacelab中文网 |网站地图

GMT+8, 2025-4-3 14:58 , Processed in 0.106346 second(s), 32 queries .

Powered by Discuz! X3.4

Copyright © 2001-2020, Tencent Cloud.

快速回复 返回顶部 返回列表