deepfacelab中文网

 找回密码
 立即注册(仅限QQ邮箱)
12
返回列表 发新帖
楼主: dfl9999

关于炸丹跟充分训练的冲突和悖论

[复制链接]

9

主题

2103

帖子

1万

积分

高级丹圣

Rank: 13Rank: 13Rank: 13Rank: 13

积分
11743

真我风采勋章万事如意节日勋章

发表于 7 天前 | 显示全部楼层
本帖最后由 wtxx8888 于 2024-7-6 23:55 编辑
roy777 发表于 2024-7-6 22:02
梯度裁剪要开吗?我都没注意这个参数,一直关闭的

个人意见,SRC或DST,任一个进入LOSS 0.2以下,就开梯度裁剪。
开晚了,LOSS容易下溢炸丹。
显示0.2时,实际上已经就有0.1以下的。
固定显示的那个,是平均值。
如最低0.1,最高0.3,固定显示的平均就是0.2
最低0.05,最高0.35,固定显示的平均也是0.2,懂了没?
你无法确认最低是多少,所以0.2就开稳点
回复 支持 反对

使用道具 举报

QQ|Archiver|手机版|deepfacelab中文网 |网站地图

GMT+8, 2024-7-13 10:52 , Processed in 0.076479 second(s), 8 queries , Redis On.

Powered by Discuz! X3.4

Copyright © 2001-2020, Tencent Cloud.

快速回复 返回顶部 返回列表