deepfacelab中文网

 找回密码
 立即注册(仅限QQ邮箱)
查看: 1270|回复: 7

loss越跑越高,是loss最小的那个效果最好?

[复制链接]

7

主题

97

帖子

578

积分

高级丹师

Rank: 5Rank: 5

积分
578
 楼主| 发表于 2023-2-27 06:33:02 | 显示全部楼层 |阅读模式
第一轮0.15,第三轮0.14后,后面几轮都是0.15,0.16多
回复

使用道具 举报

1

主题

15

帖子

523

积分

高级丹师

Rank: 5Rank: 5

积分
523

万事如意节日勋章

发表于 2023-3-2 23:02:21 | 显示全部楼层
k16576 发表于 2023-3-2 22:07
怎么看模型是不是过拟合了呀

我是看实际使用效果,比如我有个训练图组里有几张眼镜的照片,眼镜上有反光,过拟合的模型每次都会搞出这个反光,甚至有时候反光点会出现在脸上
回复 支持 1 反对 0

使用道具 举报

0

主题

25

帖子

336

积分

初级丹师

Rank: 3Rank: 3

积分
336
发表于 2023-3-2 22:45:26 | 显示全部楼层
k16576 发表于 2023-3-2 22:07
怎么看模型是不是过拟合了呀

出的图姿势衣服背景固定,很难切换。
回复 支持 1 反对 0

使用道具 举报

0

主题

25

帖子

336

积分

初级丹师

Rank: 3Rank: 3

积分
336
发表于 2023-2-27 14:03:22 | 显示全部楼层
loss有影响,但是没那么大,你最好把中间几个迭代版本也保存下来,然后几个版本一起试,看看哪个效果好
回复 支持 反对

使用道具 举报

1

主题

15

帖子

523

积分

高级丹师

Rank: 5Rank: 5

积分
523

万事如意节日勋章

发表于 2023-2-27 21:34:38 | 显示全部楼层
感觉不一定,训练过程很有可能出现过拟合现象,特别是在训练素材质量高低不一的情况下,随着迭代数量增多虽然loss基本上逐渐降低,但有时候会学习上一些莫名其妙的特征,影响模型质量
回复 支持 反对

使用道具 举报

11

主题

209

帖子

1764

积分

初级丹圣

Rank: 8Rank: 8

积分
1764
发表于 2023-3-2 22:07:06 | 显示全部楼层
z10ym 发表于 2023-2-27 21:34
感觉不一定,训练过程很有可能出现过拟合现象,特别是在训练素材质量高低不一的情况下,随着迭代数量增多虽 ...

怎么看模型是不是过拟合了呀
回复 支持 反对

使用道具 举报

0

主题

11

帖子

105

积分

高级丹童

Rank: 2

积分
105
发表于 2023-3-3 09:02:15 | 显示全部楼层
过拟合了就换学习率再练
回复 支持 反对

使用道具 举报

0

主题

27

帖子

224

积分

初级丹师

Rank: 3Rank: 3

积分
224
发表于 2023-4-25 13:02:21 | 显示全部楼层
你是不是用了cosine with restart的调度器
回复 支持 反对

使用道具 举报

QQ|Archiver|手机版|deepfacelab中文网 |网站地图

GMT+8, 2024-5-21 03:50 , Processed in 0.081971 second(s), 11 queries , Redis On.

Powered by Discuz! X3.4

Copyright © 2001-2020, Tencent Cloud.

快速回复 返回顶部 返回列表