deepfacelab中文网

 找回密码
 立即注册(仅限QQ邮箱)
楼主: dfl9999

一直在验证一个想法

[复制链接]

0

主题

5

帖子

124

积分

禁止访问

积分
124
发表于 2024-11-11 20:59:00 | 显示全部楼层
提示: 作者被禁止或删除 内容自动屏蔽
回复 支持 反对

使用道具 举报

21

主题

277

帖子

3388

积分

高级丹圣

Rank: 13Rank: 13Rank: 13Rank: 13

积分
3388
 楼主| 发表于 2024-11-11 21:24:40 | 显示全部楼层
Eksha 发表于 2024-11-11 20:47
我擦  和我想到一块去了  一直都有这个想法   试了几次无奈电脑实在拉跨   加油期待你的实验结果 ...

就是试出来我才发啊
回复 支持 反对

使用道具 举报

21

主题

277

帖子

3388

积分

高级丹圣

Rank: 13Rank: 13Rank: 13Rank: 13

积分
3388
 楼主| 发表于 2024-11-11 21:25:50 | 显示全部楼层
本帖最后由 dfl9999 于 2024-11-12 05:55 编辑
伊利丹 发表于 2024-11-11 20:59
迭代了几百万过拟合的。一般600w以下应该不会过拟合

看机器,有的80万全程扭曲就能明显过拟合
回复 支持 反对

使用道具 举报

15

主题

1921

帖子

2万

积分

高级丹圣

Rank: 13Rank: 13Rank: 13Rank: 13

积分
27025

万事如意节日勋章

发表于 2024-11-11 21:27:40 | 显示全部楼层
dfl9999 发表于 2024-11-11 21:24
就是试出来我才发啊

那个过拟合的丹转专丹(比如跑几十w不理想)。
有没有试过,通过先破除过拟合,再训练专丹(跑相同的迭代),有没有改善?
回复 支持 反对

使用道具 举报

21

主题

277

帖子

3388

积分

高级丹圣

Rank: 13Rank: 13Rank: 13Rank: 13

积分
3388
 楼主| 发表于 2024-11-11 21:49:39 | 显示全部楼层
come3002 发表于 2024-11-11 21:27
那个过拟合的丹转专丹(比如跑几十w不理想)。
有没有试过,通过先破除过拟合,再训练专丹(跑相同的迭代 ...

没有改善,过拟合的很难跑出理想的效果,很多图都不带动一下的,即便改了也会受到前面训练的影响
回复 支持 反对

使用道具 举报

21

主题

277

帖子

3388

积分

高级丹圣

Rank: 13Rank: 13Rank: 13Rank: 13

积分
3388
 楼主| 发表于 2024-11-11 21:53:13 | 显示全部楼层
本帖最后由 dfl9999 于 2024-11-11 21:55 编辑
dfl9999 发表于 2024-11-11 21:49
没有改善,过拟合的很难跑出理想的效果,很多图都不带动一下的,即便改了也会受到前面训练的影响 ...

过拟合的丹只能src和dst对调或者新增50%以上的素材来破除,会覆写掉模型的一部分数据,代价太大了
回复 支持 反对

使用道具 举报

40

主题

861

帖子

4773

积分

高级丹圣

Rank: 13Rank: 13Rank: 13Rank: 13

积分
4773

万事如意节日勋章

发表于 2024-11-11 22:05:42 | 显示全部楼层
dfl9999 发表于 2024-11-11 21:53
过拟合的丹只能src和dst对调或者新增50%以上的素材来破除,会覆写掉模型的一部分数据,代价太大了 ...

你最近感悟的这些  滚石 和  wtxx8888 都说过   多翻翻他们的回帖
回复 支持 反对

使用道具 举报

21

主题

277

帖子

3388

积分

高级丹圣

Rank: 13Rank: 13Rank: 13Rank: 13

积分
3388
 楼主| 发表于 2024-11-11 22:19:00 | 显示全部楼层
pasanonic 发表于 2024-11-11 22:05
你最近感悟的这些  滚石 和  wtxx8888 都说过   多翻翻他们的回帖

没事,多讲讲等于巩固学习
回复 支持 反对

使用道具 举报

13

主题

128

帖子

1483

积分

初级丹圣

Rank: 8Rank: 8

积分
1483
发表于 2024-11-11 23:36:39 | 显示全部楼层
dfl9999 发表于 2024-11-11 20:35
小ae比如256以下肯定会顶数据,所以我都是开512,甚至可以考虑更大

图太杂,loss降不下去的吧
回复 支持 反对

使用道具 举报

2

主题

75

帖子

1097

积分

初级丹圣

Rank: 8Rank: 8

积分
1097
发表于 2024-11-12 04:00:27 | 显示全部楼层
dfl9999 发表于 2024-11-11 20:32
我这一个半月都在试这个,貌似是可行的,常规的训练方法局限性太大了

之前也看过许多这样对练的讨论,可能是我的资质驽钝,直到你这篇帖子我才恍然大悟
等我手上这个练完,就来试试你的办法!
谢谢楼主!感恩楼主!
回复 支持 反对

使用道具 举报

QQ|Archiver|手机版|deepfacelab中文网 |网站地图

GMT+8, 2024-11-21 18:41 , Processed in 0.136392 second(s), 32 queries .

Powered by Discuz! X3.4

Copyright © 2001-2020, Tencent Cloud.

快速回复 返回顶部 返回列表