deepfacelab中文网

 找回密码
 立即注册(仅限QQ邮箱)
查看: 248|回复: 1

【水帖】2024/9/16随记

[复制链接]

17

主题

148

帖子

1798

积分

初级丹圣

Rank: 8Rank: 8

积分
1798
 楼主| 发表于 2024-9-16 05:04:47 | 显示全部楼层 |阅读模式
星级打分
  • 1
  • 2
  • 3
  • 4
  • 5
平均分:NAN  参与人数:0  我的评分:未评
本帖最后由 奇奇怪怪的ID 于 2024-9-16 06:34 编辑

在办公室睡不着,连了一下家里电脑,将前几天的想法付诸实践


2024/9/14 5:46  突发奇想,将模型从一个轮次一个轮次地训练改为判断批次样本loss是否≤0.031,不符合条件的将同一批次样本重复训练到loss≤0.03再训练下一个批次,是否可行,恩...瞎几把想想



image.png


我又改动了周期性训练的代码 ,将原本最高loss的批次样本从训练一次和自定义训练次数改为周期内最高loss批次样本只有src_loss和dst_loss都低于0.05或达到自定义重训次数后才会进行下一批次的迭代

我把自定义次数设置为100的结果


image.png

image.png

本来是想直接给正常训练加这个判断的,还剩了那么一丁点的理智,先拿周期训练试试


鬼知道会发生什么,明天早上给大家反馈一下,折腾久了开始困了,睡觉睡觉






评分

参与人数 1贡献 +1 收起 理由
pasanonic + 1

查看全部评分

回复

使用道具 举报

17

主题

148

帖子

1798

积分

初级丹圣

Rank: 8Rank: 8

积分
1798
 楼主| 发表于 2024-9-16 09:14:38 | 显示全部楼层
宣告失败! 循环太多次数偶尔会引起这种情况

image.png

我还是不放心,恢复到50次的常规次数
回复 支持 反对

使用道具 举报

QQ|Archiver|手机版|deepfacelab中文网 |网站地图

GMT+8, 2024-12-4 01:09 , Processed in 0.117963 second(s), 36 queries .

Powered by Discuz! X3.4

Copyright © 2001-2020, Tencent Cloud.

快速回复 返回顶部 返回列表