【不水】2024/9/17直观感受一下重训的效果

wtxx8888

奇奇怪怪的ID 发表于 2024-9-18 21:22
应该是更平滑了，可以直接将循环数改为读取周期数

最大比例尺，才能看到丁点的锯齿。


数据绝对稳定的下降了，看来20权重（正常），20次重复，相当的均衡。
又一个小时的数据。

奇奇怪怪的ID

wtxx8888 发表于 2024-9-18 22:07
最大比例尺，才能看到丁点的锯齿。

我现在想的是改成  记录重复过程的损失和迭代次数，但是不计算重复过程的损失，用这个法子排除控制台的均值干扰

wtxx8888

奇奇怪怪的ID 发表于 2024-9-18 22:25
我现在想的是改成  记录重复过程的损失和迭代次数，但是不计算重复过程的损失，用这个法子排除控制台的均 ...

你的筛选想法吧？我基本都是靠手动人工，自动都不太靠谱。。。

奇奇怪怪的ID

wtxx8888 发表于 2024-9-18 22:52
你的筛选想法吧？我基本都是靠手动人工，自动都不太靠谱。。。

自动确实不太靠谱，因为我导出的是模型相对素材的Loss，所以只能说明导出的loss是模型的学习程度，并不代表素材的清晰或错误或模糊，我上面说的其实是为了控制台输出值更加精准，不受重复训练的过程loss影响（因为计算的是上次保存到本次保存的所有loss均值）

come3002

感谢分享

wtxx8888

奇奇怪怪的ID 发表于 2024-9-18 23:02
自动确实不太靠谱，因为我导出的是模型相对素材的Loss，所以只能说明导出的loss是模型的学习程度，并不代 ...

我发了目前的代码，让大家都测试测试，新改的周期训练。。。

奇奇怪怪的ID

wtxx8888 发表于 2024-9-18 23:19
我发了目前的代码，让大家都测试测试，新改的周期训练。。。

你该发新帖了，很多人看不到你那个老帖子，我当初也是在论坛搜索大loss才搜到你的帖子的

我这边还要打磨一下，总感觉哪里不对劲

wtxx8888

奇奇怪怪的ID 发表于 2024-9-18 23:44
你该发新帖了，很多人看不到你那个老帖子，我当初也是在论坛搜索大loss才搜到你的帖子的

我这边还要打磨 ...

额好吧，我再发个新帖子吧。

wtxx8888

奇奇怪怪的ID 发表于 2024-9-18 23:44
你该发新帖了，很多人看不到你那个老帖子，我当初也是在论坛搜索大loss才搜到你的帖子的

我这边还要打磨 ...

我现在的训练，完美坏了，不然也不会发出去。
你的哪里不对劲？

奇奇怪怪的ID

wtxx8888 发表于 2024-9-19 00:03
我现在的训练，完美坏了，不然也不会发出去。
你的哪里不对劲？

我一时半会儿说不出来，就是下意识觉得不对劲....  可能是见效慢吧，加上我想排除复训的影响计算均值