256-liae-udt-480-120-120-40扭曲预训练100w

yxyao

星期六中午 发表于 2024-11-6 15:26
引用的是wtxx8888的帖子

万人预训练不会过拟合的，而且我还开了大loss。只不过是直接改的代码，没有添加hyperparameter。
另外，wtxx大佬的解释要看目的了，我个人控制变量测试过，不开扭曲的万人-万人预训练，转单人-万人正训的话收敛非常慢，和比没有预训练的train from scratch快不了多少，而开启扭曲的预训练则明显要更快。
如果你还是不确定，你可以自己用一个低分辨率低参的丹做个简单的控制变量对比测试。当然如果怕麻烦，还是听一些经验丰富的大佬的回复是最好的，比如wtxx。我只是个初学者，发模型也是交流学习的作用，甚至是给你提供对比素材的，毕竟我数据集用的就是原版自带的，复现也是很简单。

yxyao

星期六中午 发表于 2024-11-6 15:26
引用的是wtxx8888的帖子

因为我个人预训练的目的就是为了正训能够尽可能快地收敛。如果不能做到这一点，预训练就失去了最大的意义。而为了最快地收敛，预训练时开扭曲是最有效的。这是我经过实验对比的结果。

星期六中午

yxyao 发表于 2024-11-6 20:11
因为我个人预训练的目的就是为了正训能够尽可能快地收敛。如果不能做到这一点，预训练就失去了最大的意义 ...

开扭曲预训之后正训没有出现过拟合是吗？就是第五列还是成像清晰且是那个单人的头像是吗

yxyao

星期六中午 发表于 2024-11-6 20:23
开扭曲预训之后正训没有出现过拟合是吗？就是第五列还是成像清晰且是那个单人的头像是吗 ...

是的，但是要记得删ab

星期六中午

yxyao 发表于 2024-11-7 05:43
是的，但是要记得删ab

你是说预训转正训，要删ab文件是吗

yxyao

星期六中午 发表于 2024-11-7 13:21
你是说预训转正训，要删ab文件是吗

是的，我每次对src或dst做出任何改动都会删ab

星期六中午

如果我想练鼻子部位带遮挡的图，删AB后，我是把二三十张这样的图画好遮罩，只有这么多图放到dst里继续训练？还是在dst里追加这些图应用遮罩再训练遮罩再继续正训呢？

yxyao

星期六中午 发表于 2024-11-11 19:26
如果我想练鼻子部位带遮挡的图，删AB后，我是把二三十张这样的图画好遮罩，只有这么多图放到dst里继续训练 ...

不好意思这两天比较忙刚看到，
都可以，不过如果只放这些的话不要练太久，练一段时间后就把之间的dst重新加回来，记得再次删AB
如果怕麻烦，就直接追加，耐心练就行

星期六中午

yxyao 发表于 2024-11-13 21:37
不好意思这两天比较忙刚看到，
都可以，不过如果只放这些的话不要练太久，练一段时间后就把之间的dst重新 ...

追加遮罩图步骤是：画好遮罩图->训练遮罩->应用遮罩->继续预训练或正训，对吧？
追加遮罩图后遮罩模型训练多少迭代才能将这样的遮挡效果学到？

yxyao

星期六中午 发表于 2024-11-14 14:53
追加遮罩图步骤是：画好遮罩图->训练遮罩->应用遮罩->继续预训练或正训，对吧？
追加遮罩图后遮罩模型训练 ...

没有固定数量，看预览图效果满意就行