预训练素材转正训后与SRC素材重複

qwwwwwwg33

星级打分

• 1
• 2
• 3
• 4
• 5

平均分:NAN  参与人数:0  我的评分:未评

之前在论坛胡乱学习的时候，印象中有听人这么说过：


预训练的图像素材若有A，若之后模型转正训，SRC若为A则出来的效果不佳。
举个例子：我预训练的时候使用1000多张幂幂的各个角度高清图，
模型练成后转正训，如果我又要使用幂幂为SRC炼专丹，则出来的成果不是很好。


请问各位大佬是有这麽一说存在吗？还是我记错了？
如果确实如此这原理是什麽？
在预训练模型已经完成的情形下，若还要继续用重複地SRC有什麽方式可以避免成果不佳？

windjet

qwwwwwwg33 发表于 2023-6-18 14:45
感谢大佬解惑，再请教个问题，您指的"过多"某个专人，如果我预训练时单一人有到500张是否算过多？ ...

这个应该是按比例来说才好，个人感觉如果你的预训练模型是为了以后对应各个不同的专人模型用的，某个专人的图片最好控制在5%以下为好，比如你在一万张预训练图片中加入了500张某个专人的图片应该是没什么问题的，但5%也纯属经验谈，仅作为参考值。
但不要只拿专人图片来训练预训练模型，哪怕只是是300张专人，如果你只放这个src来训练，那练个十几二十万也变成了这个专人的专有模型，再换其他人也会增加为了抵消其影响的训练成本，就不能称为预训练模型了。

windjet

你是不是记反了，预训练中如果有某个src，正训时应该能加快这个src的训练效率，质量的话和你当时预训练素材有关，但也不用太在意，毕竟是预训练，有那么个映射就行，正训时的src质量才是决定性因素。
但要注意，预训练时不要过于加入某个专人过多的图片，不然这个预训练模型要是正训其他专人时会或多或少带有那个专人的影子，消除要花训练成本，除非你的本来目的就是只想正训练那个专人。

seancai110

现在论坛炼丹好像没这么多讲究了，
看几年前的帖子又是预训练，又是分阶段。。。
现在显卡上来了，大家都是拿着神丹直接练。

qwwwwwwg33

windjet 发表于 2023-6-18 13:27
你是不是记反了，预训练中如果有某个src，正训时应该能加快这个src的训练效率，质量的话和你当时预训练素材 ...

感谢大佬解惑，再请教个问题，您指的"过多"某个专人，如果我预训练时单一人有到500张是否算过多？

qwwwwwwg33

windjet 发表于 2023-6-18 16:19
这个应该是按比例来说才好，个人感觉如果你的预训练模型是为了以后对应各个不同的专人模型用的，某个专人 ...

理解了，感謝大佬解惑

er232

学习！