一直看到说泛化，其实泛化是啥意思？？怎么看泛化行不行

nde2024

1. 定期更换，这个定期大概多久：

定期更换数据集的时间长短并没有固定的标准，主要取决于数据集的大小和多样性以及你显卡的算力。

这样的做的原因是:为了避免模型对特定数据的过度拟合。

你可以如我之前说的，隔一段时间做一次测试集的测试，有过几次经验后，你就知道需要多少天更换或者增加素材了。


2. 需要训练到本次数据集清晰吗，例如细节，像牙缝啊等等之类的：

在预训练阶段，泛化性应该优先于细节。泛化性和细节常常是对立的——追求更高的细节通常会导致模型对训练数据的过拟合，从而影响泛化性。

因此，不需要在预训练阶段追求高细节以及过低的LOSS值。细节方面，可以留给后续的正训练阶段来进一步优化。


3. 一直开着扭曲不会过拟合吗

随机扭曲不会导致过拟合，反而有助于避免过拟合。