直播live丹（带效果dfm），低配8g小显存福音。

bbking2018

参考知乎如何选择模型训练的batch size和learning rate - 知乎。
对于一个固定的学习率，存在一个最优的batchsize能够最大化测试精度，这个batchsize和学习率以及训练集的大小正相关。
如果增加了学习率，那么batch size最好也跟着增加，这样收敛更稳定。
尽量使用大的学习率，因为很多研究都表明更大的学习率有利于提高泛化能力。如果真的要衰减，可以尝试其他办法，比如增加batch size，学习率对模型的收敛影响真的很大，慎重调整。

bbking2018

gezhenhai 发表于 2024-2-28 18:53
4060  BS可以开到18？

不开gan的情况下我i5 13490f RTX4060 8g 32g内存 把模型优化器丢个CPU跑，最高跑到BS38(关扭曲，关gan)，延迟1600-1800ms，但是不稳定，有时会报错，有时有能跑。最稳定的是BS34，你可以用自己的电脑测试一下。

gezhenhai

bbking2018 发表于 2024-2-28 19:38
不开gan的情况下我i5 13490f RTX4060 8g 32g内存 把模型优化器丢个CPU跑，最高跑到BS38(关扭曲，关gan)， ...

我cpui5 12900f 32G内存 4060ti16G显卡，我还一直BS开8跑呢，原来可以开那么大？BS开打有什么好处啊？

gezhenhai

对了 你的电脑配置和我的差不多，你用dflive直播时，音画能同步吗？我的有延时，画面慢于声音。

gezhenhai

bbking2018 发表于 2024-2-28 19:35
参考知乎如何选择模型训练的batch size和learning rate - 知乎。
对于一个固定的学习率，存在一个最优的bat ...

学习了不就一个开关嘛，要么开要么关，这还能调整大小？

Dujy

gezhenhai 发表于 2024-2-28 19:01
BS开的越大是不是训练速度越快啊？

理论上是的，但也关系到神经数，但这对计算的压力也是剧增的..

bbking2018

gezhenhai 发表于 2024-2-28 19:52
对了 你的电脑配置和我的差不多，你用dflive直播时，音画能同步吗？我的有延时，画面慢于声音。 ...

几十块钱的视频采集卡或者几百块钱的采集卡值得你拥有。如果以后出支持usb4的win11的话延迟就会更低。

bbking2018

gezhenhai 发表于 2024-2-28 19:47
我cpui5 12900f 32G内存 4060ti16G显卡，我还一直BS开8跑呢，原来可以开那么大？BS开打有什么好处啊？
...

你bs每次2的倍数测试这往上加呀，测试到极限且稳定就好。还有时不时看src预览和原图是不是越来越像，loss值有时不准的。关键是src的预览图无限接近原图。说明你的所有设置已经非常合理、稳定、有效。
比如说我过去只看loss值，loss降到0.03左右，但是现在看的是src的预览图和原图的相似度，如：睫毛、眼泪、唇纹、某些有辨识度的细节等。这才是关键。

gezhenhai

bbking2018 发表于 2024-2-28 20:22
几十块钱的视频采集卡或者几百块钱的采集卡值得你拥有。如果以后出支持usb4的win11的话延迟就会更低。
...

用的爱兔摄像头，直接usb插电脑，不用采集卡，摄像头也是免驱动的。但是我dflive分辨率调低，调到1280*720，还有延时。

gezhenhai

bbking2018 发表于 2024-2-28 20:25
你bs每次2的倍数测试这往上加呀，测试到极限且稳定就好。还有时不时看src预览和原图是不是越来越像，loss ...

好的，直接看效果，谢谢啦！