新人求教，为什么跑底丹训练会爆显存？？

朱雀陵光

星级打分

• 1
• 2
• 3
• 4
• 5

平均分:NAN  参与人数:0  我的评分:未评

我在用【RTT 224 model 官方预训练模型V2】和另一个【384底丹 430万】跑自己的专模时，只要打开“place models and opitimzer on GPU”， 就一定会出现OOM错误。

我的虚拟内存已经扩大到200G固态硬盘空间，显卡是3070ti 8G，为什么还会出现这种情况？

经坛友提醒，补充说明，我已经将BS降低到了2，仍然会OOM。如果是默认的8，当然也爆了。


请大佬不吝赐教！

wtxx8888

“place models and opitimzer on GPU”这项需要占用大量显存，极限BS已经占满显存，开启此项必炸。

想要开此项，必须减低BS数

朱雀陵光

wtxx8888 发表于 2023-12-17 20:28
“place models and opitimzer on GPU”这项需要占用大量显存，极限BS已经占满显存，开启此项必炸。

想要 ...

忘了说明，我已经将BS减到了2，仍然爆掉

wtxx8888

朱雀陵光 发表于 2023-12-17 20:30
忘了说明，我已经将BS减到了2，仍然爆掉

那就是满足不了显存要求，要么换丹要么忍受低速迭代。要么去用ICE版的RG优化引擎

朱雀陵光

wtxx8888 发表于 2023-12-17 20:34
那就是满足不了显存要求，要么换丹要么忍受低速迭代。要么去用ICE版的RG优化引擎 ...

大佬有推荐的通用丹么？

wtxx8888

朱雀陵光 发表于 2023-12-17 20:36
大佬有推荐的通用丹么？

6G没什么太好的丹，参数不是过高浪费性能，就是低了不够清晰。
我也6G的卡，224解析度里选吧，不推荐用更高解析度的，低参效果惨不忍睹。

朱雀陵光

wtxx8888 发表于 2023-12-17 20:41
6G没什么太好的丹，参数不是过高浪费性能，就是低了不够清晰。
我也6G的卡，224解析度里选吧，不推荐用更 ...

感谢指点。

还有最后一个问题想请教，我的3070ti 明明是8G显存，为什么DLP显示只有5.33GB？难道系统已经占用了2.7G，剩下可能的只有5.33G？

wtxx8888

朱雀陵光 发表于 2023-12-17 20:46
感谢指点。

还有最后一个问题想请教，我的3070ti 明明是8G显存，为什么DLP显示只有5.33GB？难道系统已经 ...

额，8G卡啊不显示的那部分，是被WINDOWS强制划走，为硬件保留区。是不允许其他程序调用的，用来保证系统硬件的稳定性。
8G卡推荐256高点参数的，

朱雀陵光

wtxx8888 发表于 2023-12-17 20:54
额，8G卡啊不显示的那部分，是被WINDOWS强制划走，为硬件保留区。是不允许其他程序调用的，用来保证系统硬 ...

好的，非常感谢

若苗瞬

朱雀陵光 发表于 2023-12-17 20:46
感谢指点。

还有最后一个问题想请教，我的3070ti 明明是8G显存，为什么DLP显示只有5.33GB？难道系统已经 ...

那你的差别有点大呢，

看这个6GB的。

设备名称: NVIDIA GeForce GTX 1060 6GB
显存大小: 4.51GB

不过显存大些似乎被占得也更多，。

设备名称: NVIDIA GeForce RTX 4060 Ti
显存大小: 13.26GB