Quick96模型都能报错，搞不懂，论坛里找的802版本，求解

wanghao

星级打分

• 1
• 2
• 3
• 4
• 5

平均分:NAN  参与人数:0  我的评分:未评

选择一个已保存的模型，或输入名称以创建新模型。
[r] : 重命名
[d] : 删除
[0] : New-2 - 最新
:
0
正在加载New-2_Quick96模型...
选择一个或多个GPU idx（以逗号分隔）。
[CPU] : CPU
  [0] : GeForce GTX 1650
[0] 选择哪些GPU索引？ :
0
初始化模型: 100%|########################################################################| 5/5 [00:02<00:00,  2.42it/s]
加载实例: 100%|#####################################################################| 433/433 [00:01<00:00, 395.87it/s]
加载实例: 100%|#####################################################################| 620/620 [00:01<00:00, 352.55it/s]
2021-02-24 20:08:43.453713: E tensorflow/stream_executor/cuda/cuda_driver.cc:806] failed to allocate 1.36G (1462134272 bytes) from device: CUDA_ERROR_OUT_OF_MEMORY: out of memory
=====================模型记录 =====================
==                                               ==
==             模型名称 : New-2_Quick96          ==
==                                               ==
==              当前迭代: 6127                   ==
==                                               ==
==------------------ 模型选项 -------------------==
==                                               ==
==        batch_size: 4                          ==
==                                               ==
==------------------ 运行模式 -------------------==
==                                               ==
==              设备索引: 0                      ==
==                名称: GeForce GTX 1650         ==
==                显存: 4.00GB                   ==
==                                               ==
===================================================

yws233

CUDA_ERROR_OUT_OF_MEMORY
cuda版本对不

xiaoxin

显存不足，你可以试试其他低的参数。

wanghao

自己先顶一下，实在找不到原因，不知道是不是版本有问题。笔记本性能确实也不太适合跑这个。

后会无期

跑啥Quick96 啊  ，你这卡跑个低参数的 df-ud模型没啥问题吧

wanghao

dflk3559 发表于 2021-2-25 08:40
跑啥Quick96 啊  ，你这卡跑个低参数的 df-ud模型没啥问题吧

我萌新一个，有很多东西不懂
刚刚来到这里拿到802试了一下子，之前用的版本也是常常这样报错，但是报错了还可以继续跑，可以合成，合成时也常常报错，还能继续调试图像出结果，一直就这么用着，被折腾的不要不要的。
别的地方看到说1650勉强可以跑起128-bs6，不知道为啥我这儿连个quick96都总有问题。

后会无期

wanghao 发表于 2021-2-25 08:52
我萌新一个，有很多东西不懂
刚刚来到这里拿到802试了一下子，之前用的版本也是常常这样报错，但是报错 ...

你去看看坛主教程区的参数 128 df-ud 全默认bs6应该没问题

wanghao

自顶一个，见证成长

1234qwer111

路过看看

wolf1688888

努力学习拼命攒丹