训练报错

leoqiang10

星级打分

• 1
• 2
• 3
• 4
• 5

平均分:NAN  参与人数:0  我的评分:未评

求助各位大佬~


论坛里买滚石大佬的杨幂万能模型

是我还要改什么设置嘛？直接训练或者我自己改都不行。。。



Model name: DF-UD256_SAEHD                     ==
==                                                           ==
==     Current iteration: 3490014                            ==
==                                                           ==
==---------------------- Model Options ----------------------==
==                                                           ==
==            resolution: 256                                ==
==             face_type: f                                  ==
==     models_opt_on_gpu: True                               ==
==                 archi: df-ud                              ==
==               ae_dims: 352                                ==
==                e_dims: 88                                 ==
==                d_dims: 88                                 ==
==           d_mask_dims: 28                                 ==
==       masked_training: True                               ==
==           uniform_yaw: False                              ==
==            lr_dropout: y                                  ==
==           random_warp: True                               ==
==             gan_power: 0.0                                ==
==       true_face_power: 0.1                                ==
==      face_style_power: 0.0                                ==
==        bg_style_power: 0.0                                ==
==               ct_mode: rct                                ==
==              clipgrad: True                               ==
==              pretrain: False                              ==
==       autobackup_hour: 12                                 ==
== write_preview_history: False                              ==
==           target_iter: 0                                  ==
==           random_flip: False                              ==
==            batch_size: 8                                  ==
==       eyes_mouth_prio: True                               ==
==             adabelief: False                              ==
==        gan_patch_size: 32                                 ==
==              gan_dims: 16                                 ==
==                  猫の汉化: 猫猫YES                              ==
==                  出售仙丹: QQ564646676                        ==
==                  免费教程: 人脸素材                               ==
==                  大神答疑: 进阶技巧                               ==
==                  人脸素材: 请访问dfldata.xyz                     ==
==       random_src_flip: False                              ==
==       random_dst_flip: True                               ==
==                                                           ==
==----------------------- Running On ------------------------==
==                                                           ==
==          Device index: 0                                  ==
==                  Name: NVIDIA GeForce RTX 3070 Laptop GPU ==
==                  VRAM: 6.45GB                             ==
==                                                           ==
===============================================================
正在开始. 按 "Enter"停止训练并保存模型.
Error: OOM when allocating tensor of shape [5,5,176,352] and type float
         [[node src_dst_opt_1/ones_4 (defined at D:\BaiduNetdiskDownload\图形汉化版2\512版本—30系显卡版本\DeepFaceLab_NVIDIA_RTX3000_series\_internal\DeepFaceLab\core\leras\ops\__init__.py:207) ]]

Original stack trace for 'src_dst_opt_1/ones_4':
  File "threading.py", line 884, in _bootstrap
  File "threading.py", line 916, in _bootstrap_inner
  File "threading.py", line 864, in run
  File "D:\BaiduNetdiskDownload\图形汉化版2\512版本—30系显卡版本\DeepFaceLab_NVIDIA_RTX3000_series\_internal\DeepFaceLab\mainscripts\Trainer.py", line 59, in trainerThread
    debug=debug)
  File "D:\BaiduNetdiskDownload\图形汉化版2\512版本—30系显卡版本\DeepFaceLab_NVIDIA_RTX3000_series\_internal\DeepFaceLab\models\ModelBase.py", line 191, in __init__
    self.on_initialize()
  File "D:\BaiduNetdiskDownload\图形汉化版2\512版本—30系显卡版本\DeepFaceLab_NVIDIA_RTX3000_series\_internal\DeepFaceLab\models\Model_SAEHD\Model.py", line 331, in on_initialize
    self.src_dst_opt.initialize_variables (self.src_dst_trainable_weights, vars_on_cpu=optimizer_vars_on_cpu, lr_dropout_on_cpu=self.options['lr_dropout']=='cpu')
  File "D:\BaiduNetdiskDownload\图形汉化版2\512版本—30系显卡版本\DeepFaceLab_NVIDIA_RTX3000_series\_internal\DeepFaceLab\core\leras\optimizers\RMSprop.py", line 41, in initialize_variables
    lr_rnds = [ nn.random_binomial( v.shape, p=self.lr_dropout, dtype=v.dtype) for v in trainable_weights ]
  File "D:\BaiduNetdiskDownload\图形汉化版2\512版本—30系显卡版本\DeepFaceLab_NVIDIA_RTX3000_series\_internal\DeepFaceLab\core\leras\optimizers\RMSprop.py", line 41, in <listcomp>
    lr_rnds = [ nn.random_binomial( v.shape, p=self.lr_dropout, dtype=v.dtype) for v in trainable_weights ]
  File "D:\BaiduNetdiskDownload\图形汉化版2\512版本—30系显卡版本\DeepFaceLab_NVIDIA_RTX3000_series\_internal\DeepFaceLab\core\leras\ops\__init__.py", line 207, in random_binomial
    array_ops.ones(shape, dtype=dtype), array_ops.zeros(shape, dtype=dtype))
  File "D:\BaiduNetdiskDownload\图形汉化版2\512版本—30系显卡版本\DeepFaceLab_NVIDIA_RTX3000_series\_internal\python-3.6.8\lib\site-packages\tensorflow\python\util\dispatch.py", line 201, in wrapper
    return target(*args, **kwargs)
  File "D:\BaiduNetdiskDownload\图形汉化版2\512版本—30系显卡版本\DeepFaceLab_NVIDIA_RTX3000_series\_internal\python-3.6.8\lib\site-packages\tensorflow\python\ops\array_ops.py", line 3132, in ones
    output = fill(shape, constant(one, dtype=dtype), name=name)
  File "D:\BaiduNetdiskDownload\图形汉化版2\512版本—30系显卡版本\DeepFaceLab_NVIDIA_RTX3000_series\_internal\python-3.6.8\lib\site-packages\tensorflow\python\util\dispatch.py", line 201, in wrapper
    return target(*args, **kwargs)
  File "D:\BaiduNetdiskDownload\图形汉化版2\512版本—30系显卡版本\DeepFaceLab_NVIDIA_RTX3000_series\_internal\python-3.6.8\lib\site-packages\tensorflow\python\ops\array_ops.py", line 239, in fill
    result = gen_array_ops.fill(dims, value, name=name)
  File "D:\BaiduNetdiskDownload\图形汉化版2\512版本—30系显卡版本\DeepFaceLab_NVIDIA_RTX3000_series\_internal\python-3.6.8\lib\site-packages\tensorflow\python\ops\gen_array_ops.py", line 3357, in fill
    "Fill", dims=dims, value=value, name=name)
  File "D:\BaiduNetdiskDownload\图形汉化版2\512版本—30系显卡版本\DeepFaceLab_NVIDIA_RTX3000_series\_internal\python-3.6.8\lib\site-packages\tensorflow\python\framework\op_def_library.py", line 750, in _apply_op_helper
    attrs=attr_protos, op_def=op_def)
  File "D:\BaiduNetdiskDownload\图形汉化版2\512版本—30系显卡版本\DeepFaceLab_NVIDIA_RTX3000_series\_internal\python-3.6.8\lib\site-packages\tensorflow\python\framework\ops.py", line 3536, in _create_op_internal
    op_def=op_def)
  File "D:\BaiduNetdiskDownload\图形汉化版2\512版本—30系显卡版本\DeepFaceLab_NVIDIA_RTX3000_series\_internal\python-3.6.8\lib\site-packages\tensorflow\python\framework\ops.py", line 1990, in __init__
    self._traceback = tf_stack.extract_stack()

Traceback (most recent call last):
  File "D:\BaiduNetdiskDownload\图形汉化版2\512版本—30系显卡版本\DeepFaceLab_NVIDIA_RTX3000_series\_internal\python-3.6.8\lib\site-packages\tensorflow\python\client\session.py", line 1375, in _do_call
    return fn(*args)
  File "D:\BaiduNetdiskDownload\图形汉化版2\512版本—30系显卡版本\DeepFaceLab_NVIDIA_RTX3000_series\_internal\python-3.6.8\lib\site-packages\tensorflow\python\client\session.py", line 1360, in _run_fn
    target_list, run_metadata)
  File "D:\BaiduNetdiskDownload\图形汉化版2\512版本—30系显卡版本\DeepFaceLab_NVIDIA_RTX3000_series\_internal\python-3.6.8\lib\site-packages\tensorflow\python\client\session.py", line 1453, in _call_tf_sessionrun
    run_metadata)
tensorflow.python.framework.errors_impl.ResourceExhaustedError: OOM when allocating tensor of shape [5,5,176,352] and type float
         [[{{node src_dst_opt_1/ones_4}}]]

During handling of the above exception, another exception occurred:

Traceback (most recent call last):
  File "D:\BaiduNetdiskDownload\图形汉化版2\512版本—30系显卡版本\DeepFaceLab_NVIDIA_RTX3000_series\_internal\DeepFaceLab\mainscripts\Trainer.py", line 136, in trainerThread
    iter, iter_time = model.train_one_iter()
  File "D:\BaiduNetdiskDownload\图形汉化版2\512版本—30系显卡版本\DeepFaceLab_NVIDIA_RTX3000_series\_internal\DeepFaceLab\models\ModelBase.py", line 472, in train_one_iter
    losses = self.onTrainOneIter()
  File "D:\BaiduNetdiskDownload\图形汉化版2\512版本—30系显卡版本\DeepFaceLab_NVIDIA_RTX3000_series\_internal\DeepFaceLab\models\Model_SAEHD\Model.py", line 733, in onTrainOneIter
    src_loss, dst_loss = self.src_dst_train (warped_src, target_src, target_srcm, target_srcm_em, warped_dst, target_dst, target_dstm, target_dstm_em)
  File "D:\BaiduNetdiskDownload\图形汉化版2\512版本—30系显卡版本\DeepFaceLab_NVIDIA_RTX3000_series\_internal\DeepFaceLab\models\Model_SAEHD\Model.py", line 553, in src_dst_train
    self.target_dstm_em:target_dstm_em,
  File "D:\BaiduNetdiskDownload\图形汉化版2\512版本—30系显卡版本\DeepFaceLab_NVIDIA_RTX3000_series\_internal\python-3.6.8\lib\site-packages\tensorflow\python\client\session.py", line 968, in run
    run_metadata_ptr)
  File "D:\BaiduNetdiskDownload\图形汉化版2\512版本—30系显卡版本\DeepFaceLab_NVIDIA_RTX3000_series\_internal\python-3.6.8\lib\site-packages\tensorflow\python\client\session.py", line 1191, in _run
    feed_dict_tensor, options, run_metadata)
  File "D:\BaiduNetdiskDownload\图形汉化版2\512版本—30系显卡版本\DeepFaceLab_NVIDIA_RTX3000_series\_internal\python-3.6.8\lib\site-packages\tensorflow\python\client\session.py", line 1369, in _do_run
    run_metadata)
  File "D:\BaiduNetdiskDownload\图形汉化版2\512版本—30系显卡版本\DeepFaceLab_NVIDIA_RTX3000_series\_internal\python-3.6.8\lib\site-packages\tensorflow\python\client\session.py", line 1394, in _do_call
    raise type(e)(node_def, op, message)
tensorflow.python.framework.errors_impl.ResourceExhaustedError: OOM when allocating tensor of shape [5,5,176,352] and type float
         [[node src_dst_opt_1/ones_4 (defined at D:\BaiduNetdiskDownload\图形汉化版2\512版本—30系显卡版本\DeepFaceLab_NVIDIA_RTX3000_series\_internal\DeepFaceLab\core\leras\ops\__init__.py:207) ]]

Original stack trace for 'src_dst_opt_1/ones_4':
  File "threading.py", line 884, in _bootstrap
  File "threading.py", line 916, in _bootstrap_inner
  File "threading.py", line 864, in run
  File "D:\BaiduNetdiskDownload\图形汉化版2\512版本—30系显卡版本\DeepFaceLab_NVIDIA_RTX3000_series\_internal\DeepFaceLab\mainscripts\Trainer.py", line 59, in trainerThread
    debug=debug)
  File "D:\BaiduNetdiskDownload\图形汉化版2\512版本—30系显卡版本\DeepFaceLab_NVIDIA_RTX3000_series\_internal\DeepFaceLab\models\ModelBase.py", line 191, in __init__
    self.on_initialize()
  File "D:\BaiduNetdiskDownload\图形汉化版2\512版本—30系显卡版本\DeepFaceLab_NVIDIA_RTX3000_series\_internal\DeepFaceLab\models\Model_SAEHD\Model.py", line 331, in on_initialize
    self.src_dst_opt.initialize_variables (self.src_dst_trainable_weights, vars_on_cpu=optimizer_vars_on_cpu, lr_dropout_on_cpu=self.options['lr_dropout']=='cpu')
  File "D:\BaiduNetdiskDownload\图形汉化版2\512版本—30系显卡版本\DeepFaceLab_NVIDIA_RTX3000_series\_internal\DeepFaceLab\core\leras\optimizers\RMSprop.py", line 41, in initialize_variables
    lr_rnds = [ nn.random_binomial( v.shape, p=self.lr_dropout, dtype=v.dtype) for v in trainable_weights ]
  File "D:\BaiduNetdiskDownload\图形汉化版2\512版本—30系显卡版本\DeepFaceLab_NVIDIA_RTX3000_series\_internal\DeepFaceLab\core\leras\optimizers\RMSprop.py", line 41, in <listcomp>
    lr_rnds = [ nn.random_binomial( v.shape, p=self.lr_dropout, dtype=v.dtype) for v in trainable_weights ]
  File "D:\BaiduNetdiskDownload\图形汉化版2\512版本—30系显卡版本\DeepFaceLab_NVIDIA_RTX3000_series\_internal\DeepFaceLab\core\leras\ops\__init__.py", line 207, in random_binomial
    array_ops.ones(shape, dtype=dtype), array_ops.zeros(shape, dtype=dtype))
  File "D:\BaiduNetdiskDownload\图形汉化版2\512版本—30系显卡版本\DeepFaceLab_NVIDIA_RTX3000_series\_internal\python-3.6.8\lib\site-packages\tensorflow\python\util\dispatch.py", line 201, in wrapper
    return target(*args, **kwargs)
  File "D:\BaiduNetdiskDownload\图形汉化版2\512版本—30系显卡版本\DeepFaceLab_NVIDIA_RTX3000_series\_internal\python-3.6.8\lib\site-packages\tensorflow\python\ops\array_ops.py", line 3132, in ones
    output = fill(shape, constant(one, dtype=dtype), name=name)
  File "D:\BaiduNetdiskDownload\图形汉化版2\512版本—30系显卡版本\DeepFaceLab_NVIDIA_RTX3000_series\_internal\python-3.6.8\lib\site-packages\tensorflow\python\util\dispatch.py", line 201, in wrapper
    return target(*args, **kwargs)
  File "D:\BaiduNetdiskDownload\图形汉化版2\512版本—30系显卡版本\DeepFaceLab_NVIDIA_RTX3000_series\_internal\python-3.6.8\lib\site-packages\tensorflow\python\ops\array_ops.py", line 239, in fill
    result = gen_array_ops.fill(dims, value, name=name)
  File "D:\BaiduNetdiskDownload\图形汉化版2\512版本—30系显卡版本\DeepFaceLab_NVIDIA_RTX3000_series\_internal\python-3.6.8\lib\site-packages\tensorflow\python\ops\gen_array_ops.py", line 3357, in fill
    "Fill", dims=dims, value=value, name=name)
  File "D:\BaiduNetdiskDownload\图形汉化版2\512版本—30系显卡版本\DeepFaceLab_NVIDIA_RTX3000_series\_internal\python-3.6.8\lib\site-packages\tensorflow\python\framework\op_def_library.py", line 750, in _apply_op_helper
    attrs=attr_protos, op_def=op_def)
  File "D:\BaiduNetdiskDownload\图形汉化版2\512版本—30系显卡版本\DeepFaceLab_NVIDIA_RTX3000_series\_internal\python-3.6.8\lib\site-packages\tensorflow\python\framework\ops.py", line 3536, in _create_op_internal
    op_def=op_def)
  File "D:\BaiduNetdiskDownload\图形汉化版2\512版本—30系显卡版本\DeepFaceLab_NVIDIA_RTX3000_series\_internal\python-3.6.8\lib\site-packages\tensorflow\python\framework\ops.py", line 1990, in __init__
    self._traceback = tf_stack.extract_stack()

奇奇怪怪1973

加大自己虚拟内存。

knight0530

爆内存了，调低BS，增加虚拟内存。

leoqiang10

knight0530 发表于 2022-9-6 13:26
爆内存了，调低BS，增加虚拟内存。

请问大概要加大多少哈？我机带RAM可用16G，虚拟内存默认34852MB现在

神踏马罗天征

OOM 调低BS

knight0530

leoqiang10 发表于 2022-9-6 14:09
请问大概要加大多少哈？我机带RAM可用16G，虚拟内存默认34852MB现在

是爆显存，你现在BS8，从4开始调。