星级打分
平均分: 5 参与人数: 13 我的评分: 未评
本帖最后由 bug4dfldata 于 2023-1-28 12:33 编辑 魔改增强版 DeepFaceLab_NVIDIA_10,20,30 series_build_2022_RG ----------------forked from iperov/DeepFaceLab 极速、效率、细节 [时间换显存] DeepFaceLabRG.2021.11.20 最新英文版,小显存卡跑起来 极速，低显存可以打开更高的BS训练 ，高BS加速模型收敛速度，高端旗舰显卡 DF 模型架构训练速度提升达30%； 还是速度的提升！同配置下 AMP架构类比原版训练 BS 提升达一倍，弥补了AMP模型训练低效的难点，加速AMP模型训练的收敛速度； 训练工具帮助模型调优，更丰富的素材增强功能 合成功能更精细的控制和参数选择； 独具增强大模型保存模式，云计算训练保存更稳定可靠，保存模型内存不一溢出；
Tensorboard工具
一些新的参数功能我给出一些说明，但不能做为教学，请大家自行尝试研究使用， retraining_samples 【推荐训练模型的每个阶段后期使用】 use_fp16 （ 使用半精度浮点fp16）【 谨慎，旧模型请勿使用 】 谨慎。 cpu_cap loss_function ['SSIM', 'MS-SSIM', 'MS-SSIM+L1']lr (Learning rate) ct_mode: 增强 fs-aug 为dst和src添加随机颜色；eyes_prio: mouth_prio: preview_samples: maximum_n_backups: 以下参数是随机增加脸图素材的复杂性，来丰富稀少脸部素材特性，如果你的素材非常全面，请斟酌使用， 记住应该有选择逐项开启，因为随机特性，同时开启将极大拉高src和dst的loss。 关于模型训练中的一些推测： 通常，一个模型 “AE越高+可用的素材越少+训练次数越多”，就越容易出现过拟合。这个术语请自行百度请记住，这就是为什么有些人得到很好的复用模型，由于自己素材质量问题，训练越久，效果变得越糟糕，最好的效果往往会在迭代数量 刚好合适的一个波峰，为此，更多的增强素材和失真可降低过度拟合的风险。不过，这是一个值得注意的区别。“随机扭曲”是一种失真，因为开启扭曲的结果是与未更改的素材数据进行比较，所以loss 值的飙升就是一种下降的空间。另一方面，颜色体系中“fs-aug”是一种增强，因为它与更改的素材数据（即随机颜色变化）进行比较，其它的各种素材样本随机性变换基本都是这一类操作，所以都是视情况斟酌使用的范畴。 random_downsample random_noise random_blur random_jpeg random_shadow（此选项开启极大丰富脸部阴影特性） random_color 加速GPU计划” 选项。 5、特别提示，用老模型第一次请修改训练参数，新的参数不了解情况下请默认,重点提示，备份好旧模型以防参数过大模型奔溃； 6、经过Me版本训练过的模型用回原版，训练界面依然会显示新增的功能选项参数，但在原版下训练将不起作用； 这个版本能做什么 ？建议新手不要玩，有些细节太过于专业了，请妥善备份你的模型； loss_function， lr (Learning rate)，创造出一个宽容性和泛化能力极强的人尽可夫的模型 当然还有很多。。。。 请自我探索，（Kingboy Q群：366893641），Q群只用于Bug反馈。 下载 (带运行环境，解压可用)： DeepFaceLabMe2022Ver2.55V2.zip Nvidia 9/10/20/30（已失效） 最新版本 ICE2023 下载页 化 繁 为 简 重要声明： 魔改版本Me已暂停分享，请已下载还在使用的朋友, 遵守以下要求，不能遵守的请自行删除已下载软件。 （一）、我提供的所有基于deepfacelab的魔改程序 ，均出于深度学习和AI技术研究，并遵守原作、源代码相关协议及研究深度反伪造技术为最终目的，所有版本提供模型训练及制作方法仅限用于具备版权的数据集合、开源共享数据集，我本人均未从中获得任何利益。 （二）使用我分享的魔改各种版本的使用者，进行训练及应用的所有视频、图片、人脸等素材和相关数据集合都要遵守数据集所有者权益，并获得这些数据所有者授权。 （三）我分享的所有版本及程序 严禁用于处理、加工、创作涉及政治目的、色情、低俗等不仅限于列出的所有违反国家法律、及损害他人所有利益行为的任何数据形态作品。 （四）因不能遵守软件使用要求，使用人违反上述行为导致产生一切法律、经济责任由使用者全部承担。 Kingboy 2022/12/13 Ver 2.55更新要点： 同步官方修复一个素材队列素材缩放Bug(修复包括原版和Me版本); （fix scale factor in sample generation. added util --export-faceset-mask) 时间换显存的极致体现，优化了AMP模型训练性能，256-512分辨率下训练Bs上限最大可提升至2倍，512-1024分辨率下可提升至1.5-2倍优异性能，或同分辨率下更大的参数比。 新增--reduce-clutter 清爽模式，训练模型将精简输入模型参数，没用启用模型参数将不显示在训练界面。 导出训练数据快照，能过查看模型状态历史记录对模型训练、补充素材、补充遮罩，启用命令在 “z6- Model Tools”目录“6.02 train 模型类型____________Me_snapshot.bat”，注意，只有已经存在模型可以生成快照； 新增AMPLegacy 模型转换 命令 “6.30 AMP converter AMPLegacy.bat ” ，可以在目录 “z6- Model Tools”里找到这个命令； Me2.55_V2支持模型蒸馏出的快速模型训练，模型收敛速度极大提速； Ver 2.53 更新要点： 这个版本支持训练模型分辨率 64-1024, 超过640的模型请在训练批处理命令增加参数 " --saved-models-type readjob-savejob" 以保证模型稳定性。参数用法请参看目录“z6- Model Tools”下的命令 “8) train SAEHD Me_save_Me_model.bat”，或直接启用这个命令开启训练。开启" --saved-models-type readjob-savejob" 后保持的模型，可使用“7.3 merge SAEHD_______________ Me_Job_Model.bat”进行合成，因为DFL原生很难支持这个大的模型。 提升了遮罩训练的性能，RG版本的buff 下，低显存的遮罩模型训练效果比原版提升约2倍； 调整了训练预览中，素材文件名的显示机制，比原来更清析； 看腻了faceset.pak文件名，为了方便管理素材包名字，现在可自定义素材压缩文件名，直观便捷，再也不用为这个包是那个对象素材发愁； 修复了 Xseg 训练模块，在个别模型下训练出错bug; 自动训练保存结束的时间范围由原来的0-480分钟，变更为0-600分钟； 部分批处理命令功能做了调整； Ver 2.40 - 更新要点： 现在可用Tensorboard工具进行权重分布查看，loss随迭代变化曲线展示，已进一步分析模型训练的情况，并适时调整训练参数，新的一些权重分析包括学习率将可能加入； 重构了Deepfacelab Me的模型保存模块，已让训练程序在一些不是那么富足内存环境下正确保存大模型，现在你可以在Colab ,Kaggle等云平台基于网络存储的环境放心训练大模型，即使你选取内存很小也不会产生内存溢出，为了确保兼容，此项开启需要打开开关； 调整了部分依赖环境，集成了Tensorboard工具汉化版本，感谢“盗情小魔女”同学的辛苦劳作汉化；这个版本请不要覆盖原来版本，请完整解压本集成新环境，把你的workspace导入进来使用吧； 遮罩模型训练获得了一个新的外观，训练遮罩的时候将显示素材的文件名; 遮罩编辑优化了描绘的平滑度； 也许你看到一些新的代码功能没有标示，那是我没有足够时间进行教程，请注意采用默认设置，谨慎使用； Ver 2.30-更新要点 双版本支持 ， 集成环境解压即可运行，集成11.20英文原版, 可用原版训练，也可以用Me版训练，减少安装两个版本依赖环境的磁盘空间占用； 原版训练：使用原版批处理命令运行即可，例如，运行“6) train SAEHD.bat）就是原版训练； Me版训练：Me版自带RG优化，小显存福利，请运行对应命令末尾带"_Me"的命令，例如，运行”6) train SAEHD_Me.bat“就是Me版模型训练，其它以此类推； Me版支持修改模型训练自动保存时间，请修改对应训练批处理命令，例如，编辑”6) train SAEHD_Me.bat“，把命令行里“ --saving-time 25”的"25"修改成你需要自动保存时间，即会按修改值自动保存,单位是分钟. 自动结束训练功能： 达到 预定时间自动结束训练，并保存模型并自动闭电脑；启用这个功能，请修改对应训练处理命令，例如，编辑”6) train SAEHD_Me.bat“，把命令行里 “--training-time 0 ” 的 " 0 " 修改成360，运行训练将在6小时后自动保存并退出训练；设定的时间单位是分钟。如果设置为0,将一直训练，并不会自动退出训练，如设置时间为负数，例如设定“--training-time -180”，训练程序会在3小时后保存训练，保存模型后并尝试关闭训练电脑，请在启动这个选项时，关闭会影响到自动关机的其它应用程序； 重置模型迭代为0： 清除迭代历史图功能，当你一个模型复用多次，模型变的又慢又臃肿，现在可以清除掉那些历史数据，运行训练程序，注意，会弹出选择 [n] Do you want to reset iterations counter and loss graph? ( y/n ?:help ) : n，默认n为不重置，选y将重置模型所有迭代数及历史数据 ， 请慎重，不可恢复 ； DeepfacelabMe版本的所有批处理命令做了目录分类，这个版本请不要覆盖到原来安装目录，建议解压到新的目录DeepfacelabMe； 功能教程一： 开启大模型保存选项教程【 --saved-models-type readjob-savejob 】 用记事本打开训练批处理命令：6) train SAEHD_Me.bat，增加以下参数，可在配置有限机器保存更大的模型 ^ --saved-models-type readjob-savejob 开启 --saved-models-type readjob-savejob 选项后， 模型就不兼容原来DFL版本，需要用Me版本专门命令合成“7.3 merge SAEHD_______________ Me_Job_Model.bat”； 需要转回DFL的兼容模型，请打开目录“z6- Model Tools”，使用“8) train SAEHD Me_save_DFL_model.bat”命令进行训练，并保存退出，模型转换成DFL的版本。 faceset.pak 自定义文件名 faceset.pak 自定义文件名 素材目录下保存以下素材包（不支持中文名） 九天云训练如何打开 Tensorboard查看训练曲线 第一步：安装tensorboardX依赖，请在终端或者jupyter命令行运行 pip install tensorboardX ； 第二步：Me版启用Tensorboard训练开关，在你的训练启动命令行参数增加“ --start-tensorboard --tensorboard-logdir log ”，log是训练历史保存目录，你可以自定义,你可以定期清空此目录，清除训练历史，减少磁盘占用； python deepfacelabme/main.py train --saved-models-type readjob-savejob --training-data-src-dir datasrc --training-data-dst-dir datadst --model-dir model --model SAEHD --no-preview --training-time 0 --saving-time 60 --start-tensorboard --tensorboard-logdir log 复制代码 第三步：启动训练，正常训练开始稍等5分钟后，可以打开TB面板查看训练情况；
通过曲线可以知道模型当前参数是否还具备学习趋势
Me版本运行在九天需要tf2.5以上环境，如何你采用九天的默认环境，tf2.4 请打上这个补丁包，下载后，解压上传到/root目录下，然后运行以下命令，注意 custom_gradient.py 的当前目录为你上传目录， cp custom_gradient.py /opt/conda/lib/python3.7/site-packages/tensorflow_core/python/ops/ 复制代码
9sky_custom_gradient.zip
(6.22 KB, 下载次数: 69)
注意：每次开启训练都要更新这个补丁，因为云平台不能保存补丁效果 更新后第一次训练，请重新配置模型参数！
查看全部评分
[复制链接]
|Archiver|手机版|deepfacelab中文网
|网站地图
楼主
更新后第一次训练，请重新配置模型参数！
发表于 2021-12-16 16:27:34
