用的原版DFL，想升级CUDA和cudnn，来提升效率和效果

ctrobot

wtxx8888 发表于 2025-1-1 15:25
。。。SAEHD跟SAE的差别，在于模型架构的U参数，如DF-UD就是SAEHD（实际上，已经没有真正意义上的SAEHD了 ...

您好，可以参见2019年10月9日的官方更新说明，其中明确说明了SAEHD model是和SAE模型不同的模型：
== 09.10.2019 ==
added SAEHD model ( High Definition Styled AutoEncoder )
Compare with SAE: https://i.imgur.com/3QJAHj7.jpg
This is a new heavyweight model for high-end cards to achieve maximum possible deepfake quality in 2020.

Differences from SAE:
+ new encoder produces more stable face and less scale jitter
+ new decoder produces subpixel clear result
+ pixel loss and dssim loss are merged together to achieve both training speed and pixel trueness
+ by default networks will be initialized with CA weights, but only after first successful iteration
  therefore you can test network size and batch size before weights initialization process
+ new neural network optimizer consumes less VRAM than before
+ added option <Enable 'true face' training>
  The result face will be more like src and will get extra sharpness.
  Enable it for last 30k iterations before conversion.
+ encoder and decoder dims are merged to one parameter encoder/decoder dims
+ added mid-full face, which covers 30% more area than half face.  

DFL1.0的SAE模型跑出来的人脸是比现在的DF和LIAE都更像SRC哈，大佬可以尝试在20190830这种版本上试一下SAE模型就知道了。

wtxx8888

ctrobot 发表于 2025-1-1 16:01
您好，可以参见2019年10月9日的官方更新说明，其中明确说明了SAEHD model是和SAE模型不同的模型：
== 09. ...

== 19.06.2020 ==
SAEHD:
Maximum resolution is increased to 640.
‘hd’ archi is removed. ‘hd’ was experimental archi created to remove subpixel shake, but ‘lr_dropout’ and ‘disable random warping’ do that better.
‘uhd’ is renamed to ‘-u’
dfuhd and liaeuhd will be automatically renamed to df-u and liae-u in existing models.
Added new experimental archi (key -d) which doubles the resolution using the same computation cost.
It is mean same configs will be x2 faster, or for example you can set 448 resolution and it will train as 224.
Strongly recommended not to train from scratch and use pretrained models.
New archi naming:
'df' keeps more identity-preserved face.
'liae' can fix overly different face shapes.
'-u' increased likeness of the face.
'-d' (experimental) doubling the resolution using the same computation cost
Opts can be mixed (-ud)
Examples: df, liae, df-d, df-ud, liae-ud, ...

明确告诉你了。HD被删除了，只剩下UHD，并改为U参
看个日志，也不看全了。。。

wtxx8888

ctrobot 发表于 2025-1-1 16:01
您好，可以参见2019年10月9日的官方更新说明，其中明确说明了SAEHD model是和SAE模型不同的模型：
== 09. ...

这是初建时的分化
== 23.01.2020 ==
SAEHD:
now has 3 options: Encoder dimensions, Decoder dimensions, Decoder mask dimensions
now has 4 arhis: dfhd (default), liaehd, df, liae         这里明确了，不带任何后缀的，就是SAE
df and liae are from SAE model, but use features from SAEHD model (such as combined loss and disable random warp)
dfhd/liaehd - changed encoder/decoder architectures
decoder model is combined with mask decoder model
mask training is combined with face training,
result is reduced time per iteration and decreased vram usage by optimizer
"Initialize CA weights" now works faster and integrated to "Initialize models" progress bar

wtxx8888

ctrobot 发表于 2025-1-1 16:01
您好，可以参见2019年10月9日的官方更新说明，其中明确说明了SAEHD model是和SAE模型不同的模型：
== 09. ...

这里是UHD初次加入

== 25.03.2020 ==
SAEHD: added 'dfuhd' and 'liaeuhd' archi
uhd version is lighter than 'HD' but heavier than regular version.
liaeuhd provides more "src-like" result

此时为6种archi，即 SAEHD, SAE, SAEUHD.
也就是DFHD, DF, DFUHD跟LIAEHD, LIAE, LIAEUHD

后面就是上面发的，HD被废弃，UHD变为U参。
SAE一直存在，即DF，LIAE不带参数。
看日志，也专心点啊。。。

所以我说，不懂你指的是啥。一直都在的东西，要怎么加？

wtxx8888

ctrobot 发表于 2025-1-1 16:01
您好，可以参见2019年10月9日的官方更新说明，其中明确说明了SAEHD model是和SAE模型不同的模型：
== 09. ...

自己，再仔细看看日志吧。

DF，LIAE。就是SAE。
DF-D，LIAE-D。就是SAE的显存减半。
DF-U，LIAE-U。就是SAEUHD（现存的唯一SAEHD模型，轻量级）
DF-UD，LIAE-UD。就是SAEHD的显存减半。(轻量级SAEUHD的显存减半模式)

DFHD跟LIAEHD被废弃，不存在了。（除非你用== 11.06.2020 ==这个废弃前的版本，反正，我是没见过）

我看到，你提了DFL1.0，现在，谁还用那个？
我都没见过1.0~我学DFL，就已经是2.0了。

ctrobot

wtxx8888 发表于 2025-1-1 16:53
自己，再仔细看看日志吧。

DF，LIAE。就是SAE。

"DF，LIAE。就是SAE。"我觉得应该是DF，LIAE包含了2019年10月9日初次引入的SAEHD的很多东西，就像官方说明里边说的：df and liae are from SAE model, but use features from SAEHD model (such as combined loss and disable random warp)。"正是这些改变使得现在的DF和LIAE和2019年10月9日之前的SAE模型确实不是一个东西，在还原SRC相似度上真的不可同日而语。我这样说，大佬应该能够理解了。就是说现在的DF和LIAE改了太多东西，在SRC还原度上反而没有改动前的SAE好。我希望能把原始的SAE模型给加回来。当然只是个人见解。谢谢大佬的解释。

ctrobot

wtxx8888 发表于 2025-1-1 16:53
自己，再仔细看看日志吧。

DF，LIAE。就是SAE。

“我看到，你提了DFL1.0，现在，谁还用那个？
我都没见过1.0~我学DFL，就已经是2.0了。”
我说的就是DFL1.0的SAE模型很牛逼，还原度很高。现在的DF和LIAE就算是从DFL1.0的SAE模型演化而来，也改了很多东西，它们还原SRC的效果没有DFL1.0的SAE强。只是后来的DFL2.0加了很多功能，有了Xseg，有了太多小的优化，并且支持一半显存开销跑同等分辨率的模型，人脸支持的分辨率也高了，但论SRC还原度，还是DFL1.0的SAE模型强。

wtxx8888

ctrobot 发表于 2025-1-1 17:11
"DF，LIAE。就是SAE。"我觉得应该是DF，LIAE包含了2019年10月9日初次引入的SAEHD的很多东西，就像官方说明 ...

底层改了算法，这么说吧，底层的框架改了。
所以，就是原作者来，也不会，开倒车的。。。
再通俗点就是，你需要的加回来，会导致现在，所有的2.0模型都用不了（跟1.0的模型，2.0用不了，一样）
你要是觉得1.0好，那你只能用，1.0那套古老的底层代码。
我改的，不涉及archi跟框架（但走的调用，是跟随2.0的），换了底层能不能运行，我自己也不知道。也没见过1.0的代码。。。

ctrobot

wtxx8888 发表于 2025-1-1 17:27
底层改了算法，这么说吧，底层的框架改了。
所以，就是原作者来，也不会，开倒车的。。。
再通俗点就是 ...

好的，谢谢您的解释。

wtxx8888

ctrobot 发表于 2025-1-1 17:45
好的，谢谢您的解释。

1.0应该，连WF都没有吧？都是F脸？
我没接触过1.0，估计现在，也下不到1.0了吧。。。
你还有1.0？有点神奇~~~