deepfacelab中文网

 找回密码
 立即注册(仅限QQ邮箱)
查看: 771|回复: 3

关于模型结构和模型文件的问题

[复制链接]

4

主题

23

帖子

160

积分

高级丹童

Rank: 2

积分
160
 楼主| 发表于 2023-2-28 16:15:34 | 显示全部楼层 |阅读模式
星级打分
  • 1
  • 2
  • 3
  • 4
  • 5
平均分:NAN  参与人数:0  我的评分:未评
翻看DFL换脸原理的资料时有个地方看不太懂,不知道论坛里有没有人能解答一下?(涂黄的部分是问题)

Pasted image 20230213185950.png
这是DF模型的结构图,根据这张图可以知道:DF模型具有 一个Encoder 和 一个 隐特征空间 和 两个Decoder,也就是Dst和Src共用相同的 Encoder 和 Inter,Dst和Src只是Decoder不同,这么说的话,他俩的私有特征就全部都是记录在Decoder里。

应用模型时,模型会先对Dst编码得到特征向量,然后使用Src的解码器对特征进行解码,从而得到对应Dst特征向量的Src面孔的图像,之后再利用内嵌在aligned图像中的变换信息把头像合并到dst序列上。

DF 模型相对比较简单,基本能理解,但Liae就不太明白了。

Pasted image 20230213185510.png


这是Liae模型的结构图,根据这张图可以知道:liae模型具有一个Encoder和一个Decoder和两个Inter:InterAB和InterB,也就是Dst和Src共用相同的 Encoder、Decoder和InterAB,只是InterB的不同。

这里的InterAB 和 InterB 看不太懂,有没有人能帮忙解释一下?提前谢谢!

另外,这张图里那个两条竖线的是什么符号?这个符号是什么意思?

还有我想知道Liae模型的每个模型文件存储的都是什么信息?

个人经验。不一定准确,仅供参考!望多多指教!
回复

使用道具 举报

215

主题

1996

帖子

66万

积分

管理员

Rank: 96Rank: 96Rank: 96Rank: 96Rank: 96Rank: 96Rank: 96Rank: 96Rank: 96Rank: 96Rank: 96Rank: 96Rank: 96Rank: 96Rank: 96Rank: 96Rank: 96Rank: 96Rank: 96Rank: 96Rank: 96Rank: 96Rank: 96Rank: 96

积分
667195

隐世金马甲勋章超级版主勋章可爱萌新勋章见习版主勋章荣誉会员勋章男同管理员-无尚荣耀勋章优质版主勋章小有贡献勋章

发表于 2023-2-28 19:21:21 | 显示全部楼层
liae全名 less aggressive auto-encoder
提供数字人直播服务、文字/音频驱动数字人服务,有意者联系我QQ563861181
全站默认解压密码dfldata.xyz
DFL交流QQ群五群974612885
AI绘画交流QQ群710238550
我的B站账号:特看科技的滚石   其他自称彦祖的不是我,请勿上当
回复 支持 1 反对 0

使用道具 举报

1

主题

172

帖子

1218

积分

初级丹圣

别以为拿着扫把的都是神僧

Rank: 8Rank: 8

积分
1218
发表于 2023-2-28 17:15:42 | 显示全部楼层
模型架构问题,AB, B两个容器可以看出AB容器融合了SRC与DST的信息,而B容器只有DST的信息,对于应用场景而言B是DST的样子,你通过模型进行交互的时候会以DST为基础进行神经网络的学习,让呈现出来的效果更好。
回复 支持 反对

使用道具 举报

4

主题

23

帖子

160

积分

高级丹童

Rank: 2

积分
160
 楼主| 发表于 2023-2-28 22:59:26 | 显示全部楼层
滚石 发表于 2023-2-28 19:21
liae全名 less aggressive auto-encoder

谢谢回复,这个对我很有帮助,但还有问题想追问:

自编码器、变分自编码器、生成对抗网络的文章基本都看了,也了解,只是你回复的“ less aggressive auto-encoder”还没听说过,想深入了解一下。

但我到知乎、CSDN 搜这个算法名字都没有搜到。

能否贴一些相关论文或文章的链接?或者推荐一些搜索关键词?或者推荐一些相关论坛、网站之类的?谢谢了!
个人经验。不一定准确,仅供参考!望多多指教!
回复 支持 反对

使用道具 举报

QQ|Archiver|手机版|deepfacelab中文网 |网站地图

GMT+8, 2024-9-23 06:22 , Processed in 0.098236 second(s), 14 queries , Redis On.

Powered by Discuz! X3.4

Copyright © 2001-2020, Tencent Cloud.

快速回复 返回顶部 返回列表