自动编码器，解码器和编码器之间的关系和设置的问题

MLGB

星级打分

• 1
• 2
• 3
• 4
• 5

平均分:NAN  参与人数:0  我的评分:未评

先看图

咱们deepfacelab 可以设置自动编码器瓶颈维度，编码器和解码器的分别维度，我看了很多人炼丹没看懂他们是怎么设置这3个维度的啊，
我的理解 比如图片 512  512
编码层设置256的话  把 （512 *512）压缩到256得数值得矢量
解码层设置256的话  把   256的数值得矢量重建到（512 *512）
那么中间的瓶颈层设置256就够了啊，为什么有得设置得如此得高？

瓶颈层设置哪怕稍微高一点点就行啊 比如我看有人设置512 其他得设置 96   这不是浪费显存么？ （哪怕是编码和输出都512 瓶颈设置个96 来压缩 都比 512  96 96 强大把）

编码层设置好了维度 就只能压缩到 256个数据表示了，瓶颈层设置512 是为了给下个批次 来存放更多得数据？ 那也不合理啊 ，
256个矢量已经表示了图像中得眼睛鼻子嘴巴之类得了，设置512得瓶颈是为啥呢？

可能我得理解也不对，还是希望有懂得给讲讲，鄙人虽然喜欢理论多一点，但是没地方学习啊。

我的目前理解哈，最好设置的时候要考虑到素材的大小，比如320的丹，最好320的素材，然后瓶颈可以小点因为可以把头发背景等特征都过滤掉 设置个300（信息压缩后，节省显卡资源，泛化也更好了，因为学习的东西都是最重要的），然后编码和解码的时候哪怕保持320都没啥，
当然了你的素材512 ，丹320   也行知道理论了，取舍就在自己了，也能算明白。

当然了如果说  编码学习123，但是中间层可以存123XX  第二批次来 学到了2345  那么中间层就是12345的话，可以存放更多数据的话我上述就都多了，我认为的是设置好了中间层200 输入150  那么学习到的知识就在这前150个里面存放，不会说多学习到的知识就进入到150以后了，还是分散在了150之间罢了。所以多了50就是多余的，哪怕是可以压缩中间，这样更好，但是大了没用。 哎 等着佬讲解下 我就废了啊 要是错了 啪啪啪得打脸

pasanonic

多数是为了匹配适合以后升级硬件,免得重新练
每个人要求 爱好的点位不一样

MLGB

pasanonic 发表于 2024-8-7 17:18
多数是为了匹配适合以后升级硬件,免得重新练
每个人要求 爱好的点位不一样
...

没 我得意思是 3个维度得设置大小   有得我看是512得瓶颈 但是解码和编码是92   这完全浪费啊 后续升级硬件了但是编码和解码92也没办法变化 导致升级硬件 学到得知识也是一样得啊 都是92

MLGB

seancai110
我看您做过源码得阅读  能否讲解下

MLGB

wtxx8888 佬  你给讲讲呗

pasanonic

神经元 玄学也  

MLGB

pasanonic 发表于 2024-8-7 17:38
神经元 玄学也

   数值变化这还不算玄学

pasanonic

MLGB 发表于 2024-8-7 17:35
wtxx8888 佬  你给讲讲呗

你看他的回帖 我记得讲过

wtxx8888

MLGB 发表于 2024-8-7 17:35
wtxx8888 佬  你给讲讲呗

丹的四维？这可是关键中的关键。一般都是私货。
你不是急吗？复用别人的丹，你又改不了。

MLGB

wtxx8888 发表于 2024-8-7 18:27
丹的四维？这可是关键中的关键。一般都是私货。
你不是急吗？复用别人的丹，你又改不了。 ...

哈哈哈哈哈哈哈哈哈哈   ，我这该死得学习欲望，用别人丹得时候其实就怀疑过这四维来着，想着别人都这样了我也这样把，今天感觉还是有些问题。