关随机扭曲 和 开学习率下降 哪个先哪个后？

ceeyee

星级打分

• 1
• 2
• 3
• 4
• 5

平均分:NAN  参与人数:0  我的评分:未评

用置顶的LIAE丹，我已经开随机扭曲练了几十万。
接着我的打算是

2.开学习率下降
3.关随机扭曲
4.开GAN
每一步练十来万。

但是2和3我不知道应该谁先谁后。
请问是应该先 开学习率下降 还是先 关随机扭曲？
还是有更好的次序？

谢谢。

duanmuzr

2.开学习率下降
3.极限BS 关随机扭曲 开嘴眼（如果之前没开的话，嘴眼要在真脸之前）
4.极限BS 开真脸 开梯度
5.开GAN 关所有 开学习率下降 开梯度

2-3 各10W起步吧
4-5 纯靠自己目测了
个人建议 供参考

zqszhuce

就这个，先开2，34可以一起，也可以逐步

anazyz

你这个顺序对，不过你不开真脸么，感觉差了真脸那一步，还有就是我发现LIAE光影虽然好，但是有点像DST了，之前练的放弃了，从头练了DF的，

ceeyee

anazyz 发表于 2022-12-24 18:14
你这个顺序对，不过你不开真脸么，感觉差了真脸那一步，还有就是我发现LIAE光影虽然好，但是有点像DST了， ...

请问开真脸应该在什么时候开呢？
比如上面的234，插在哪里比较好？

真脸那一步练多少迭代好呢？

非常感谢。

ceeyee

duanmuzr 发表于 2022-12-25 21:48
2.开学习率下降
3.极限BS 关随机扭曲 开嘴眼（如果之前没开的话，嘴眼要在真脸之前）
4.极限BS 开真脸 开梯 ...

请问5里，关所有的“所有”包括什么？
另外2已经开了学习率下降，为何5又再开？

谢谢。

duanmuzr

ceeyee 发表于 2022-12-26 09:30
请问5里，关所有的“所有”包括什么？
另外2已经开了学习率下降，为何5又再开？

1、“所有”包括 侧脸 嘴眼 扭曲 真脸这些 开Gan意味着所以形状轮廓这些都定下了，开始强化细节
2、因为3-4这里学习率下降关

另外图省时的话，1、2、3可以合并不关扭曲，开真脸前关扭曲

DFL官方的说明值得细细啃啃


https://xfdj.github.io/2020/11/2 ... %E8%AF%B4%E6%98%8E/
特别是FAQ的第8点

ceeyee

duanmuzr 发表于 2022-12-26 20:51
1、“所有”包括 侧脸 嘴眼 扭曲 真脸这些 开Gan意味着所以形状轮廓这些都定下了，开始强化细节
2、因为3- ...

我在官方的说明的GAN章节和FAQ第八都没有看到有说开GAN时要把其他所有关掉。
请问在哪里是有这个说明呢？
我想去学习一下。
谢谢。

duanmuzr

ceeyee 发表于 2022-12-26 21:04
我在官方的说明的GAN章节和FAQ第八都没有看到有说开GAN时要把其他所有关掉。
请问在哪里是有这个说明呢？ ...

3. 在禁用 RW 之前，您可以启用 LRD 并对其进行更多地训练，以使其在此阶段中学习更多，接下来，您将禁用 RW 和 LRD，以便模型可以在下一阶段中正确进行训练。稍后，在禁用 RW 的情况下进行训练并有选择地为 4-9 运行一些其他选项之后，您可以第二次启用 LRD，在 LRD 之后，您不应启用 GAN 以外的任何其他选项。

ceeyee

duanmuzr 发表于 2022-12-30 22:07
3. 在禁用 RW 之前，您可以启用 LRD 并对其进行更多地训练，以使其在此阶段中学习更多，接下来，您将禁用 ...

明白了，谢谢。