liae和df的组合架构确实值得深入研究

day270010678

星级打分

• 1
• 2
• 3
• 4
• 5

平均分:NAN  参与人数:0  我的评分:未评

Launching DeepFace GUI...
2026-10-21 20:09:08 [saehd_model] [INFO] 从零训练优化器: 56 组参数, lr=5.00e-05
2026-10-21 20:09:08 [base_model] [INFO] No model weights found, starting fresh.
2026-10-21 20:09:08 [saehd_trainer] [INFO] torch.compile预热中，首次编译需要1-3分钟...
2026-10-21 20:09:08 [saehd_utils] [INFO] torch.compile: VRAM=6.0GB < 8.0GB, 但 resolution=256≥256 (融合收益放大) → 使用 'inductor'
2026-10-21 20:09:14 [face_train_dataset] [INFO] Dataset fully preloaded into memory: 1872 imgs, 230MB (disk I/O ≈ 0 during training)
2026-10-21 20:09:20 [face_train_dataset] [INFO] Dataset fully preloaded into memory: 2117 imgs, 270MB (disk I/O ≈ 0 during training)
2026-10-21 20:09:32 [base_trainer] [INFO] Warmup: 编译模型中，请稍候...
2026-10-21 20:10:32 [base_trainer] [INFO] Warmup: 模型编译完成 (forward+backward, bs=4)
2026-10-21 20:10:32 [base_trainer] [INFO] [exec] torch.compile 已生效（eager 调用编译模块），跳过 CUDA Graphs
2026-10-21 20:10:32 [base_trainer] [INFO] Training started: res=256 bs=4 device=cuda:0
2026-10-21 20:10:32 [base_trainer] [INFO] Config: res=256 bs=4 face_type=wf archi=liae_df-du opt=Adamw lr=5e-05 amp=fp16 dims=ae224/e48/d64/dm22 true_face=0.0 face_style=0.0 bg_style=0.0 gan=0.0 pretrain=False
2026-10-21 20:34:16 [base_trainer] [INFO] Auto-saved at iter 4301
2026-10-21 20:59:16 [base_trainer] [INFO] Auto-saved at iter 8846






参数也是普通的参数；


但是我发现我的这个架构的代码有错误，use_detail = use_detail and not use_d也就是说d（pixel_shuffle 分辨率倍增）与 detail 互斥，而我训练的这次，架构后缀是 du（含 d），所以 Decoder 里压根没建 detail_head，src_src 走的路径和纯 liae 完全相同，apply_detail参数在 d 模式下被 use_detail=False 吞掉）所以模型层等价于 liae-du。
我猜测是下面的几个原因；


1. 单解码器 3 路监督共享（对比 df 双解码器）：liae 系一个 decoder 每步同时收 src_src /dst_dst/ 换脸三路梯度，参数利用密度高；df 是 decoder_src 学 src + 换脸、decoder_dst 只学 dst，两套权重各学各的。单位迭代信息量大 → 预览 "肉眼可见的进度" 更早出现。
2. 显存结构 → 批大小：df 两套解码器权重 + adam 双份状态，liae_df 单解码器省出的显存全部变成 bs=4 → 同样 50 分钟，liae_df 实际吃到的样本多几倍，收敛进度自然 "看起来快得多"。这可能是最大的一项。
3. u/d 工程项：pixel_norm 稳定激活尺度、pixel_shuffle 低分辨率 dense—— 稳定且高效，但 liae 也能配，非 liae_df 专属。


所以需要几个方面的测试：

A liae_df-du vs B liae-du：结构等价，loss 曲线应几乎重合 —— 若真重合，直接证明快与 liae_df 标记无关，是 LIAE 系结构的功劳
C liae_df（无 d/u，detail 开）vs D liae（无 d/u，detail 关）：这才是 detail_head 的真实贡献，机制成立与否就看这组
E liae_df-du vs F df-du（锁定同 bs）：隔离单 / 双解码器的收敛差异