新模型，启动训练当场崩溃，有没有大佬能指导下

tianming · 发表于 2022-3-13 20:48:29

星级打分

1
2
3
4
5

平均分:NAN 参与人数:0 我的评分:未评

本帖最后由 tianming 于 2022-3-14 16:58 编辑

新模型，启动训练当场就崩溃，这是为啥呢？

src和dst都是用的自带的预训练数据集，有没有大佬能指导下
如果使用pretrain=true的话，就能正常训练，20个迭代就能出人影。

--------------------------------分割线-------------------------------------------------

经过查看dfl源码，问题解决了，大概原因就是默认预训练逻辑里（pretrain=true模式下），会强制设置几个参数，比如 uniform_yaw=true，random_warp=false，random_src_flip=true，random_dst_flip=true
其中关键的是random_warp，在模型参数设置的比较大时(如图ae-dims=512，e_dims=128），必须random_warp=false才能正常预训练，开随机扭曲立刻就崩。