100万（BS11）448预训练木兰丹

jinyuan37 · 发表于 2024-4-16 14:54:51

天光脑震荡发表于 2024-4-16 13:18
已经练够100万的，正训不知为什么变成了89万

转正前先按O优化模型，这样迭代不会减少。

丸丸 · 发表于 2024-4-17 01:08:51

天光脑震荡发表于 2024-4-16 13:18
已经练够100万的，正训不知为什么变成了89万

那预训练的时候有跑过扭曲吗

天光脑震荡 · 发表于 2024-4-17 08:38:26

丸丸发表于 2024-4-17 01:08
那预训练的时候有跑过扭曲吗

预训练好像没有扭曲选项吧

丸丸 · 发表于 2024-4-17 09:53:18

天光脑震荡发表于 2024-4-17 08:38
预训练好像没有扭曲选项吧

木兰有的，你去看，没跑过扭曲丹的泛化会差很多，可惜了

wangdaye · 发表于 2024-4-17 10:45:22

丸丸发表于 2024-4-17 09:53
木兰有的，你去看，没跑过扭曲丹的泛化会差很多，可惜了

就是大佬说得很对

flytosky · 发表于 2024-4-17 20:54:40

感谢无私分享

天光脑震荡 · 发表于 2024-4-17 22:54:31

jinyuan37 发表于 2024-4-16 14:54
转正前先按O优化模型，这样迭代不会减少。

还真是，居然还有这种骚操作

jinyuan37 · 发表于 2024-4-17 23:01:16

天光脑震荡发表于 2024-4-17 08:38
预训练好像没有扭曲选项吧

木兰的细节主要依靠扭曲，建议按教程走，开扭曲再练50W，然后开眼嘴50W.

天光脑震荡 · 发表于 2024-4-17 23:44:42

本帖最后由天光脑震荡于 2024-4-18 00:19 编辑

jinyuan37 发表于 2024-4-17 23:01
木兰的细节主要依靠扭曲，建议按教程走，开扭曲再练50W，然后开眼嘴50W.

好的，我再看看

木兰好像要正训才能开扭曲的

天光脑震荡 · 发表于 2024-4-18 00:39:37

丸丸发表于 2024-4-17 09:53
木兰有的，你去看，没跑过扭曲丹的泛化会差很多，可惜了

我反复找了很久，新建木兰模型又找了一遍，预训练根本看不到扭曲选项，只有正训才有

		自动登录	找回密码
密码			立即注册（仅限QQ邮箱）