跑了15万次迭代，训练到这程度正常吗？

天光脑震荡

gezhenhai 发表于 2024-2-19 19:13
请问下，AE大小对模型有什么影响？我看有的模型AE256,有的模型AE512，难道512就是传说中的高参嘛？ ...

AE越高占的显存就越多，据说效果会更好，都是384，我现在练这丹最大BS也就开8，而五彩的384丹可以开到24，这就是差距。

Dujy

天光脑震荡 发表于 2024-2-20 08:42
不知道怎么预训练？乱来的

242330次迭代，效果好像还可以

不错了，慢慢来，好的坏的自己试过才有感觉，都可以试试

天光脑震荡

Dujy 发表于 2024-2-20 10:14
不错了，慢慢来，好的坏的自己试过才有感觉，都可以试试

好的

wuxr1111

有其他人训练好的底丹吗？感觉如果用了不会这么拉胯

jinyuan37

gezhenhai 发表于 2024-2-19 19:13
请问下，AE大小对模型有什么影响？我看有的模型AE256,有的模型AE512，难道512就是传说中的高参嘛？ ...

这种一般用来直播比较多吧

dada147

天光脑震荡 发表于 2024-2-20 08:42
不知道怎么预训练？乱来的

242330次迭代，效果好像还可以

预训练的意思就是拿别人练好的丹直接拿来练，几乎是一点开始脸就成型了。