问一下模型参数有什么影响

mzh920

星级打分

• 1
• 2
• 3
• 4
• 5

平均分:NAN  参与人数:0  我的评分:未评

小白不会看模型参数
dims: 256/64/64/22

这几个都是什么
比如256是不是很高，模型复用时6G内存能运转吗

mzh920

大佬来回答一下，谢谢了

滚石

看我签名的中文教程贴

mzh920

滚石 发表于 2020-11-24 23:36
看我签名的中文教程贴

没有找到dims的说明啊

滚石

mzh920 发表于 2020-11-24 23:48
没有找到dims的说明啊

Dims用默认的，不用改

mzh920

滚石 发表于 2020-11-25 08:47
Dims用默认的，不用改

好的，谢谢

mzh920

想知道参数是什么意思，有没有大佬介绍一下

solobabbit

DIMS用默认参数就可以了，都是作者测试并且调优后得出来的。

mzh920

solobabbit 发表于 2020-11-30 15:28
DIMS用默认参数就可以了，都是作者测试并且调优后得出来的。

这个参数比较高，与原训练的硬件差距大，是不是模型复用时影响很大？会很慢？

solobabbit

mzh920 发表于 2020-11-30 22:55
这个参数比较高，与原训练的硬件差距大，是不是模型复用时影响很大？会很慢？
...

主要看你的显卡，如果复用直接oom，那么调小batch size看能不能跑，不能跑。基本上你就得寻找低数值的参数模型了。