迭代单次时间多长是正常

liang520520

星级打分

• 1
• 2
• 3
• 4
• 5

平均分:NAN  参与人数:0  我的评分:未评

请问大佬们 ，迭代单次时间多长是正常，我怎么确定我的显卡能支持多大的BS呢

xunlian

分辨率不同 模型架构不同，电脑硬件不同 都会引起不同的影响
你的问题没有标准答案

mzh920

看你想要练习到多少迭代，如果是几百上千万的，不需要看迭代单次时间，如果是几万几十万的，1000以下都正常

Souldfl

1、迭代单次时间多长是正常
迭代单次时间没有一个标准值 模型都是挂机练 在保证不会爆内存爆显存的前提下 迭代时长其实无所谓
不过一般当单次迭代时长很高(3s以上)时 显存也快到上限了 很容易在保存模型时自己退出 白挂机
除了一些步骤中需要低bs所以不看单次迭代时间外 我基本都是控制在1s多一点 也就是软件里显示的1000(ms)左右

2、我怎么确定我的显卡能支持多大的BS呢
参考论坛里模型区相似参数的模型 多一点或者少一点
没有相似参数的就从2开始试 加到无法训练或者迭代单次时间太高了为止 再往回减一点 这个就是这个模型在你的设备上能跑到的最大bs
如果连bs2都跑不了 换模型换设备自己选 或者租云跑(不建议，真的贵，而且有学习成本)
一些额外的参数 比如学习率下降 色彩转移等 可能需要在上面的基础上再降一点bs才能正常跑