来交流一下显卡的训练速度吧

beibei2999 · 发表于 2023-3-7 17:36:06

王远彦发表于 2022-11-20 08:34
tesla p40
4bs 410ms 8bs 645ms 16bs 1084ms
跑到16bs的时候GPU占用17.6GB

同样是P40 我差你4倍

T0X1C · 发表于 2023-5-3 15:15:01

6700XT BS4=440 BS8=820 BS16=1580 BS22=爆显存

WinKK · 发表于 2023-9-2 08:30:52

T0X1C 发表于 2023-5-3 15:15
6700XT BS4=440 BS8=820 BS16=1580 BS22=爆显存

收到，谢谢！
更新一下

loversking · 发表于 2023-9-13 15:58:51

我只有 256模型，显卡 4070，BS=8的时候，大概410ms一次迭代

WinKK · 发表于 2023-9-13 16:45:22

loversking 发表于 2023-9-13 15:58
我只有 256模型，显卡 4070，BS=8的时候，大概410ms一次迭代

多谢！
我们只讨论训练速度，所以，你完全可以按列出的参数建一个新模型（不同参数下速度差别很大），给出各种BS下的训练即可

xiaobao3636 · 发表于 2024-6-17 15:58:17

收藏了

		自动登录	找回密码
密码			立即注册（仅限QQ邮箱）