怎么多显卡训练一个模型？

dfldatzjx · 发表于 2022-12-5 04:23:17

星级打分

1
2
3
4
5

平均分:NAN 参与人数:0 我的评分:未评

https://dfldata.xyz/forum.php?mod=viewthread&tid=11405

3楼这个人可以5张卡跑一个模型

kanbumingbai · 发表于 2022-12-5 12:26:57

在你运行训练程序的时候一开始会让你输入模型名称，然后会有个显卡选择，单卡可能一般选择0 帖子里 5卡应该是分别对应的是0,1,2,3,4 中文输入法逗号不行，在选择显卡的时候，用英文，是英文逗号隔开就可以了，我是三卡，就是是0,1,2 多卡的好处就是BATH SIZE可以提高，我三个老卡，显存是3G 3 G 6G我跑的是低配的224那个，BATCH可以开到26 ，但是好像，好像是其他参数无法叠加，用GPU-Z看显存和核心占用三个卡都是满的，但是BATCH SIZE的意义是啥？因人而异。batch size 大了，你完成相同迭代的时间反而长了，但是曲线下降的速度快了，但是当曲线下降到一定阶段以后，这种优势又没有了，所以得找到一个合适的设置，并不是越小越好也不是越大越好，还有三卡的话，提取脸有提速。

小海 · 发表于 2022-12-5 16:17:41

kanbumingbai 发表于 2022-12-5 12:26
在你运行训练程序的时候一开始会让你输入模型名称，然后会有个显卡选择，单卡可能一般选择0 帖子里 5卡 ...

两张显卡的显存都显示占满状态吗

kanbumingbai · 发表于 2022-12-5 21:11:43

小海发表于 2022-12-5 16:17
两张显卡的显存都显示占满状态吗

得看你的BATCH SIZE的设置，我的显存小，满的。

小海 · 发表于 2022-12-5 22:39:37

kanbumingbai 发表于 2022-12-5 21:11
得看你的BATCH SIZE的设置，我的显存小，满的。

双显卡炼的话需要用到 NVlinke桥接器吗？两张2080TI显卡训练显存是两张显卡的显存容量吧，我还没用过双卡训练过

kanbumingbai · 发表于 2022-12-5 23:18:18

小海发表于 2022-12-5 22:39
双显卡炼的话需要用到 NVlinke桥接器吗？两张2080TI显卡训练显存是两张显卡的显存容量吧，我还没用过双 ...

我没用桥接，因为是不同时期的卡，显存可以叠加但是好像只针对的是BATCH SIZE，对一些模型参数好像还是遵循单卡的显存，这比较尴尬。

danieltian · 发表于 2022-12-9 14:42:08

我也有这样的疑问

dfldatzjx · 发表于 2022-12-27 03:00:18

kanbumingbai 发表于 2022-12-5 12:26
在你运行训练程序的时候一开始会让你输入模型名称，然后会有个显卡选择，单卡可能一般选择0 帖子里 5卡 ...

一个1660super一个30系显卡怎么整，用的软件不同（一个20系软件一个30系软件）

cjlzkl · 发表于 2023-1-15 16:36:01

kanbumingbai 发表于 2022-12-5 23:18
我没用桥接，因为是不同时期的卡，显存可以叠加但是好像只针对的是BATCH SIZE，对一些模型参数好像还是遵 ...

大佬可以双卡跑双丹么，可以的话我就省了cpu啥的了

kanbumingbai · 发表于 2023-1-15 21:35:52

dfldatzjx 发表于 2022-12-27 03:00
一个1660super一个30系显卡怎么整，用的软件不同（一个20系软件一个30系软件） ...

我擦才看到，不好意思啊，这个我可能解决不了，实在不行，你同时跑两个程序。。。。不同的SRC呗

		自动登录	找回密码
密码			立即注册（仅限QQ邮箱）