想问下多人或多机训练的问题？？

bigbang · 发表于 2023-1-28 16:49:14

星级打分

平均分:NAN 参与人数:0 我的评分:未评

小白，问的问题可能不正确，请各位大佬见谅。
本人机器配置有点低，也想快点出好的效果，身边的电脑有两三台，不知道能不能通过多人或多机同时训练一个模型，最后合并为一个模型？？
还有，怎么多线程训练呢？？

bigbang · 发表于 2023-1-28 16:52:09

说的不对请勿喷啊

玫瑰少年™ · 发表于 2023-2-28 23:50:44

普通千兆交换机的局域网没戏，而且这个软件目前还没有相关功能。
即便是有这功能，多机之间的数据交换也是非常庞大的。
因为训练模型是迭代的过程，每次迭代都是基于上次迭代结果的，上次的结果没有出来，下一次就得等着。

bigbang · 发表于 2023-1-30 14:05:36

硅雾骑士发表于 2023-1-29 10:17
不能，dfl没有写多主机通信的代码，即使实现了，主机之间的带宽才几十MB低到无法使用，除非买mellanox的设 ...

嗯嗯，说的不错，就是没听懂哈~~~

Aufheben · 发表于 2023-1-30 11:26:46

这个东西不好并行计算吧。所以多机器或者多卡都很难实现。

硅雾骑士 · 发表于 2023-1-29 10:17:09

不能，dfl没有写多主机通信的代码，即使实现了，主机之间的带宽才几十MB低到无法使用，除非买mellanox的设备。

丸丸 · 发表于 2023-1-28 23:41:32

分布式训练理论上是可行的，需要你出钱找大佬重写

bigbang · 发表于 2023-1-28 20:02:08

滚石发表于 2023-1-28 19:55
不能

啊，谢谢滚哥回复，那问下能不能双显卡训练呢？？

滚石 · 发表于 2023-1-28 19:55:30

不能

cfab · 发表于 2023-1-28 18:55:30

模型貌似只能复用，不能合并。
训练是显卡参与，多线程影响不大吧。

a11290403 · 发表于 2023-1-28 17:42:20

本帖最后由 a11290403 于 2023-1-28 17:44 编辑

bigbang 发表于 2023-1-28 16:52
说的不对请勿喷啊

你一个模型在A机器上训练？然后复制在拿去B机器上训练？最后复制拿去C机器上训练？搞这么麻烦不如换太好电脑呢
我说我观点把，低配置电脑这么折腾效果都不好。
你可以拿低分辨率的丹自己练手

		自动登录	找回密码
密码			立即注册（仅限QQ邮箱）