8张4090的结果比2张3090慢五倍什么原因

duffslash · 发表于 2023-11-2 17:23:04

星级打分

平均分:NAN 参与人数:0 我的评分:未评

自己有一台双3090，就觉得有点慢。找了一个服务器8张4090显卡的。结果跑相同参数的相同模型，ms比原来还双3090还高5倍？求助各位大佬问题出在哪里？

截屏2023-11-02 17.20.35.png

上图是双3090的数据

企业微信截图_16988326481620.png

这是8张4090的数据。

下了血本儿才租的，怎么会更慢呢。文件、模型、数据都是一模一样的

丸丸 · 发表于 2023-11-2 22:21:41

用ice1.61版本

Juxin · 发表于 2023-11-2 20:34:55

本帖最后由 Juxin 于 2023-11-2 20:37 编辑

終於有人來測試我最想知道的數據比對了

，

大佬說：dfl比较看单精度浮点性能，但是也要看带宽和速率，而且双卡训练的话卡间通讯还要消耗一部分算力

可能卡越多消耗的算力越多？瞎猜的

duffslash · 发表于 2023-11-2 17:34:58

有没有大佬给看看，咨询可以付费

天光脑震荡 · 发表于 2023-11-2 19:33:06

有必要玩得这么认真吗？

duffslash · 发表于 2023-11-2 21:00:28

天光脑震荡发表于 2023-11-2 19:33
有必要玩得这么认真吗？

咱这不是想替各位兄弟试试极限嘛

duffslash · 发表于 2023-11-2 21:01:38

Juxin 发表于 2023-11-2 20:34
終於有人來測試我最想知道的數據比對了，

大佬說：dfl比较看单精度浮点性能，但是也要看带宽和速率，而 ...

会不会跟cpu主频速率有关？
如果真的是这样，全网说在服务器上跑测试的都是扯淡
因为大部分gpu服务器的主频都是2.5GHz

Juxin · 发表于 2023-11-2 21:36:57

duffslash 发表于 2023-11-2 21:01
会不会跟cpu主频速率有关？
如果真的是这样，全网说在服务器上跑测试的都是扯淡
因为大部分gpu服务器的主 ...

應該不會把，看任務管理器CPU佔用不高，除非你設置的是cpu模式

zsgdfl2023 · 发表于 2023-11-3 08:37:41

还不如用一张RTX6000

Deannnn · 发表于 2023-11-3 10:04:25

8路4090的钱比租A100都要贵了吧

		自动登录	找回密码
密码			立即注册（仅限QQ邮箱）

8张4090的结果比2张3090慢五倍 什么原因