求问关于使用A卡DX12和N卡CUDA训练速度问题

GEMIU0816CC

星级打分

• 1
• 2
• 3
• 4
• 5

平均分:NAN  参与人数:0  我的评分:未评

有A卡N卡都用过的大佬吗
现在我用的是4060Ti16g，288以上分辨率模型ae稍微大点的后期开gan batch_size最多只能开到batch_size：4。
想问的是A卡用DX12训练和N卡CUDA训练速度差距大吗，N卡显存再往上就只能上4090了，现在想购入7900XTX24g显存价格便宜才7k不到
，就是不知道没有CUDA训练速度如何。
还有就是有大佬用过双卡训练吗，双卡训练显存可以叠加吗，就比如我上两张4060ti16g训练的时候是不是就有32g可用了。

fghfdg

我从3070换到现在的7900XTX，确实7900XTX24g显存不到7k，但是A卡只能用DX12或者dml训练。dx12 还好，dml训练的时候batch_size会比dx12的小（你可以翻我A卡显存问题那个贴）。只有原版和神农1.86（包含1.86以前的）是dx12的。神农1.86以后的版本以及猫之汉化新春版都是dml的，A卡能用但是batch_size会比dx12的小（模型越大越明显），ice全部都是CUDA的A卡用不了。如果你能接受以上特点，那A卡还是很有性价比的。
补充一点，7900XTX24g显存和4090在原版上训练速度相差不大（4090大概快15%左右），但是在ice上4090非常快（我看到有人训练的截图，4090显卡在ice上训练一个512-512-96-72-32的模型bs能开14，迭代速度1400ms左右，我7900xtx在原版训练一个384-512-96-80-32的模型bs开8迭代速度1100ms左右）
再补充一点，A卡用1120dx12训练的时候可能会异常卡顿，用0504dx12就没事。0504dx12是英文版的（汉化的翻我帖子，我把猫版1120cuda的汉化弄过去0504dx12了

dfl9999

4090现在停产涨价，价格比首发还要高几千，有没必要当冤种，3090全部是矿卡，也没必要买，4090d现在一万出头，可以接受马上发布50系跌价你就买，a卡不用考虑，可以考虑2080ti魔改的22g版本，价格2000出头

wzx945

我记得论坛里有大佬测试过吧，DFL的话好像显存大小更重要一些，同级别的A卡和N卡训练速度基本没多少差距，但是A卡显存大，在DFL训练时更有优势。
但如果你要玩其他的AI模型，可能还是得上N卡，A卡兼容性始终是个问题，各种魔改版的DFL都会出问题，但只用原版DFL就没事

htyy

用内存换显存啊384的ae的模型我16g能跑20bs

GEMIU0816CC

htyy 发表于 2024-9-14 16:55
用内存换显存啊384的ae的模型我16g能跑20bs

大佬这个需要怎么操作 有相关的帖子介绍吗

GEMIU0816CC

fghfdg 发表于 2024-9-14 14:32
我从3070换到现在的7900XTX，确实7900XTX24g显存不到7k，但是A卡只能用DX12或者dml训练。dx12 还好，dml训 ...

感谢大佬解答，这样开来A卡还是很有性价比

htyy

GEMIU0816CC 发表于 2024-9-15 17:05
大佬这个需要怎么操作 有相关的帖子介绍吗

ice版

Terea

GEMIU0816CC 发表于 2024-9-15 17:22
感谢大佬解答，这样开来A卡还是很有性价比

2080Ti 22g 跑你的邓紫棋可以 bs20 哦