A卡关于DirectML的显存问题

fghfdg

星级打分

• 1
• 2
• 3
• 4
• 5

平均分:NAN  参与人数:0  我的评分:未评

同一个模型设置一样的训练参数，在05-04的dx12版本上bs能开到8，在猫大佬的6.1DirectML版本上bs开到8显存就不够用。

这是在dx12训练的时候

这个是在dx12训练的时候。

DirectML训练

这个是在DirectML训练的




我用神农大佬的版本（神农1.86版是用dx12，1.86之后的用DirectML）一样有这个问题。（上面那个模型我在1.86版本上bs也能开到8，在1.86之后的版本上bs只能开到4）




那是不是说明A卡dx12比DirectML能够使用的显存更大？

pasanonic

原版的更稳定


你跟上次一样 用原版054,然后把猫的ui放进去试试

fghfdg

pasanonic 发表于 2024-6-11 15:08
原版的更稳定

跟那个没关系的

wvctd753

同7900XTX没遇到过，用的原版和猫版都可以把BS拉到24试过没问题

fghfdg

wvctd753 发表于 2024-9-13 19:33
同7900XTX没遇到过，用的原版和猫版都可以把BS拉到24试过没问题

你这个模型太小了，bs每增加2的情况下显存变化不是很大的。之前神农刚弄出来的dml版的时候我还以为是bug在群里反馈过bs比原版和之前的DX12版小的问题。然后群主让我用一个192的模型测试过，原版和dml版上bs都能拉到一百多。在小模型上的区别没那么大