A卡关于DirectML的显存问题

fghfdg · 发表于 2024-6-11 11:51:08

星级打分

平均分:NAN 参与人数:0 我的评分:未评

同一个模型设置一样的训练参数，在05-04的dx12版本上bs能开到8，在猫大佬的6.1DirectML版本上bs开到8显存就不够用。

这是在dx12训练的时候

这个是在dx12训练的时候。

DirectML训练

这个是在DirectML训练的

我用神农大佬的版本（神农1.86版是用dx12，1.86之后的用DirectML）一样有这个问题。（上面那个模型我在1.86版本上bs也能开到8，在1.86之后的版本上bs只能开到4）

那是不是说明A卡dx12比DirectML能够使用的显存更大？

pasanonic · 发表于 2024-6-11 15:08:09

本帖最后由 pasanonic 于 2024-6-11 17:35 编辑

原版的更稳定

你跟上次一样用原版054,然后把猫的ui放进去试试

fghfdg · 发表于 2024-6-11 20:30:51

pasanonic 发表于 2024-6-11 15:08
原版的更稳定

跟那个没关系的

wvctd753 · 发表于 2024-9-13 19:33:04

同7900XTX没遇到过，用的原版和猫版都可以把BS拉到24试过没问题

fghfdg · 发表于 2024-9-13 23:51:14

wvctd753 发表于 2024-9-13 19:33
同7900XTX没遇到过，用的原版和猫版都可以把BS拉到24试过没问题

你这个模型太小了，bs每增加2的情况下显存变化不是很大的。之前神农刚弄出来的dml版的时候我还以为是bug在群里反馈过bs比原版和之前的DX12版小的问题。然后群主让我用一个192的模型测试过，原版和dml版上bs都能拉到一百多。在小模型上的区别没那么大

		自动登录	找回密码
密码			立即注册（仅限QQ邮箱）