请问坛里有人用APU核显共享8G以上，DX12版炼大模型吗？

wwwwffff · 发表于 2022-4-13 17:49:39

星级打分

1
2
3
4
5

平均分:NAN 参与人数:0 我的评分:未评

请问坛里有人用APU核显共享8G以上，DX12版炼大模型吗？
见到网上有人在AMD5700G+微星主板BIOS设置共享显存给核显，最高可以设置到16G（不超过总内存的1/2），
不知道此种情况下，是否可以跑起DFL的大模型？
哪位坛友如果实操过，可否分享一下？
毕竟N卡到8G、16G，价格、耗电、噪音都很感人啊！

wwwwffff · 发表于 2022-4-13 18:14:50

本帖最后由 wwwwffff 于 2022-4-13 18:27 编辑

，可设16G共享显存UMA!

显存容量是一个方面，还有一个是显存带宽，看资料：3070TI是608GB/s，而PCIE 4.0带宽比起3.0翻倍后，是64GB/s。
不知道这个对比是否匹配？是否会看见效果是：每次迭代需要十倍的时间，比如10秒以上，那么跑10W次，也需要277小时？

asdf269611 · 发表于 2022-4-13 18:38:26

这个想法可以的，期待后续

吉吉国王 · 发表于 2022-4-13 20:55:46

学习学习学习

丸丸 · 发表于 2022-4-13 21:39:39

决定dfl速度是是显存速度

solarstory · 发表于 2022-4-13 21:59:27

我现在用的是A卡考虑可能换6800XT

浪奔浪流 · 发表于 2022-4-13 23:49:22

啊，这个第一次知道啊，5700G的水平好像比750TI高一点，这个把显存搞大，第一次听说啊。

niaoniao · 发表于 2022-4-14 05:16:19

感觉会慢很多吧

winforce2021 · 发表于 2022-4-14 16:39:58

这样弄，老黄很不高兴的

lknet · 发表于 2022-4-14 19:29:11

会很慢，显卡从显存读写速度比从内存读写快得多。

		自动登录	找回密码
密码			立即注册（仅限QQ邮箱）

请问坛里有人用APU核显共享8G以上，DX12版炼大模型吗？

万事如意节日勋章

开心娱乐节日勋章