有实际用A4000或者A5000跑过的帮忙解答下呗？谢谢！

1234qwer111

星级打分

• 1
• 2
• 3
• 4
• 5

平均分:NAN  参与人数:0  我的评分:未评

一直在攒显卡，本来是奔着3090去的，但是有人说实际3090跑起来尤其是长时间挂机温度和功耗很难平衡，也不安心稳定。

最近看了A4000感觉不错140W超低功耗16G显存，适合7*24小时挂机。当然A5000还是有点超预算。
那么有没有实际用过A4000或者A5000的大佬进来分享下，实际使用稳定吗？目前软件1120版本对该显卡的支持怎么样？
那软件我是安装30系的还是20系的呢？
最好有实际就在用的，谢谢解答了。
不要和我一样YY或者看完显卡参数就来说啊，那就和我自己分析没区别了……哈哈

xy_1531498226

显存大用的很舒服，驱动和cuda那些也都没问题，我用的是30系的dfl，20系之前的没用过。散热的话这卡用的公版涡轮扇，风道正常的话满载温度不会超过80度，还可以的。目前我是服务机8张，个人机1张，够有发言权了吧。

1234qwer111

xy_1531498226 发表于 2022-9-16 14:09
显存大用的很舒服，驱动和cuda那些也都没问题，我用的是30系的dfl，20系之前的没用过。散热的话这卡用的公 ...

收到，谢谢，感觉你蛮专业的，能不能多问点。
因为开始是奔着3090去的，3090就目前和A4000价格也就贵2000。
但是贵在24G的内存。如果A5000现在比3090还贵……
就是你能不能帮我分析下或者你清楚的知道24G的显存和16G的显存对模型的增益有多大。
假如都在开启高质量高参数，BS也在16以上的话。
16G的显存最大能运行多大的模型，24G的呢？
24G的显存能完美驾驭512的模型吗？16G的又能完美驾驭到多少呢？感谢！
其它路过的大佬也帮忙分析下呗？

ken2099

毫无疑问3090性价比高。
24G显存很重要。3090的速度也非常nice。
练到后面你会发现，显存是门槛，实在不行降低点BS也行，但是速度，多快你都不会嫌快的，速度才是最终极的瓶颈。
至于散热，那是小意思，实在不行，开机箱拿电风扇吹，不算事，办法多的很。

WinKK

ken2099 发表于 2022-9-17 09:53
毫无疑问3090性价比高。
24G显存很重要。3090的速度也非常nice。
练到后面你会发现，显存是门槛，实在不行 ...

按内核，3090应该比A4000快50%左右吧。加上大显存，大模型就能快一倍。当然，这只是估计，不知实际情况如何

nicky9999

WinKK 发表于 2022-9-17 13:32
按内核，3090应该比A4000快50%左右吧。加上大显存，大模型就能快一倍。当然，这只是估计，不知实际情况如 ...

256WF猫丹bs16这个速度，给你参考参考
我有开retraining所以应该比原版慢一些

WinKK

nicky9999 发表于 2022-9-17 16:59
256WF猫丹bs16这个速度，给你参考参考
我有开retraining所以应该比原版慢一些

BS=16还能跑到这个速度，看来，我也要换3090了（4090的功耗和价格都有点恐怖）

1234qwer111

收到各位的建议，谢谢，有路过的大佬希望也进来发表下看法，现在显卡价格雪崩开始了，预计2个月左右内会降到低点，是时候出手了。

nicky9999

非洲黑人 发表于 2022-9-21 21:01
能不能发一个3090炼出来的合成效果看看到底有多强

训练是看丹和素材，3090只是比较快，显存比较大，并不会比较强。
你用ME版和中阶卡跑相同参数练出来结果也一样的