显卡半精度算力表汇总

鋼の煉金術師 · 发表于 2024-3-10 14:28:06

星级打分

平均分:NAN 参与人数:0 我的评分:未评

可以作为lab炼丹和live帧数参考。

网上搜了下，半精度算力应该是比单精度权重高的。
10xx系显卡都没有半精度算力，所以跑ai很弱，至少要16xx 20xx系列以上显卡

w7315511 · 发表于 2024-5-20 00:43:03

炼丹到底是看单精还是半精

鋼の煉金術師 · 发表于 2024-5-20 10:20:20

w7315511 发表于 2024-5-20 00:43
炼丹到底是看单精还是半精

以前我被人误导了以为只吃单精度，现在我觉得应该是混合的，单精为主，半精为辅，有一定的比例分配

w7315511 · 发表于 2024-5-20 20:57:17

鋼の煉金術師发表于 2024-5-20 10:20
以前我被人误导了以为只吃单精度，现在我觉得应该是混合的，单精为主，半精为辅，有一定的比例分配 ...

那用哪个型号的显卡炼丹最划算

鋼の煉金術師 · 发表于 2024-5-20 21:06:38

w7315511 发表于 2024-5-20 20:57
那用哪个型号的显卡炼丹最划算

老一点的就2080ti，新点的就4070ti或3080ti，算是价格和炼丹能力平衡了，溢价较少

wtxx8888 · 发表于 2024-5-20 22:02:01

本帖最后由 wtxx8888 于 2024-5-20 22:34 编辑

鋼の煉金術師发表于 2024-5-20 10:20
以前我被人误导了以为只吃单精度，现在我觉得应该是混合的，单精为主，半精为辅，有一定的比例分配 ...

DFL就是单精，10系及之前的N卡，都没半精能力，不一样跑？
各种AI软件，想用什么精度运算，要自己调设置（例如RVC，默认是FP16半精，自己把训练命令内的FP16，改成NONE就是单精）。
不动设置或设置为空的（NONE），默认就是FP32单精。

鋼の煉金術師 · 发表于 2024-5-21 20:15:59

wtxx8888 发表于 2024-5-20 22:02
DFL就是单精，10系及之前的N卡，都没半精能力，不一样跑？
各种AI软件，想用什么精度运算，要自己调设置（ ...

dfl和dflive可以改设置吗？

wtxx8888 · 发表于 2024-5-21 23:58:54

本帖最后由 wtxx8888 于 2024-5-22 00:02 编辑

鋼の煉金術師发表于 2024-5-21 20:15
dfl和dflive可以改设置吗？

DFL能存半精FP16模型，八成炸丹极不稳定，基本没用，懂代码可以自己去开

你一看就啥也不懂，半精很大程度上，都不如单精（单精相当于无损图片，半精相当于JPG图片压缩，自己品吧

）

w7315511 · 发表于 2024-5-29 22:33:00

wtxx8888 发表于 2024-5-21 23:58
DFL能存半精FP16模型，八成炸丹极不稳定，基本没用，懂代码可以自己去开
你一看就啥也不懂，半精很大程 ...

搁浅 · 发表于 2024-6-27 12:29:15

L40这么差啊，才4070TI的3倍不到，还打算后期换专业显卡呢

		自动登录	找回密码
密码			立即注册（仅限QQ邮箱）