deepfacelab中文网

 找回密码
 立即注册(仅限QQ邮箱)
查看: 186|回复: 1

大神帮解答下fp32和tf32

[复制链接]

13

主题

75

帖子

617

积分

高级丹师

Rank: 5Rank: 5

积分
617
 楼主| 发表于 2024-4-11 21:24:34 | 显示全部楼层 |阅读模式
星级打分
  • 1
  • 2
  • 3
  • 4
  • 5
平均分:NAN  参与人数:0  我的评分:未评
有谁知道me版或者ICE模型训练,默认支持TF32张量核心吗?如果只默认支持fp32单精度,那我买h800或者a100就亏大了!
回复

使用道具 举报

10

主题

177

帖子

4936

积分

高级丹圣

Rank: 13Rank: 13Rank: 13Rank: 13

积分
4936

万事如意节日勋章

发表于 5 天前 | 显示全部楼层
训练大模型和dfl炼丹的小模型应该不一样吧
me版或者ICE应该都和原版一样主要使用单精度训练的吧
你没在ICE群吗,可以自己问问。经常看到他们搞H100什么的专业卡,也不一定是炼丹
不过你看起来又不差钱,什么显卡都有,可以尝试用专业卡和游戏卡炼几天对比一下。
最好的办法就是请教一下,人工智能大(小)模型训练相关专业人员(问问身边朋友)...
回复 支持 反对

使用道具 举报

QQ|Archiver|手机版|deepfacelab中文网 |网站地图

GMT+8, 2024-6-16 02:13 , Processed in 0.086544 second(s), 10 queries , Redis On.

Powered by Discuz! X3.4

Copyright © 2001-2020, Tencent Cloud.

快速回复 返回顶部 返回列表