deepfacelab中文网

 找回密码
 立即注册(仅限QQ邮箱)
12
返回列表 发新帖

请问lab和live运算时是单精度还是半精度?

[复制链接]

14

主题

2944

帖子

1万

积分

高级丹圣

Rank: 13Rank: 13Rank: 13Rank: 13

积分
15961

真我风采勋章万事如意节日勋章

发表于 2024-10-8 16:45:33 | 显示全部楼层
DFLive 发表于 2024-10-8 16:19
请教一下,使用半精度训练DFL,效率会比单精度高吗?

DFL不支持半精,代码只有实验性的,模型有极高的概率崩溃。
回复 支持 反对

使用道具 举报

16

主题

406

帖子

4042

积分

高级丹圣

Rank: 13Rank: 13Rank: 13Rank: 13

积分
4042

万事如意节日勋章

发表于 2024-10-8 18:14:51 | 显示全部楼层
wtxx8888 发表于 2024-10-8 16:45
DFL不支持半精,代码只有实验性的,模型有极高的概率崩溃。

崩不崩溃不知道,实测在单精度底丹基础上用半精度训练,基本上等于重来……
回复 支持 反对

使用道具 举报

QQ|Archiver|手机版|deepfacelab中文网 |网站地图

GMT+8, 2024-11-23 05:15 , Processed in 0.108590 second(s), 28 queries .

Powered by Discuz! X3.4

Copyright © 2001-2020, Tencent Cloud.

快速回复 返回顶部 返回列表