deepfacelab中文网

 找回密码
 立即注册(仅限QQ邮箱)
查看: 1734|回复: 13

请各位前辈大佬进来讨论下24G显存的最佳适配模型,谢谢!

[复制链接]

39

主题

1493

帖子

8381

积分

高级丹圣

Rank: 13Rank: 13Rank: 13Rank: 13

积分
8381

万事如意节日勋章

 楼主| 发表于 2022-10-3 17:16:02 | 显示全部楼层 |阅读模式
星级打分
  • 1
  • 2
  • 3
  • 4
  • 5
平均分:NAN  参与人数:0  我的评分:未评
有朋友开的私人视频工作室,现在不弄了,我就收了一个3090ti,知根知底,这3090ti就用来跑pr和达芬奇,用了3个多月,5000加请吃个饭就收了。

目前使用良好。
就是想请大佬和前辈们帮分析下,我基本操作也都会,目前想自己练个模型。这24G的3090ti能最大驾驭多大的模型呢?当然是在高参数的前提下BS也要稳定在16以上。
我知道也可以自己慢慢试验,但是你知道的,本来就是重新跑大模型,各个参数是在不同阶段需要不断调配的。万一跑个一半在爆显存,那浪费的精力太多了。
所以想听听大家的经验和前车之鉴,帮我分析下3090ti24g到底可以完美驾驭多大模型,在高参前提下,吃满显卡性能和显存又不会出错,谢谢了!

另外还有个问题,为什么我看权威的大佬其实炼丹基本都是止步384了?我想大佬们应该不是因为显卡性能的事情。难道在高的丹其实没有意义了吗?又或者在高的丹虽然能跑起来,但是训练效率实在是太低了?
如果真实这样,那是不是24G的显存也没价值了?那直接用3080ti不是更好?这里面我发现坛主早期用的显卡是3090。现在换成了3080ti,难道就是这个道理?
回复

使用道具 举报

11

主题

2625

帖子

1万

积分

高级丹圣

Rank: 13Rank: 13Rank: 13Rank: 13

积分
14167

真我风采勋章万事如意节日勋章

发表于 2022-10-3 17:52:10 | 显示全部楼层
本帖最后由 wtxx8888 于 2022-10-3 18:03 编辑

24G首先跑不了512高参。其次极限BS 16的高参会很慢。
自己练新丹,没有准备挂机三五个月的准备,还是算了吧。
有精准定四维的水准,倒是可以练,毕竟可以一次成型。水准不足就别折腾了。
回复 支持 反对

使用道具 举报

59

主题

457

帖子

2731

积分

初级丹圣

Rank: 8Rank: 8

积分
2731
发表于 2022-10-3 18:12:19 | 显示全部楼层
wtxx8888 发表于 2022-10-3 17:52
24G首先跑不了512高参。其次极限BS 16的高参会很慢。
自己练新丹,没有准备挂机三五个月的准备,还是算了吧 ...

你就天天吹你研究出来 的精准四维 。。。。
回复 支持 反对

使用道具 举报

11

主题

2625

帖子

1万

积分

高级丹圣

Rank: 13Rank: 13Rank: 13Rank: 13

积分
14167

真我风采勋章万事如意节日勋章

发表于 2022-10-3 18:57:35 | 显示全部楼层
qiuyuande 发表于 2022-10-3 18:12
你就天天吹你研究出来 的精准四维 。。。。

有啥吹?我又不卖丹,有意义?还是带着脑子说话吧
回复 支持 反对

使用道具 举报

9

主题

128

帖子

4302

积分

高级丹圣

Rank: 13Rank: 13Rank: 13Rank: 13

积分
4302
发表于 2022-10-3 19:40:04 | 显示全部楼层
显卡高了你才玩的起512  显卡V100  48G和80G这个你才玩的起  3090显卡只能玩320到384到顶了
回复 支持 反对

使用道具 举报

50

主题

1223

帖子

8020

积分

高级丹圣

Rank: 13Rank: 13Rank: 13Rank: 13

积分
8020
发表于 2022-10-3 20:59:26 | 显示全部楼层
q459791197 发表于 2022-10-3 19:40
显卡高了你才玩的起512  显卡V100  48G和80G这个你才玩的起  3090显卡只能玩320到384到顶了 ...

真的?我8G显存就在十分艰难地跑320(虽然用RG版本才能开BS8),速度可怜。看来,也不用升级3090了,继续 慢慢跑就是了
回复 支持 反对

使用道具 举报

10

主题

320

帖子

3054

积分

高级丹圣

Rank: 13Rank: 13Rank: 13Rank: 13

积分
3054

万事如意节日勋章

发表于 2022-10-3 22:36:32 | 显示全部楼层
WinKK 发表于 2022-10-3 20:59
真的?我8G显存就在十分艰难地跑320(虽然用RG版本才能开BS8),速度可怜。看来,也不用升级3090了,继续 ...

人家3090的320可以跑高参啊,你的8G只能跑个入门参
回复 支持 反对

使用道具 举报

10

主题

320

帖子

3054

积分

高级丹圣

Rank: 13Rank: 13Rank: 13Rank: 13

积分
3054

万事如意节日勋章

发表于 2022-10-3 23:09:26 | 显示全部楼层
wtxx8888 发表于 2022-10-3 17:52
24G首先跑不了512高参。其次极限BS 16的高参会很慢。
自己练新丹,没有准备挂机三五个月的准备,还是算了吧 ...

DFUDT,288,512 96 96 32的咋样?
试了320分辨率就会崩了
回复 支持 反对

使用道具 举报

11

主题

2625

帖子

1万

积分

高级丹圣

Rank: 13Rank: 13Rank: 13Rank: 13

积分
14167

真我风采勋章万事如意节日勋章

发表于 2022-10-4 00:18:22 | 显示全部楼层
zqszhuce 发表于 2022-10-3 23:09
DFUDT,288,512 96 96 32的咋样?
试了320分辨率就会崩了

四维参数高了,跑不了320,就这个288吧
回复 支持 反对

使用道具 举报

59

主题

457

帖子

2731

积分

初级丹圣

Rank: 8Rank: 8

积分
2731
发表于 2022-10-4 03:52:55 | 显示全部楼层
本帖最后由 qiuyuande 于 2022-10-4 06:38 编辑
wtxx8888 发表于 2022-10-4 00:18
四维参数高了,跑不了320,就这个288吧

3090 跑 320 高参数 很轻松的啊!!!!!!!!!
回复 支持 反对

使用道具 举报

QQ|Archiver|手机版|deepfacelab中文网 |网站地图

GMT+8, 2024-9-22 18:22 , Processed in 0.105536 second(s), 9 queries , Redis On.

Powered by Discuz! X3.4

Copyright © 2001-2020, Tencent Cloud.

快速回复 返回顶部 返回列表