来交流一下显卡的训练速度吧

WinKK

星级打分

• 1
• 2
• 3
• 4
• 5

平均分:NAN  参与人数:0  我的评分:未评

我用的是RX6600，8G显存。一直惦记得换显卡，但是，又对不同显卡的训练速度没个谱，就想与大家交流一下。

大家应该都用过自闭2.0模型吧：

不知大家各自的显卡训练速度如何？ 能否互通一下？

大家如果参加比较，只要新建一个同参数模型，用BS=4、8、16训练一下，得到每次迭代所用时间即可，感谢大家的分享


目前结果是：

显卡               BS=4         BS=8          BS=16(ms)

RTX4090（13900k@6.2G 高频DDR5）
                       123            197              316

RTX4090        130            230             345

nvidia A100 PCE版 80G
CPU 志强 Glod 6154 14nm Skylake架构
                                          227            414
RTX3090 Ti     174           285             480

Quadro RTX A6000
/TESLA A40    210          360              660

RTX2080TI        221         376               711

RTX3090（低配CPU）
                       234          406              749
Tesla V100
FHHL-16GB    395          635             1360

tesla p40         410          645           1084  

1080ti             350          640

2060s              422          737

6700XT           440          820          1580

RTX3060                         890

RX6600XT                      983

RX6600           610         1166            2750（models_opt_on_gpu: False)

1660s             572           1400（RG版本）
                                        1800 (models_opt_on_gpu: False)

模型参数

================ Model Summary ================
==                                           ==
==            Model name: ZIBI2.0_SAEHD      ==
==                                           ==
==     Current iteration: 49                 ==
==                                           ==
==-------------- Model Options --------------==
==                                           ==
==            resolution: 256                ==
==             face_type: wf                 ==
==     models_opt_on_gpu: True               ==
==                 archi: df-ud              ==
==               ae_dims: 320                ==
==                e_dims: 88                 ==
==                d_dims: 66                 ==
==           d_mask_dims: 22                 ==
==       masked_training: True              ==
==       eyes_mouth_prio: False              ==
==           uniform_yaw: False              ==
==             adabelief: True               ==
==            lr_dropout: n                  ==
==           random_warp: True               ==
==       true_face_power: 0.0                ==
==      face_style_power: 0.0                ==
==        bg_style_power: 0.0                ==
==               ct_mode: none               ==
==              clipgrad: False              ==
==              pretrain: False              ==
==       autobackup_hour: 0                  ==
== write_preview_history: False              ==
==           target_iter: 0                  ==
==       random_src_flip: False              ==
==       random_dst_flip: True               ==
==            batch_size: 4                  ==
==             gan_power: 0.0                ==
==        gan_patch_size: 32                 ==
==              gan_dims: 16                 ==
==         blur_out_mask: False              ==
==      random_hsv_power: 0.0                ==
==                                           ==
==--------------- Running On ----------------==
==                                           ==
==          Device index: 0                  ==
==                  Name: AMD Radeon RX 6600 ==
==                  VRAM: 6.85GB             ==
==                                           ==
===============================================
Starting. Press "Enter" to stop training and save model.
[14:04:57][#002518][0609ms][1.1536][0.9288]
[14:29:37][#004944][0609ms][0.9149][0.6686]
[14:54:37][#007406][0609ms][0.8456][0.5866]
[15:19:37][#009867][0611ms][0.8003][0.5329]

T0X1C

6700XT BS4=440  BS8=820 BS16=1580 BS22=爆显存

griffinycx

更新了老哥，同样参数。显卡4090
BS=4 130ms BS=8 230ms BS=16 345ms

wtxx8888

这不是256的模型吗？哪来的320？AE又不是解析度

Han江孤影

我也想看看我的3060到底行不行

IAW

3090ti，BS4时为174MS左右，BS8为285MS左右，BS16为480MS左右浮动
models_opt_on_gpu全为True

konamiboy

是不是模型不一样速度不一样呀

WinKK

IAW 发表于 2022-9-17 21:14
3090ti，BS4时为174MS左右，BS8为285MS左右，BS16为480MS左右浮动
models_opt_on_gpu全为True ...

看来，3090的速度是6600的4-5倍，而且，模型越大，优势越明显

WinKK

wtxx8888 发表于 2022-9-17 21:55
这不是256的模型吗？哪来的320？AE又不是解析度

我这显卡玩的最大的模型是320，但只能跑BS=4，所以没法胜任。这个256模型还能跑起来，而且许多人都用过这个模型，所以，用的这个256模型做基准来比较。

只是想知道一下不同显卡的训练速度 模型还是简单些方便比较。

WinKK

Han江孤影 发表于 2022-9-17 21:02
我也想看看我的3060到底行不行

你用你的显卡跑一下这模型啊，到时分享一下速度，也好给大家一个参考。新建一个同参数模型跑一下就行，不用真的训练。

我估计3060会比6600快一些，但应该在同一级别的。

WinKK

konamiboy 发表于 2022-9-18 00:33
是不是模型不一样速度不一样呀

是的。而且，同一模型下参数的变化也影响速度。比较就最好用同模型、同参数。
欢迎参加分享

nicky9999

WinKK 发表于 2022-9-18 06:03
看来，3090的速度是6600的4-5倍，而且，模型越大，优势越明显

他是3090ti,比3090高一点