大显存的模型能不能修改成小显存的模型

maze77

星级打分

• 1
• 2
• 3
• 4
• 5

平均分:NAN  参与人数:0  我的评分:未评

论坛有些模型是大显存要求的，能不能在训练的时候降低要求呢？

seancai110

batchsize降低，模型不放显存，学习率下降放cpu，
实在不行放大招，用cpu训练

maze77

seancai110 发表于 2023-6-24 14:56
batchsize降低，模型不放显存，学习率下降放cpu，
实在不行放大招，用cpu训练 ...

cpu是大招，不知道是不是需要3000年一开花，三千年一结果

seancai110

maze77 发表于 2023-6-24 16:31
cpu是大招，不知道是不是需要3000年一开花，三千年一结果

看个人要求了。神丹其实跑个几千次也能有七八分像src了。
有多少钱办多大事呗，显存小就别追求太高。

come3002

maze77 发表于 2023-6-24 16:31
cpu是大招，不知道是不是需要3000年一开花，三千年一结果

还要一种办法。我向某 代练商人 ken2099学的。
条件1：当大显存模型，小显存电脑炼不了，但能支持直接合成。
条件2：SRC素材、DST也基本各种角度各种光效 各种表情凑齐。
条件3：有一套高效的炼丹步骤（如熟练掌握坛主的步骤，以及大角度的练法，下牙齿的练法）
条件4：有点小钱
租算力，向日葵远程炼大显存模型 专丹。使用时候，小显存电脑零训练直接合成。
（我的6.10 320dfud就是这个方法，WF1024SRC，WF1024DST 用大显存跑出来的）。

z_charles

come3002 发表于 2023-6-24 17:29
还要一种办法。我向某 代练商人 ken2099学的。
条件1：当大显存模型，小显存电脑炼不了，但能支持直接合 ...

云训练平台还是贵啊，成本太高了，怪不得形容是“有点小钱”。当初看到人说autodl便宜，搞了两三天，受不了，其实模型也没啥大进步。没有大显存，临时租一下看来也是折中办法。随口一问，你租的哪个平台。

nicky9999

要降低显存需求就找me版或ice版的DFL。

fzddn1

我显存也很小啊