deepfacelab中文网

 找回密码
 立即注册(仅限QQ邮箱)
查看: 7671|回复: 69

通过Stable-diffusion+Lora补全SRC极限角度的思路与实践

  [复制链接]

9

主题

156

帖子

5088

积分

高级丹圣

Rank: 13Rank: 13Rank: 13Rank: 13

积分
5088
 楼主| 发表于 2023-10-6 12:26:22 | 显示全部楼层 |阅读模式
星级打分
  • 1
  • 2
  • 3
  • 4
  • 5
平均分:NAN  参与人数:0  我的评分:未评
本帖最后由 jaysfing 于 2023-10-8 12:51 编辑

一直思考通过Ai画图来学习补充DFL的src极限角度,Lora是非常好的学习真人人脸训练工具,controlnet的mutiface模型可以定位脸部,再借助金鱼素材基础库使用SD批量图生图进行SRC极限角度补充,大致思路是这样。SD我是初学者,有更好的方法和不当的地方欢迎大佬指正。
通过几天的研究实践,摸索出了一套方法,供大家借鉴讨论,共同进步。
注意,Stable-diffusion+Lora都使用最新版。会使用到【金鱼素材基础库】
金鱼素材相当于dst  让SD图生图controlnet去学习dst的角度去生成想要的极限角度  这是核心思路
话不多说,先看下效果:


之前:
32344b89be9aa94e9cc60bf8d6a43d1.png
之后:
8ad320c9e640888badfa48b98c7eaef.png

实验前准备:目标人物素材约40-60张,尽可能清晰、多角度;如果没有SD基础,可以学习以下课程(只需要看基础),主要看1,2,3,9课,学习基础、软件界面以及lora和controlnet,进行一些基础的文生图和图生图生成;  
              1.直接进入Lora模型训练:  

            。。。后面内容请看附件。

------------------------------

更新补充效果预览图:
这里选了ai人物仅正面选了30张做示例:(实际可以是任意你想要补充角度的SRC,40-60张比较好,清晰、多角度最好)



图片.png
预处理(打标:)
图片.png

图片.png 图片.png
Lora模型训练(我仅演示节约时间就只做10轮 3000steps)BS开1:
图片.png
完成后把LORA模型放进SD 正向提示词给一个realistic,1girl,close-up,Lora(名称自定义)
反向提示词:
nsfw,ng_nsfw,ng_deepnegative_v1_75t,badhandv4,(worst quality:2),(low quality:2),(normal quality:2),lowres,watermark,monochrome,deepnegative_v1_75t,badhandv4,(worst quality:2),(low quality:2),(normal quality:2),lowres,watermark,monochrome,

图片.png


contorlnet针对金鱼素材脸部极限位置、元素定位 这是核心,理解透彻。


图片.png

我们来到批量处理(当然不会傻乎乎一张张搞,但是要理解好上图),步数演示节省时间给个默认的20  想要清晰可以加到40  启用controlnet  预处理器选择mutiface (脸部动作定位)Eula更贴近真人脸。相关模型在hunging face下载;

图片.png 173310lvdqk4l4plk4vz3q.jpg

搞定出图:按照金鱼素材基础库角度出图   兄弟们六不六?
图片.png 图片.png 图片.png 图片.png


PS1:重绘幅度、 minfaceconfidence、切入时机等会使得Ai生成一些奇怪的物件或者遮挡,甚至眼睛、脸型异常等,DFL的切脸遮罩可以搞定,搞不定的图删除。
PS2:通过正向提示词,比如闭眼(close eyes)、大笑(laugh)等输出想要的表情,并可通过权重进行控制,例如realistic,1girl,close-up,(close eyes:1.5),可以自由发挥,你懂得。当然素材里的图片得包含必要元素,比如Lora不知道牙齿长什么样它就会乱画。
PS3:示例选了30张Ai脸做示例,实际可以是任意你想要补充角度的SRC,可以自由发挥。
PS4:在训练完成输出的图里面挑非常最满意的,再循环放进Lora里训练,模型会越学越像,理论上最终是可以趋近全角度的。



通过Stable-diffusion Lora补全极限角度的思路与实践.pdf

630.16 KB, 下载次数: 139

售价: 1 灵石  [记录]

评分

参与人数 1贡献 +1 收起 理由
bobowxc + 1 十分给力!

查看全部评分

回复

使用道具 举报

3

主题

192

帖子

2170

积分

初级丹圣

Rank: 8Rank: 8

积分
2170

万事如意节日勋章

发表于 2023-10-13 17:03:12 | 显示全部楼层
deepfacecple 发表于 2023-10-13 16:11
你可以用一下stable diffusion面部修复插件adetailer,感觉像是生成的时候脸崩了,出现了多重人脸叠加在 ...

不知道为什么,用了插件adetailer后还是会出现两个鼻子两个嘴之类奇形怪状的人脸。
1697187754679.png
1697187783731.png
回复 支持 1 反对 0

使用道具 举报

0

主题

24

帖子

1240

积分

初级丹圣

Rank: 8Rank: 8

积分
1240

稀奇古怪节日勋章

发表于 2023-10-8 00:41:07 | 显示全部楼层
支持一下,思路没问题。使用UE5的人头生成足够的角度,包括一些表情。再用LORA仿照该角度替换。不过LORA的表情通常不会像真人那么准确,特别是不会有说话中的那么多口型,要想实现,还会更加复杂。SD即使用真人照片训练,也只能算“猜测”表情。
回复 支持 1 反对 0

使用道具 举报

2

主题

661

帖子

7488

积分

高级丹圣

Rank: 13Rank: 13Rank: 13Rank: 13

积分
7488

万事如意节日勋章

发表于 2023-10-7 07:29:21 | 显示全部楼层
感謝分享,買了
回复 支持 0 反对 1

使用道具 举报

23

主题

221

帖子

1万

积分

高级丹圣

Rank: 13Rank: 13Rank: 13Rank: 13

积分
17315
发表于 2023-10-6 12:54:08 | 显示全部楼层
买了,但是没有效果图对比,lora炼制的像不像呢?如果不像感觉是污染源啊
回复 支持 反对

使用道具 举报

9

主题

156

帖子

5088

积分

高级丹圣

Rank: 13Rank: 13Rank: 13Rank: 13

积分
5088
 楼主| 发表于 2023-10-6 13:02:44 | 显示全部楼层
superkent 发表于 2023-10-6 12:54
买了,但是没有效果图对比,lora炼制的像不像呢?如果不像感觉是污染源啊

因为我训练的是熟人的src  不方便截图  实际的相似度很高的   你可以玩玩看
回复 支持 反对

使用道具 举报

5

主题

164

帖子

2156

积分

初级丹圣

Rank: 8Rank: 8

积分
2156
发表于 2023-10-6 14:51:35 | 显示全部楼层
这个可以有,不知小白能否学得会
回复 支持 反对

使用道具 举报

5

主题

164

帖子

2156

积分

初级丹圣

Rank: 8Rank: 8

积分
2156
发表于 2023-10-6 14:56:14 | 显示全部楼层
买了,教程太过简单,就贴了几个参数图片,人物都没有一张,文字介绍也简略,没有一定基础根本看不懂,小白还是别碰
回复 支持 反对

使用道具 举报

8

主题

139

帖子

3995

积分

高级丹圣

Rank: 13Rank: 13Rank: 13Rank: 13

积分
3995
发表于 2023-10-6 15:34:01 | 显示全部楼层
被角度困扰的,加上玩过SD的人看着还是ok的。
要是不懂SD和lora , 还得好好学习。
回复 支持 反对

使用道具 举报

10

主题

454

帖子

1万

积分

高级丹圣

Rank: 13Rank: 13Rank: 13Rank: 13

积分
11470

可爱萌新勋章荣誉会员勋章小有贡献勋章

发表于 2023-10-6 16:20:56 | 显示全部楼层
金鱼素材提前打好标是什么意思
回复 支持 反对

使用道具 举报

9

主题

156

帖子

5088

积分

高级丹圣

Rank: 13Rank: 13Rank: 13Rank: 13

积分
5088
 楼主| 发表于 2023-10-6 16:51:23 | 显示全部楼层
本帖最后由 jaysfing 于 2023-10-6 16:52 编辑
Hedwig 发表于 2023-10-6 16:20
金鱼素材提前打好标是什么意思

SD 训练-图像预处理 会对图像裁剪识别,生成一个txt文档,标记正向提示词  可以理解为dfl的切脸


1696582340800.jpg





回复 支持 反对

使用道具 举报

9

主题

156

帖子

5088

积分

高级丹圣

Rank: 13Rank: 13Rank: 13Rank: 13

积分
5088
 楼主| 发表于 2023-10-6 16:54:07 | 显示全部楼层
lxx1974 发表于 2023-10-6 14:56
买了,教程太过简单,就贴了几个参数图片,人物都没有一张,文字介绍也简略,没有一定基础根本看不懂,小白 ...

我只是简单记录了一下关键步骤  并不是详细教程  确实需要一定的基础
回复 支持 反对

使用道具 举报

9

主题

156

帖子

5088

积分

高级丹圣

Rank: 13Rank: 13Rank: 13Rank: 13

积分
5088
 楼主| 发表于 2023-10-6 16:57:54 | 显示全部楼层
Hedwig 发表于 2023-10-6 16:20
金鱼素材提前打好标是什么意思

金鱼素材相当于dst  让SD图生图controlnet去学习dst的角度去生成想要的极限角度  这是核心思路
回复 支持 反对

使用道具 举报

QQ|Archiver|手机版|deepfacelab中文网 |网站地图

GMT+8, 2024-11-24 00:48 , Processed in 0.146140 second(s), 44 queries .

Powered by Discuz! X3.4

Copyright © 2001-2020, Tencent Cloud.

快速回复 返回顶部 返回列表