Stable diffusion入门教程,如何生成角色形象一致性的图像

您是否需要从不同的视角创建一致的 AI 角色?例如下面的图片效果。

一. 实现原理

制作一张同一个人物角色不同的视角网格图片,如下图所示。

使用ControlNet的Canny SDXL控制模型生成人物角色轮廓,如下图所示。

然后使用 IP Apadter FaceID Plus v2 从另一个参考图像复制面部。由于IP Apadter FaceID仅复制面部。它可以从参考图像中精确提取面部特征,因此可以准确地将面部转移到不同的视角。

二. 制作方法

【第一步】:大模型的选择

这里推荐使用:ProtoVision XL-High Fidelity-No Refiner,版本v6.6.0。

模型下载地址

LiblibAI:https://www.liblib.art/modelinfo/3a3d10aa7fe644158c08a5a43da358db

【第二步】:提示词的编写

我们以上图中第一张图片为例来进行说明。

正向提示词

Prompt:character sheet, color photo of woman, white background, blonde long hair, beautiful eyes, black shirt

提示词:人物表,女人的彩色照片,白色背景,金发长发,美丽的眼睛,黑色衬衫

反向提示词

disfigured, deformed, ugly, text, logo

相关参数设置

采样器:DPM++ 2M Karras采样迭代步数:20图片宽高:1024*1024。提示词引导系数(CFG):7

【第三步】:ControlNet的设置

这里我们需要配置2个ControlNet单元。

ControlNet单元0:canny控制模型配置

相关参数设置如下:

控制类型:选择”Canny(硬边缘)”预处理器:canny模型:diffusers_xl_canny_mid控制权重:0.4引导介入时机:0引导终止时机:0.5

ControlNet单元1:Ip-Adapter控制模型配置

相关参数设置如下:

控制类型:选择”IP-Adapter”预处理器:ip-adapter_face_id_plus模型:ip-adapter-faceid-plusv2_sdxl控制权重:0.7引导介入时机:0引导终止时机:1

【第四步】:使用 ADetailer 自动修复脸部

由于图片中人脸较多,需要开启ADetailer修复脸部。模型选择:face_yolov8n.pt

【第五步】图片的生成

点击【生成】按钮,我们来看一下最终生成的图片效果。

三. 相关说明

(1) 这里使用的ControlNet canny和Ip Adapter控制器都是基于SDXL的,所以大模型的选择必须是基于SDXL的大模型。

(2)由于网格呈现的主要是人物头像,所以上传的图片最好也是人物肖像照片。全身照出来的效果可能并不是特别理想。

(3)自由定制化:在上面的制作过程中,我们只需要更改Ip Adapter的图片即可,也可以结合自己的需求修改正向提示词。

(4)如果脸部与图片不符

增加IP Adapter的控制器权重降低 Canny ControlNet 的控制权重和引导终止时机

好了,今天的分享就到这里了,希望今天分享的内容对大家有所帮助。

 

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注