在ComfyUI中用LoRA换脸,实现超高相似度

准备工作

首先,确保您拥有一个已经训练好的LoRA。如果你不知道如何训练LoRA,可以看看我之前的文章。

这个LoRA可以仅使用被训练人物的大头照。我们的目标是使用LoRA生成与被训练人物高度相似的脸部,然后将其换到任何身体上,实现真正意义上的AI摄影。

安装必要的自定义节点

在开始之前,需要安装两个关键的自定义节点:

1️⃣进入ComfyUI,打开ComfyUI管理器。

2️⃣点击“安装自定义节点”的按钮。

3️⃣搜索“efficiency”并安装“Efficiency Nodes”。

4️⃣继续搜索“impact pack”并下载“ComfyUI Impact Pack”。

5️⃣安装完毕后,重启ComfyUI以确保所有节点正确加载。

搭建基础工作流

设置工作流

1️⃣双击打开搜索栏,输入“eff.”,找到并点击“Eff. Loader SDXL”。此节点整合了加载Checkpoint、VAE、提示词、设置图片尺寸等功能。

2️⃣再次打开搜索栏,输入“eff.”,选择“KSampler SDXL”作为采样器。

3️⃣将这两个节点相连,并正确设置Checkpoint和提示词。

运行并测试图像

4️⃣现在,运行工作流并检查生成的图像,确保没有问题。

添加换脸模块

面部检测与分割

1️⃣双击打开搜索栏,输入“ultra”,选择“UltralysticsDetectorProvider”。它提供了一系列检测面部,手部,人体的模型。然后选择模型名称“bbox/face_yolov8m”进行面部检测。它用方形边界框来检测面部,比下面这几个检测面部的模型体积更大一些,因此效果更好一些。Bbox就是方形边界框"bounding box"的缩写。

2️⃣接下来,添加图像分割节点。打开搜索框,输入“samloader”,选择“SAMLoader”。这个"sam"就是"Segment Anything"的缩写,在WebUI里也有这个插件。它是Facebook的母公司Meta开发出来的图像分割的模型。接着选择模型名称包含字母“h”的模型。它是里面体积最大的,因此效果更好一些。

实现换脸

模型都准备好了,接下来还需要一个具体执行换脸的节点。

3️⃣搜索并添加“FaceDetailer”节点,类似于WebUI中的Adetailer。

4️⃣有了这3个节点还不够,因为我们还需要让这个"FaceDetailer"可以使用单独的模型以及提示词。还需要它可以使用我们训练好的LoRA进行换脸。所以,我们再添加一个支持SD1.5的效率加载器。

5️⃣我们需要对SDXL模型生成的图像进行换脸。所以采样器的图像输出端应该连上"FaceDetailer"的图像输入端。因为我们要"FaceDetailer"使用单独的模型,所以把效率加载器上的模型输出端连上"FaceDetailer"的输入端。下面的端口我们也连一下。然后把这两个处理面部的节点也连接一下。

动图封面

设置并预览

6️⃣配置“FaceDetailer”所需的模型、LoRA和提示词。

7️⃣在“FaceDetailer”的输出端添加一个预览图像节点。

8️⃣添加一个“把蒙版转化为图像”的节点,连接相应的“mask”端口。

9️⃣添加另一个预览图像节点以便预览处理好的面部蒙版。

在SDXL的采样器图像输出端也添加一个预览图像节点,以便比较换脸前后的效果。

接着再点击"添加提示词队列"按钮,稍等一会儿图片就出来了。

调整与优化

  • 如果换脸效果存在问题,可调整“FaceDetailer”的参数,如增大“feather”以减少接缝,或调整“bbox_crop_factor”以增大裁剪区域。

为了帮助大家更好地掌握 ComfyUI,我在去年花了几个月的时间,撰写并录制了一套ComfyUI的基础教程,共六篇。这套教程详细介绍了选择ComfyUI的理由、其优缺点、下载安装方法、模型与插件的安装、工作流节点和底层逻辑详解、遮罩修改重绘/Inpenting模块以及SDXL工作流手把手搭建。

由于篇幅原因,本文精选几个章节,详细版点击下方卡片免费领取

一、ComfyUI配置指南

  • 报错指南

  • 环境配置

  • 脚本更新

  • 后记

  • .......

img

二、ComfyUI基础入门

  • 软件安装篇

  • 插件安装篇

  • ......

img

三、 ComfyUI工作流节点/底层逻辑详解

  • ComfyUI 基础概念理解

  • Stable diffusion 工作原理

  • 工作流底层逻辑

  • 必备插件补全

  • ......

img

四、ComfyUI节点技巧进阶/多模型串联

  • 节点进阶详解

  • 提词技巧精通

  • 多模型节点串联

  • ......

img

五、ComfyUI遮罩修改重绘/Inpenting模块详解

  • 图像分辨率

  • 姿势

  • ......

img

六、ComfyUI超实用SDXL工作流手把手搭建

  • Refined模型

  • SDXL风格化提示词

  • SDXL工作流搭建

  • ......

img

由于篇幅原因,本文精选几个章节,详细版点击下方卡片免费领取

img

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:/a/701094.html

如若内容造成侵权/违法违规/事实不符,请联系我们进行投诉反馈qq邮箱809451989@qq.com,一经查实,立即删除!

相关文章

mysql中 事务的隔离级别与MVCC

大家好。今天我们来讲一下事务的隔离级别和MVCC。在讲之前,我们先创建一张表,方便我们的讲解: CREATE TABLE hero ( number INT, name VARCHAR(100), country varchar(100), PRIMARY KEY (number) ) EngineInnoDB CHARSETutf8;创建完毕后我…

【FreeRTOS】软件定时器 software timer(上)

我们在手机上添加闹钟时,需要指定时间、指定类型(一次性的,还是周期性的)、指定做什么事;还有 一些过时的、不再使用的闹钟。如下图所示: 使用定时器跟使用手机闹钟是类似的: 指定时间:启动定时器和运行回…

GenAI-Arena:首个多模态生成 AI 排名开放平台

生成式 AI 指的是能够生成新内容(如图像、视频、文本等)的人工智能技术。近年来,生成式 AI 在图像和视频生成领域取得了突破性进展,例如: 艺术创作:生成式 AI 可以根据文本描述生成各种风格的艺术作品&…

10.3 Go 同步与通信

💝💝💝欢迎莅临我的博客,很高兴能够在这里和您见面!希望您在这里可以感受到一份轻松愉快的氛围,不仅可以获得有趣的内容和知识,也可以畅所欲言、分享您的想法和见解。 推荐:「stormsha的主页」…

爬虫案例:建设库JS逆向

爬虫流程 1. 确定目标网址和所需内容 https://www.jiansheku.com/search/enterprise/ 只是个学习案例,所以目标就有我自己来选择,企业名称,法定代表人,注册资本,成立日期 2. 对目标网站,进行分析 动态…

甲板上的战舰|模拟?|每日一题|chatgpt结合更正

文章目录 我的天免费的4o太好用了我的天免费的4o太好用了我的天免费的4o太好用了题目详情思路:关键:chatGPT配合纠正错误思路正确代码: 我的天免费的4o太好用了 我的天免费的4o太好用了 我的天免费的4o太好用了 重要的事情说三遍 题目详情…

HK1-BOX X3刷UBUNTU 24.04,并开启WIFI

端午刚好有点时间,顺便把改完散热的HK1-BOX刷了个最新OC版的UBUNTU 24,这里记录下操作的步骤: 准备材料 HK1-BOX S905X3:注意X4的不行固件没匹配的。建议先改完散热,不然作为7X24小时的机器长时间高温还是很伤硬件的…

什么是SOLIDWORKS科研版

随着科技的不断进步,工程设计和科学研究变得越来越复杂,需要更强大的工具来满足需求。SOLIDWORKS科研版就是在这样的背景下诞生的,它为科研人员和工程师提供了一套全方面、快捷的解决方案,以应对各种科研和工程挑战。 SOLIDWORKS科…

Keil uVision5复制到Word文档后乱码的解决办法

一、问题出现状况 在做嵌入式实验时,我发现在Keil uVision5中正常编写的代码和注释,写入实验报告(word)中其中文注释就会产生乱码,非常不美观,并且使代码变得杂乱。 如下:Keil uVision5中注释…

RK3588 Debian11进行源码编译安装Pyqt5

RK3588 Debian11进行源码编译安装Pyqt5 参考链接 https://blog.csdn.net/qq_38184409/article/details/137047584?ops_request_misc%257B%2522request%255Fid%2522%253A%2522171808774816800222841743%2522%252C%2522scm%2522%253A%252220140713.130102334…%2522%257D&…

Java面试题--JVM大厂篇之深入了解Java虚拟机(JVM):工作机制与优化策略

引言: Java虚拟机(Java Virtual Machine,简称JVM)是Java程序员绕不开的主题。作为Java语言的执行平台,JVM不仅为Java程序提供了平台无关性,还承担了内存管理、线程管理和垃圾回收等复杂任务。了解JVM的工作…

.NET 全局过滤器

过滤器流程图: 过滤器描述: 1、Authorization Filter : 是五种Filter中优先级最高的,通常用于验证Request合不合法、用户身份是否被认证(然后授权等)、复杂的权限角色认证、登录授权等操作。 2、Resource Filter: 会在Authorization之后,Model Binding之…

[Algorithm][动态规划][二维费用的背包问题][一和零][盈利计划]详细讲解

目录 0.原理讲解1.一和零1.题目链接2.算法原理详解3.代码实现 2.盈利计划1.题目链接2.算法原理详解3.代码实现 0.原理讲解 本质仍然是背包问题,但是相较于普通的背包问题,只是限制条件多了一个而已 1.一和零 1.题目链接 一和零 2.算法原理详解 思路&…

Linux操作系统:Redis在虚拟环境下的安装与部署

Redis下载方法 最近部署项目的时候用到了Redis,自己在安装的时候也碰到了一些列问题最终安装成功,记录一下自己的安装历程。前期准备: 服务器Linux版本:Centos8.4 64位(http://isoredirect.centos.org/centos/8/isos/…

esp32s3-gc9a01-lvgl

前言 近期做了一个项目是使用esp32s3 准亿科技的TFT屏幕 该屏幕使用的驱动IC为:GC9A01 通讯方式是:4线SPI , 三线spi和四线SPI区别在于:是否使用D/C信号线 开发LCD屏幕驱动, 可以参考乐鑫官网LCD显示屏指南 SPI 一共有4种工作模式. 根据接线 , 驱动方式的不同. 可分3 , …

Spring boot 使用AbstractRoutingDataSource实现数据源动态切换

目录 一、AbstractRoutingDataSource 二、具体实现 1、pom.xml 2、新建UserMapper 3、在spring boot 启动类上添加扫描mapper注解 4、在配置文件 application.properties 中添加多个(我这里是两个)数据源的配置信息 5、集成动态数据源模块 5.1、新建注解 CurDataSource…

JAVA动态表达式:Antlr4 G4 模板 + 读取字符串表达式结构树

安装antlr4插件 创建一个后缀是g4的文件 grammar Expr;expression :( expression ) # parens| expression and expression # andOp| expression or expression # orOp| VARNAME comparison_op NUMBER # comparison| VARNAME comparison_op STRING # comparison| …

JS基础与高级应用: 性能优化

在现代Web开发中,性能优化已成为前端工程师必须掌握的核心技能之一。本文从URL输入到页面加载完成的全过程出发,深入分析了HTTP协议的演进、域名解析、代码层面性能优化以及编译与渲染的最佳实践。通过节流、防抖、重复请求合并等具体技术手段&#xff0…

人工智能GPT-4o?

对比分析 在讨论GPT-4o时,我们首先需要了解其前身,即GPT-4,以及其之前的版本。GPT系列从GPT-1到GPT-4经历了多次迭代,每一次都带来了显著的进步。 GPT-4 vs GPT-4o: 1. **参数规模:** GPT-4o在参数规模上…

Git仓库中文件的状态

0 Preface/Foreword 1 文件状态 文件包含以下4个状态: untracked,未跟踪,表示该文件在文件夹中,但是没有加入到git 仓库中进行版本管控。可以通过git add命令将该文件增加到git 仓库中。从untracked变为staged。unmodified&…