comfyUI-controlNet-線稿軟邊緣

{WebUI&comfyUI}∈Stable Diffuision,所以兩者關于ContrlNet的使用方法的核心思路不會變,變的只是comfyUI能夠讓用戶更直觀地看到,并且控制生圖的局部過程。

之前的webUI中涉及到ContrlNet部分知識:SD-細節控制-CSDN博客?

概括來說:?ControlNet中最常用的還是姿勢控制線條約束以及深度控制

模型說明

SD1.5使用512*512的數據集進行訓練,SDXL使用1024*1024的數據集進行訓練。所以讓SD1.5直接生成1024*1024的圖片較為困難。

1.線稿上色

在加載ControlNet節點中有眾多模型,不同的模型的使用條件不一。

在基礎文生圖工作流間增加ControlNet節點,實現對圖像的控制。

1.1模型分類

簡單對吐司上該節點中具有的模型進行分類。

1. 基礎控制類型:(Canny-邊緣, Depth-深度圖, OpenPose-姿態, Scribble-涂鴉, Normal-法線圖, Seg-語義分割, hand_pose-手部關鍵點, Tile-分塊, brightness-亮度控制, qrcode-生成藝術二維碼等)

2. 模型架構/版本(SD15, SDXL, SD3, AnimateDiff, 等)

3. 特殊功能(Inpainting-修復, Illumination-光照控制 ,CoAdapter-多條件聯合控制,?IP-Adapter-用參考圖控制風格, InstantID-人臉身份保留等)

4. 風格適配(Anime-動漫, Realistic-真實等)

5. 多合一綜合模型(Union, Pro等)

控制類型代表模型用途
邊緣檢測*canny*.safetensors,?control_v1lp_sd15_canny.pth保留物體輪廓(如建筑設計/產品圖)
深度圖*depth*.safetensors,?control_v1lf1p_sd15_depth.pth空間關系控制(場景層次感/景深效果)
姿態控制OpenPoseXL.safetensors,?control_v1lp_sd15_openpose.pth人體姿勢生成(角色設計/動作捕捉)
涂鴉控制*scribble*.safetensors,?control_sd15_scribble.pth草圖轉精細圖(手繪概念設計)
分塊處理*tile*.safetensors,?control_v1lfle_sd15_tile.pth局部細節增強(高清紋理/無損放大)
修復專用*inpaint*.safetensors,?control_sd15_inpaint*.pth圖像修補(去水印/物體移除)
風格適配ip-adapter*.pth,?*anime*.safetensors風格遷移(照片轉動漫/藝術風格)
二維碼藝術*qrcode*.safetensors創意二維碼生成
光照控制illumination*.safetensors光影效果調整(打光模擬/HDR效果)

新手一開始看到眾多模型會很頭大,其實不必糾結這個,可以向d老師進行提問,從名稱對模型有初步的認識,基于此篩選掉一部分模型后,再直接上手使用該模型。

在使用模型時仍然需要前往模型作者主頁查看該模型作者關于模型的說明

如lz當前使用的模型原作者就對采樣算法,采樣步數,正負面提示詞方面進行了說明。

1.2組合案例?

1. 真人轉插畫

控制圖:Canny邊緣

模型:`control_v1lp_sd15_canny.pth` + 動漫主模型

提示詞:`anime style, masterpiece`

2. 建筑設計

控制圖:深度圖

模型:`control_v1lf1p_sd15_depth.pth`

提示詞:`modern architecture, sunlight`

3. 虛擬換裝

控制圖:OpenPose姿勢圖

模型:`OpenPoseXL2.safetensors`

提示詞:`fashion photo, [服裝描述]`

4. 老照片修復

控制圖:涂鴉草圖 + Inpainting遮罩

模型:`control_sd15_inpaint_depth_hand_fp16.safetensors`

提示詞:`old photo, high detail, 4K`

5. 多ControlNet串聯: 姿勢(OpenPose) + 深度(Depth) + 風格(IP-Adapter) 同時控制。

6. Tile分塊控制:?用`TTPLANET_Controller_Tile`放大局部細節不改變構圖。

7. 動態視頻控制: AnimateDiff模型 + 運動控制CKPT生成連貫動畫。

模型命名中的`fp16`/`rank256`表示優化版本(顯存需求更低)。

1.3線稿獲取-lineart

利用Img2LineArt Assistant節點將圖片轉換為線稿

輸入ControlNet中的圖片要求為黑底白邊,此處為考慮到多種情況同時使用了2個節點對圖片進行了處理,uu們可以根據需要適當保留一個line節點即可。

?原有畫面可能含有較多細節,精度設置得過高可能會導致線稿提取到的細節過多

?可以選擇用PS畫筆工具將背景進行涂抹。減少背景對畫面的干擾。

但仍然注意到畫面保留了較多細節。可以選擇適當降低details值,減少畫面細節。

下圖為其他值相同,details值不同得出的結果。

1.4圖片大小控制

通過獲取圖像尺寸節點得到原圖像的大小,將空Latent中轉換為輸入節點。

其實工作流的搭建并不是最難的的是不同類型之間的模型的相互匹配。同時需要具備處理異常畫面的思考能力。以及參考圖片大小和目標模型之間是否配適。這個過程需要不斷摸索。

lz一開始的參考圖為2000*2000px,這個尺寸的圖片如果用1.5的模型是完全無法生成的,于是將圖片尺寸改為512*512,但是提取的線稿不夠精細,生成的圖片會丟失過多細節,于是lz取消了原圖和生成圖片之間的尺寸關聯,用2000*2000的圖片進行線稿提取,用512*512的分辨率生成圖片。這之中還得不斷更換模型進行嘗試,以及調整數據。

最終勉強得到幾張能看的圖, 但生成的圖片精細度仍然不夠,且會把角色的耳羽和頭發混為一談。

?

結合使用高清放大節點對圖片進行二次處理:comfyUI-高清放大1-CSDN博客

同時基于角色特性,lz決定再加一個LoRA模型,平臺的LoRA效果也不是很好。。。

1.5軟邊緣-softedge

softedge一般用于風格轉繪,或者基于原圖的線條特征對畫面進行整體細節改變

HED模糊線預處理器的功能和LineArtStandard藝術線預處理器類似。uu們可以嘗試一般性的人物角色,使用該方法對畫面人物進行風格上的轉化。

看樣子不太適合雞翅膀女孩。。。

更換圖像后生成效果

?

完整工作流:ControlNet中的softedge+lineart使用案例 | ComfyUI Workflow | 吐司 tusiart.com?

uu們可以將該功能和與自身的工作流結合?

功能性節點summary

以下節點可以在其他情況下進行復用

1.獲取圖像大小

2.圖像轉化為線稿

只有意志力堅強的人才能到達永生的彼岸。——來點雞湯8

以上end

本文來自互聯網用戶投稿,該文觀點僅代表作者本人,不代表本站立場。本站僅提供信息存儲空間服務,不擁有所有權,不承擔相關法律責任。
如若轉載,請注明出處:http://www.pswp.cn/news/914196.shtml
繁體地址,請注明出處:http://hk.pswp.cn/news/914196.shtml
英文地址,請注明出處:http://en.pswp.cn/news/914196.shtml

如若內容造成侵權/違法違規/事實不符,請聯系多彩編程網進行投訴反饋email:809451989@qq.com,一經查實,立即刪除!

相關文章

SOEM build on ubuntu

1.配置 soem2.編譯 soem3.結果4.記錄一下自己的開發環境家里臺式機

STM32--USART串口通信的應用(第一節串口通信的概念)

咱們今天呢給大家講解咱們 stm32 開發當中的串口的應用啊 , 串口這個專題呢啊是我們那 個學習上必須要掌握的一個外設串口有什么作用呢,其實在我們以后的這個開發程序當中,咱們可能經常需要用到一些調試 信息,對吧? 啊…

STM32F407ZGT6天氣時鐘+實時溫濕度顯示(附源碼)

文章目錄實現功能:項目展示:代碼解析:實現功能: 1.主要功能:通過485通信獲取傳感器溫濕度,溫濕度數據顯示、實時時鐘顯示與用戶交互。使用LVGL在顯示屏上展示傳感器溫濕度數據,并提供UI設置溫度…

和鯨社區深度學習基礎訓練營2025年關卡4

使用 pytorch 構建一個簡單的卷積神經網絡(CNN)模型,完成對 CIFAR-10 數據集的圖像分類任務。 直接使用 CNN 進行分類的模型性能。 提示: 數據集:CIFAR-10 網絡結構:可以使用 2-3 層卷積層,ReLU…

前端性能優化全攻略:從加載到渲染

目錄 前言網絡請求優化資源加載優化JavaScript執行優化渲染優化用戶體驗優化性能監控與分析總結 前言 隨著Web應用復雜度不斷提升,前端性能優化變得尤為重要。本文將系統性地介紹從資源加載到頁面渲染的全鏈路性能優化策略,幫助開發者構建高效、流暢的…

hiredis: 一個輕量級、高性能的 C 語言 Redis 客戶端庫

目錄 1.簡介 2.安裝和配置 2.1.源碼編譯安裝(通用方法) 2.2.包管理器安裝(特定系統) 2.3.Windows 安裝 3.常用的函數及功能 3.1.連接管理函數 3.2.命令執行函數 3.3.異步操作函數 3.4.回復處理函數 3.5.錯誤處理 3.6.…

TCP套接字

1.概念套接字是專門進行網絡間數據通信的一種文件類型,可以實現不同主機之間雙向通信,包含了需要交換的數據和通信雙方的IP地址和port端口號。2.套接字文件的創建int socket(int domain, int type, int protocol); 功能:該函數用來創建各種各…

Go語言高并發聊天室(一):架構設計與核心概念

Go語言高并發聊天室(一):架構設計與核心概念 🚀 引言 在當今互聯網時代,實時通信已成為各類應用的核心功能。從微信、QQ到各種在線協作工具,高并發聊天系統的需求無處不在。本系列文章將手把手教你使用Go語…

Java基礎:泛型

什么是泛型? 簡單來說,Java泛型是JDK 5引入的一種特性,它允許你在定義類、接口和方法時使用類型參數(Type Parameters)。這些類型參數可以在編譯時被具體的類型(如 String, Integer, MyCustomClass 等&…

RMSNorm實現

當前Qwen、Llama等系列RMSNorm實現源碼均一致。具體現實如下: class RMSNorm(nn.Module):def __init__(self, hidden_size, eps1e-6):super().__init__()self.weight nn.Parameter(torch.ones(hidden_size))self.variance_epsilon epsdef forward(self, hidden_s…

智能Agent場景實戰指南 Day 11:財務分析Agent系統開發

【智能Agent場景實戰指南 Day 11】財務分析Agent系統開發 文章標簽 AI Agent,財務分析,LLM應用,智能財務,Python開發 文章簡述 本文是"智能Agent場景實戰指南"系列第11篇,聚焦財務分析Agent系統的開發。文章深入解析如何構建一個能夠自動處理財務報表…

人工智能安全基礎復習用:可解釋性

一、可解釋性的核心作用1. 錯誤檢測與模型改進發現模型的異常行為(如過擬合、偏見),優化性能。例:醫療模型中,可解釋性幫助識別誤診原因。2. 安全與可信性關鍵領域(醫療、軍事)需透明決策&#…

Qt:QCustomPlot類介紹

QCustomPlot的核心類就是QCustomPlot類。這個類繼承自QWidget,因此可以像其他QWidget一樣使用,比如放入布局中。QCustomPlot類基本結構一個QCustomPlot對象可以包含多個圖層(通過QCPLayer表示),通常使用默認圖層。它包…

Visual Studio 2022 上使用ffmpeg

目錄 1. 添加包含目錄 2. 添加庫目錄 3. 添加依賴項 4. 添加動態庫目錄 5. 測試 在解決方案中右擊項目名稱,彈出的窗口中選擇 "屬性"。 1. 添加包含目錄 "C/C" -> "常規" -> "附加包含目錄"中添加 ffmpeg中的…

Elasticsearch 線程池

Elasticsearch 線程池「每個線程池到底采用哪種實現策略」:Elasticsearch 線程池(ThreadPool)中 **所有內置線程池名稱的常量定義**。 每個字符串常量對應一個 **線程池的名字(name)**,也就是你在 Thread…

深入理解 Next.js API 路由:構建全棧應用的終極指南

Next.js 是一個強大的 React 框架,不僅支持服務端渲染(SSR)和靜態站點生成(SSG),還提供了內置的 API 路由功能,使開發者能夠輕松構建全棧應用。傳統的全棧開發通常需要單獨搭建后端服務&#xf…

【6.1.2 漫畫分布式事務技術選型】

漫畫分布式事務技術選型 🎯 學習目標:掌握架構師核心技能——分布式事務技術選型與一致性解決方案,構建高可靠的分布式系統 🎭 第一章:分布式事務模式對比 🤔 2PC vs 3PC vs TCC vs Saga 想象分布式事務就…

液冷智算數據中心崛起,AI算力聯動PC Farm與云智算開拓新藍海(二)

從算法革新到基礎設施升級,從行業滲透到地域布局,人工智能算力正以 “規模擴張 效率提升”雙輪驅動中國數字經濟轉型。中國智能算力規模將在 2025 年突破 1000 EFLOPS,2028 年達到 2781.9 EFLOPS,五年復合增長率 46.2%&#xff0…

《QtPy:Python與Qt的完美橋梁》

QtPy 是什么 在 Python 的廣袤編程宇宙中,當涉及到圖形用戶界面(GUI)開發,Qt 框架宛如一顆璀璨的明星,散發著獨特的魅力。而 QtPy,作為 Python 與 Qt 生態系統交互中的關鍵角色,更是為開發者們開…

ubuntu環境下調試 RT-Thread

調試 RT-Thread 下載源碼 github 搜索 RT-Thread 下載源碼 安裝 python scons 環境 你已經安裝了 kconfiglib,但 scons --menuconfig 仍然提示找不到它。這種情況通常是由于 Python 環境不一致 導致的:你在一個 Python 環境中安裝了 kconfiglib&#xff…