简介:本文拆解节点式工作流完成局部重绘与主体迁移的执行顺序,列出VAE、掩码、条件与LoRA等节点的接线要点和常见排错方法。文中还给出显存、缓存与稳定性的检查口径,以及三类生产场景的适用与不适用条件,帮助读者判断这套方案是否值得投入验证。
早期文生图采用”一段提示词,一张结果”的方式,有两个明显限制。第一,结果随机。同一段描述每次生成的人物五官、服饰纹理、标志形状都会不同,难以在多张图之间复用。第二,输出是整张图,无法限定修改范围。只想替换背景,衣服褶皱和手部结构也可能跟着变化。
电商换装、品牌标志迁移、商品图修复等任务要求”主体不变,背景或局部可变”。满足这一要求需要三项能力:以图像作为条件输入,限定可修改的区域,用少量样本让模型记住特定主体。节点式工作流把这三项能力拆成独立模块,每个模块的参数都可以单独检查。
这类方法做不到像素级一致。主体姿态、视角、光照变化越大,漂移越明显。小字、细线条标志和手指对编码与解码最敏感。下文给出的参数都只是起点,需要用自己的样本重新验证。
处理真人肖像、他人商品或品牌标志前,必须取得肖像权与商标权方面的授权。
扩散模型(diffusion model):训练时逐步给图像加入高斯噪声,直到接近纯噪声。推理时从噪声出发,由神经网络逐步预测并去除噪声。每一步都依赖当前状态和条件信息,因此条件接入方式会直接改变结果。
潜空间(latent space):在像素空间直接计算成本很高。变分自编码器(VAE)先把图像压缩为低维潜变量,去噪在潜空间完成,最后由解码器还原为像素。这个压缩是有损的,解码后文字、细密纹理和小尺寸标志可能变糊。编辑前,可以先把原图编码再解码一次,比较细节损失有多大。
条件(conditioning):控制生成方向的外部信息,包括文本嵌入、参考图特征、掩码、姿态图或深度图。条件通过交叉注意力等方式注入去噪网络。节点没有正确接入时,模型会忽略该条件,而输出看起来仍然正常。
掩码(mask):标记哪些区域允许被重绘。白黑约定依工具和节点实现而定。多数 ComfyUI 类节点用白色表示重绘,但也有相反的实现。使用前用一张测试图确认:重绘区应当变化,保留区应当不变。掩码边缘需要羽化(feather)或向外扩展几像素到几十像素,否则接缝明显。
低秩适配(LoRA):不改动基础模型的权重矩阵 W,而是训练一对低秩矩阵 A 和 B。推理时,把增量 BA 按强度系数 s 叠加到 W 上,即 W’ = W + s·BA。训练时设定的 rank 决定增量的表达能力,rank 越高,参数越多,显存占用和过拟合风险也越大。常见做法是用十几张同一主体的样本训练,样本的角度和光照要有变化。同一层上的多个 LoRA 会相加,强度叠加后可能过强,需要逐个测试。
以下以 ComfyUI 一类的节点图为例。节点名称因工具而异,但数据流基本一致。