SigStyle – 吉大联合 Adobe 等机构推出的风格迁移框架-爱论文

SigStyle是什么

SigStyle 是吉林大学、南京大学智能科学与技术学院及Adobe推出的新型签名风格迁移框架，支持将单张风格图像中独特的视觉特征（如几何结构、色彩搭配、笔触等）无缝迁移到内容图像上。SigStyle基于个性化文本到图像扩散模型，用超网络高效微调模型捕捉签名风格，将风格表示为特殊标记。在迁移过程中，SigStyle 引入时间感知注意力交换技术，确保内容一致性。SigStyle支持全局风格迁移，能实现局部风格迁移、纹理迁移、风格融合及风格引导的文本到图像生成等多种应用。

SigStyle的主要功能

高质量风格迁移：将风格图像中的独特视觉特征（如几何结构、色彩搭配、笔触等）迁移到内容图像上，且保持内容图像的语义和结构。单张风格图像学习：仅需一张风格图像完成风格学习和迁移，无需多张参考图像，大大降低使用门槛。多应用支持：支持多种应用场景，包括全局风格迁移、局部风格迁移（仅对图像的特定区域应用风格）、纹理迁移、风格融合（将多个风格融合后迁移）及风格引导的文本到图像生成。内容一致性保持：基于时间感知注意力交换技术，在风格迁移过程中确保内容图像的结构和语义不被破坏。

SigStyle的技术原理

个性化文本到图像扩散模型：基于个性化文本到图像扩散模型（如 DreamBooth）作为基础框架，微调模型以嵌入风格图像的语义先验，实现风格的捕捉和迁移。超网络驱动的风格感知微调：引入超网络（Hypernetwork）。超网络基于预测权重偏移量，对扩散模型的解码器模块进行微调，高效地捕捉和表示风格特征。避免传统方法中因单张图像微调导致的过拟合问题。时间感知注意力交换：在生成目标图像时，将内容图像的自注意力特征图替换为目标图像的对应特征图（仅在去噪过程的早期步骤中进行），确保内容图像的结构和语义信息在风格迁移过程中得以保留。风格标记化：将风格表示为一个特殊的标记（token），基于微调后的扩散模型，将风格嵌入到生成过程中，使得风格迁移更加灵活，支持多种复杂的风格操作。