上一篇
LATTE3D是什么？一文让你看懂LATTE3D的技术原理、主要功能、应用场景
BrushNet是什么？一文让你看懂BrushNet的技术原理、主要功能、应用场景
来源：卓商AI
发布时间：2025-04-05
BrushNet概述简介
BrushNet是由腾讯PCG部门的ARC实验室与香港大学的开发人员推出的一个基于扩散模型的即插即用的图像照片修复（Inpainting）模型，通过分解的双分支架构来有效处理图像中的遮罩区域。该模型的一个分支专注于提取遮罩图像的像素级特征，而另一个分支则负责图像的生成。这种设计使得BrushNet能够将关键的遮罩信息以分层的方式精细地融入到修复过程中，从而在保持原有图像内容连贯性的同时，生成高质量的修复结果。
与以前的图像修复方法相比（如Blended Latent Diffusion、Stable Diffusion Inpainting、HD-Painter、PowerPaint等），BrushNet的图像还原修复能力无论是在风格、内容，还是颜色和提示对齐等方面都表现出了优越的连贯性。
BrushNet的官网入口
官方项目主页：https://tencentarc.github.io/BrushNet/
GitHub代码库：https://github.com/TencentARC/BrushNet
arXiv研究论文：https://arxiv.org/abs/2403.06976
BrushNet的功能特性
修复不同类型的图像：BrushNet可修复不同场景的图像，如人类、动物、室内和室外场景，还可以修复不同风格的图像，如自然图像、铅笔画、动漫、插图、水彩等。
像素级修复：BrushNet能够识别和处理图像中的遮罩区域，对每个像素进行精确的修复，确保修复区域与原始图像在视觉上的无缝对接。
保留未遮罩区域：通过分层控制和特定的模糊融合策略，BrushNet能够在修复过程中保留未被遮罩的区域，避免对原始图像内容的不必要改动。
与预训练模型的兼容性：作为一个即插即用的模型，BrushNet可以与各种预训练的扩散模型（如DreamShaper、epiCRealism、MeinaMix等）结合，利用这些模型的强大生成能力来完成修复任务。
灵活性和控制性：用户可以通过调整模型的参数来控制修复的规模和细节，包括修复区域的大小和修复内容的详细程度。
BrushNet的工作原理
BrushNet 基于扩散模型通过一个创新的双分支架构来执行图像修复任务。
以下是BrushNet工作原理的简要概述：
双分支架构：BrushNet的核心是一个分解的双分支架构，其中一个分支专注于处理遮罩图像的特征，而另一个分支负责生成图像的其余部分。
遮罩图像特征提取：在遮罩分支中，模型使用变分自编码器（VAE）对遮罩图像进行编码，以提取其潜在特征。这些特征随后被用来指导图像的修复过程。
预训练扩散模型：在生成分支中，模型利用预训练的扩散模型来生成图像内容。这个模型已经学会了如何从噪声中恢复出清晰的图像。
特征融合：提取的遮罩图像特征被逐步融合到预训练的扩散模型中，这样可以通过层级的方式细致地控制修复过程。
去噪和生成：在反向扩散过程中，模型通过迭代去噪步骤，逐步从噪声中恢复出清晰的图像。每一步都会考虑遮罩图像的特征，以确保修复区域与原始图像的其余部分在视觉上保持一致。
模糊融合策略：为了更好地保留未遮罩区域的细节，BrushNet采用了模糊融合策略。这意味着在融合遮罩区域和生成区域时，会使用模糊的遮罩来减少硬边缘和不自然的过渡。
输出修复图像：最终，模型输出一个修复后的图像，其中遮罩区域被自然而连贯地填充，同时未遮罩区域的原始内容得到保留。
© 版权声明:本站所有原创文章版权均归卓商AI工具集及原创作者所有，未经允许任何个人、媒体、网站不得转载或以其他方式抄袭本站任何文章。
相关文章
-
CHANGER是什么？一文让你看懂CHANGER的技术原理、主要功能、应用场景2025-04-05 -
Kiroku是什么？一文让你看懂Kiroku的技术原理、主要功能、应用场景2025-04-05
-
Vision Search Assistant是什么？一文让你看懂Vision Search Assistant的技术原理、主要功能、应用场景2025-04-05
-
MVDrag3D是什么？一文让你看懂MVDrag3D的技术原理、主要功能、应用场景2025-04-05
-
Chonkie是什么？一文让你看懂Chonkie的技术原理、主要功能、应用场景2025-04-05
-
MSQA是什么？一文让你看懂MSQA的技术原理、主要功能、应用场景2025-04-05
卓商AI
AI爱好者的一站式人工智能AI工具箱，累计收录全球10,000⁺好用的AI工具软件和网站，方便您更便捷的探索前沿的AI技术。本站持续更新好的AI应用，力争做全球排名前三的AI网址导航网站，欢迎您成为我们的一员。
最新发布
1
2
3
4
5
6
7
8
9
10
猜你喜欢
PS2 AI Filter by PhotoStyleAI
PhotoStyleAI是一款先进的AI风格转换和滤镜工具，可以轻松地将您的照片、图像和视频进行转换。它提供了多种风格选项，可以将照片转换成不同的艺术...
VoiceDrop.ai
VoiceDrop.Ai是一款声音复制技术产品，可实现声音克隆并批量应用。它能够让您录制您的声音，并为每个接收者提供独特的声音消息，为您创造与众不同的...
accessibe
使用Accessibe，可以轻松地实现WCAG和ADA合规性。 Accessibe AI驱动的Web可访问性解决方案提供了一个高效的2分钟安装，价格合...
Wondercraft
Wondercraft是一个创新的在线服务，能够将作者的书稿转化为听起来像作者本人声音的语音阅读。这项技术不仅节省了作者在录音棚录制和雇佣音频专家编辑...
Vortn.com
Vortn.com是一个基于AI的生产力工具，旨在帮助企业通过知识治理、智能聊天和自动化任务来提升工作效率和决策质量。它提供了一个可扩展的解决方案，能...
ai2page
永远不要等待数周，再次使用一页网站AI发电机启动一个站点。利用人工智能，该发电机很快创建了自定义的一页站点，并在几秒钟内交付。节省数百美元，并通过AI...
SpeechGPT 2.0-preview
SpeechGPT 2.0-preview 是一款由复旦大学自然语言处理实验室开发的先进语音交互模型。它通过海量语音数据训练，实现了低延迟、高自然度的...
AI Hits
AI Hits是一个AI音乐排行榜，通过人工智能生成的音乐。用户可以在AI Hits上发现最新的AI生成音乐的Top 100和新歌曲。AI Hits使...
AI爱好者的一站式人工智能AI工具箱，累计收录全球10,000⁺好用的AI工具软件和网站，方便您更便捷的探索前沿的AI技术。本站持续更新好的AI应用，力争做全球排名前三的AI网址导航网站，欢迎您成为我们的一员。
