上一篇
TextDiffuser-2是什么？一文让你看懂TextDiffuser-2的技术原理、主要功能、应用场景
UniEdit是什么？一文让你看懂UniEdit的技术原理、主要功能、应用场景
来源：卓商AI
发布时间：2025-04-05
UniEdit概述简介
UniEdit是由浙江大学、微软研究院和北京大学的开发人员推出的一个创新的视频编辑框架，允许用户在不需要进行模型微调的情况下，对视频的运动和外观进行编辑。该框架的核心优势在于能够同时处理视频的时间维度（如动作变化）和空间维度（如风格化、物体替换、背景修改）的编辑任务。
UniEdit的官网入口
官方项目主页：https://jianhongbai.github.io/UniEdit/
arXiv研究论文：https://arxiv.org/abs/2402.13185
GitHub代码库：https://github.com/JianhongBai/UniEdit（源代码待上线）
UniEdit的功能特性
视频对象动作编辑：UniEdit能够根据文本指令编辑视频中对象的动作。例如，可以将视频中的浣熊弹吉他的动作编辑成吃苹果或招手的动作。
视频风格化：该框架支持对视频进行风格迁移，即用户可以通过文本描述来改变视频的视觉风格，而不需要改变视频中的内容，如将视频转换为油画风格。
视频背景修改：UniEdit允许用户修改更换视频中的背景。例如，可以将视频中的人物置于完全不同的场景中。
视频对象物体替换：UniEdit框架支持刚性和非刚性物体的替换，用户可以替换视频中的静态或动态物体，
无需训练微调：UniEdit不需要额外的训练或微调，大大简化了模型的部署和使用，使得用户可以快速上手进行视频编辑。
UniEdit的工作原理
反演处理（Inversion）：UniEdit首先对输入的视频进行反演处理，将其转换为一个随机噪声表示。这个过程通常涉及到使用预训练的扩散视频生成模型（如 LaVie）的反演过程，通过一系列去噪步骤将视频逐步从噪声状态转换回其原始状态。
生成编辑路径：在反演处理的基础上，UniEdit 使用预训练的 UNet 模型进行去噪步骤，以生成编辑后的视频。该过程是在给定目标文本提示的条件下进行的，以确保生成的视频内容符合用户的编辑意图。
辅助重建分支：为了保留源视频的非编辑内容，UniEdit 引入了一个辅助重建分支。这个分支从相同的逆向噪声开始，但在给定源视频文本提示的条件下进行去噪，以重建原始视频帧。重建过程中的特征被注入到主编辑路径的空间自注意力层中，以保持内容的一致性。
辅助运动参考分支：为了实现运动/动作编辑，UniEdit 引入了辅助运动参考分支，在给定目标文本提示的条件下生成运动特征。这些特征通过时间自注意力层注入到主编辑路径中，以引导视频的运动变化。
内容保留与运动注入：在主编辑路径中，UniEdit 通过替换空间自注意力层的值特征来保留源视频的内容。同时，通过在时间自注意力层中注入运动特征，实现运动的编辑。
空间结构控制：在外观编辑中，UniEdit 通过替换主编辑路径中的空间自注意力层的查询和键特征，来保持源视频的空间结构。这有助于在改变视频风格或外观时，保持物体的布局和位置不变。
文本引导编辑：用户通过提供文本描述来指导视频编辑过程。UniEdit 解析这些文本描述，并将其转化为视频编辑的指导信号，从而实现用户期望的编辑效果。
© 版权声明:本站所有原创文章版权均归卓商AI工具集及原创作者所有，未经允许任何个人、媒体、网站不得转载或以其他方式抄袭本站任何文章。
相关文章
-
CHANGER是什么？一文让你看懂CHANGER的技术原理、主要功能、应用场景2025-04-05 -
Kiroku是什么？一文让你看懂Kiroku的技术原理、主要功能、应用场景2025-04-05
-
Vision Search Assistant是什么？一文让你看懂Vision Search Assistant的技术原理、主要功能、应用场景2025-04-05
-
MVDrag3D是什么？一文让你看懂MVDrag3D的技术原理、主要功能、应用场景2025-04-05
-
Chonkie是什么？一文让你看懂Chonkie的技术原理、主要功能、应用场景2025-04-05
-
MSQA是什么？一文让你看懂MSQA的技术原理、主要功能、应用场景2025-04-05
卓商AI
AI爱好者的一站式人工智能AI工具箱，累计收录全球10,000⁺好用的AI工具软件和网站，方便您更便捷的探索前沿的AI技术。本站持续更新好的AI应用，力争做全球排名前三的AI网址导航网站，欢迎您成为我们的一员。
最新发布
1
2
3
4
5
6
7
8
9
10
猜你喜欢
ai online psychic chat
Tarotoo是AI Psychic，您是您看不见的个人指南。无论您是对星星所说的话，通过塔罗牌寻求清晰，探索梦想的含义，还是深入研究命理和灵性的世界...
Vocera
Vocera是一个由Y Combinator支持的AI语音代理测试与监控平台，它允许用户通过模拟各种场景和使用真实音频来测试和评估AI语音代理的性能。...
AIgentor
AIgentor是一个提供免费AI生成器和与智能角色进行深入对话的平台。它具有强大的图像生成和聊天功能，让用户能够生成逼真的图像并与有趣、独特的AI角...
virtual staging ai
AI虚拟舞台是一个功能强大的AI驱动图像发生器，可让您仅在30秒内进行房地产图像。在获得完美的图像之前，会尽可能多地再生，并体验AI技术在您的工作中的...
skillsteq
使用SkillSteq释放培训和开发计划的全部潜力。通过实时互动创建互动的电子学习课程，以获得更具吸引力的学习体验。利用SkillSteq角色扮演工具...
Formula Dog
Formula Dog是一个基于人工智能的工具，可以将文本指令转化为Excel公式或VBA代码，帮助用户快速生成复杂的Excel计算公式。它可以将你的...
CodeGuide
CodeGuide是一个专注于算法学习的网站，它通过与用户的交互，提供优化建议和正确的学习方向。它基于会话学习，实时工作，通过用户输入提出有益的想法，...
AnchorCrafter
AnchorCrafter是一个创新的扩散模型系统，旨在生成包含目标人物和定制化对象的2D视频，通过人-物交互（HOI）的集成，实现高视觉保真度和可控...
AI爱好者的一站式人工智能AI工具箱，累计收录全球10,000⁺好用的AI工具软件和网站，方便您更便捷的探索前沿的AI技术。本站持续更新好的AI应用，力争做全球排名前三的AI网址导航网站，欢迎您成为我们的一员。
