新ObjectMover是什么?一文让你看懂新ObjectMover的技术原理、主要功能、应用场景

来源:卓商AI
发布时间:2025-04-05

ObjectMover概述简介

ObjectMover 是香港大学和 Adobe Research 联合提出的新型图像编辑模型,解决图像中物体移动、插入和移除时出现的光照、阴影不协调以及物体失真等问题。将物体移动视为两帧视频的特殊案例,利用预训练视频生成模型的跨帧一致性学习能力,通过微调模型将其迁移到图像编辑任务。模型采用序列到序列建模,输入包括原始图像、目标物体图像和指令图,输出为物体移动后的合成图像。

ObjectMover的功能特色

物体移动:可将图像中的物体移动到指定位置,自动调整相关的物理效果,如光照、阴影、反射等,同时保持物体的身份特征。

物体删除:能真实地填充被移除物体的背景,非生成不相干的新物体,准确地移除与物体相关的光影。

物体插入:能精准保持被插入物体的身份特征,自动生成与环境一致的光影效果。

ObjectMover的技术原理

视频先验迁移:ObjectMover将物体移动任务视为两帧视频的特殊案例,利用预训练视频生成模型(如扩散模型)对跨帧一致性的学习能力。通过微调模型,将其从视频生成任务迁移到图像编辑任务。能充分利用视频模型预训练时习得的物理规律及物体对应关系,在图像编辑任务中实现精确的光影同步与身份特征保持。

序列到序列建模:模型将物体移动任务重构为序列预测问题。输入包括原始图像、目标物体图像、指令图(标注移动位置与方向),输出为物体移动后的合成图像。使模型能更好地理解和处理物体在不同位置下的光影变化和遮挡关系。

合成数据集构建:由于缺乏大规模物体移动的真实数据,研究团队使用现代游戏引擎(如虚幻引擎)生成高质量合成数据对。数据涵盖了复杂光照、材质和遮挡场景,增强了模型训练的多样性和泛化能力。

多任务学习策略:ObjectMover结合了物体移动、移除、插入及视频数据插入四个子任务,通过统一框架在合成数据与真实视频数据上进行训练。提升了模型对真实场景的泛化能力,使模型在处理不同图像编辑任务时表现出更高的适应性和鲁棒性。

ObjectMover项目介绍

项目官网:https://xinyu-andy.github.io/ObjMover/

arXiv技术论文:https://arxiv.org/pdf/2503.08037

ObjectMover能做什么?

特效制作:对于一些复杂的特效场景,如物体的消失或出现,ObjectMover可以实现物体的删除和插入,保持场景的真实感。

虚拟场景编辑:在虚拟现实和游戏开发中,需要对虚拟场景中的物体进行灵活的调整。ObjectMover可以用来移动场景中的物体,如将一个道具从一个位置移动到另一个位置,同时保持物体的光照和阴影与环境一致。

游戏关卡设计:开发者可以用ObjectMover快速调整关卡中的物体布局,提高关卡设计的效率。

产品展示:对于产品广告,可以用ObjectMover将产品放置在不同的场景中,展示产品的不同使用场景。

空间规划:在建筑和室内设计中,可以用ObjectMover将家具或装饰品移动到不同的位置,评估不同的设计方案。

© 版权声明:本站所有原创文章版权均归卓商AI工具集及原创作者所有,未经允许任何个人、媒体、网站不得转载或以其他方式抄袭本站任何文章。
卓商AI
卓商AI

AI爱好者的一站式人工智能AI工具箱,累计收录全球10,000⁺好用的AI工具软件和网站,方便您更便捷的探索前沿的AI技术。本站持续更新好的AI应用,力争做全球排名前三的AI网址导航网站,欢迎您成为我们的一员。

猜你喜欢
  • turbologo
    turbologo 使用Turbologo -AI徽标制造商为您的业务或个人品牌创建完美的徽标。 Turbologo Advanced Design Tool提供了各种模...
  • BoodleBox
    BoodleBox BoodleBox是一个简单、安全的团队协作平台,将团队、知识和人工智能结合在一个简单的平台上,实现更高效的团队合作。它提供了多个AI模型,如Chat...
  • Fireworks AI
    Fireworks AI Fireworks 与世界领先的生成式 AI 研究人员合作,以最快的速度提供最佳模型。拥有经 Fireworks 精心筛选和优化的模型,以及企业级吞吐...
  • TabTac
    TabTac TabTac浏览器是一款基于AI技术的新一代浏览器,它通过集成ChatGPT等工具,提供搜索增强、网页浏览增强和办公辅助增强功能。该浏览器采用去中心化...
  • StreamVC
    StreamVC StreamVC是由Google研发的实时低延迟语音转换解决方案,能够在保持源语音内容和韵律的同时,匹配目标语音的音色。该技术特别适合实时通信场景,如...
  • FreeAI-Image.com
    FreeAI-Image.com FreeAI-Image.com是一个免费稳定的AI图像生成引擎,通过使用最新的稳定扩散AI图像生成技术,可以轻松创建令人惊叹的图像。该产品提供免费的...
  • Alice 3.0
    Alice 3.0 Alice 是一款个人 AI 助手应用程序,旨在通过不同的 AI 模型提高用户的工作效率。它集成了最新的 AI 技术,支持自动化工作流,使用户可以更轻...
  • Emberly
    Emberly Emberly 是一个将书签、笔记和文件整理成思维导图的工具,帮助用户高效组织思维和知识,应对信息过载。...