新ObjectMover是什么?一文让你看懂新ObjectMover的技术原理、主要功能、应用场景

来源:卓商AI
发布时间:2025-04-05

ObjectMover概述简介

ObjectMover 是香港大学和 Adobe Research 联合提出的新型图像编辑模型,解决图像中物体移动、插入和移除时出现的光照、阴影不协调以及物体失真等问题。将物体移动视为两帧视频的特殊案例,利用预训练视频生成模型的跨帧一致性学习能力,通过微调模型将其迁移到图像编辑任务。模型采用序列到序列建模,输入包括原始图像、目标物体图像和指令图,输出为物体移动后的合成图像。

ObjectMover的功能特色

物体移动:可将图像中的物体移动到指定位置,自动调整相关的物理效果,如光照、阴影、反射等,同时保持物体的身份特征。

物体删除:能真实地填充被移除物体的背景,非生成不相干的新物体,准确地移除与物体相关的光影。

物体插入:能精准保持被插入物体的身份特征,自动生成与环境一致的光影效果。

ObjectMover的技术原理

视频先验迁移:ObjectMover将物体移动任务视为两帧视频的特殊案例,利用预训练视频生成模型(如扩散模型)对跨帧一致性的学习能力。通过微调模型,将其从视频生成任务迁移到图像编辑任务。能充分利用视频模型预训练时习得的物理规律及物体对应关系,在图像编辑任务中实现精确的光影同步与身份特征保持。

序列到序列建模:模型将物体移动任务重构为序列预测问题。输入包括原始图像、目标物体图像、指令图(标注移动位置与方向),输出为物体移动后的合成图像。使模型能更好地理解和处理物体在不同位置下的光影变化和遮挡关系。

合成数据集构建:由于缺乏大规模物体移动的真实数据,研究团队使用现代游戏引擎(如虚幻引擎)生成高质量合成数据对。数据涵盖了复杂光照、材质和遮挡场景,增强了模型训练的多样性和泛化能力。

多任务学习策略:ObjectMover结合了物体移动、移除、插入及视频数据插入四个子任务,通过统一框架在合成数据与真实视频数据上进行训练。提升了模型对真实场景的泛化能力,使模型在处理不同图像编辑任务时表现出更高的适应性和鲁棒性。

ObjectMover项目介绍

项目官网:https://xinyu-andy.github.io/ObjMover/

arXiv技术论文:https://arxiv.org/pdf/2503.08037

ObjectMover能做什么?

特效制作:对于一些复杂的特效场景,如物体的消失或出现,ObjectMover可以实现物体的删除和插入,保持场景的真实感。

虚拟场景编辑:在虚拟现实和游戏开发中,需要对虚拟场景中的物体进行灵活的调整。ObjectMover可以用来移动场景中的物体,如将一个道具从一个位置移动到另一个位置,同时保持物体的光照和阴影与环境一致。

游戏关卡设计:开发者可以用ObjectMover快速调整关卡中的物体布局,提高关卡设计的效率。

产品展示:对于产品广告,可以用ObjectMover将产品放置在不同的场景中,展示产品的不同使用场景。

空间规划:在建筑和室内设计中,可以用ObjectMover将家具或装饰品移动到不同的位置,评估不同的设计方案。

© 版权声明:本站所有原创文章版权均归卓商AI工具集及原创作者所有,未经允许任何个人、媒体、网站不得转载或以其他方式抄袭本站任何文章。
卓商AI
卓商AI

AI爱好者的一站式人工智能AI工具箱,累计收录全球10,000⁺好用的AI工具软件和网站,方便您更便捷的探索前沿的AI技术。本站持续更新好的AI应用,力争做全球排名前三的AI网址导航网站,欢迎您成为我们的一员。

猜你喜欢
  • GifShift
    GifShift GifShift提供了一个简单的三步流程,用户可以上传GIF或从图库中选择一个,然后输入描述性的提示,以生成具有标志性角色或风格的新GIF版本。该服务...
  • foxy apps
    foxy apps Foxy Apps为企业提供了机会,可以利用AI的力量产生定制的铅磁铁,以吸引客户并增加收入。利用简单,强大的AI工具来快速创建有吸引力的个性化铅磁铁...
  • Grafi.ai
    Grafi.ai Grafi.ai是世界上首个专为医疗内容创作者打造的AI辅助撰写工具。它提供基于数据库、科学期刊和自己收集或核查的内容的高质量长文内容。Grafi.a...
  • off script
    off script 用OFF/脚本(将流行概念变成现实的AI驱动工具)彻底改变了产品设计过程。获得全额资金,生产管理和预付费用,并为您的想法提供未来的销售利润。告别传统球...
  • CUA
    CUA Computer-Using Agent (CUA) 是 OpenAI 开发的一种先进的人工智能模型,结合了 GPT-4o 的视觉能力和通过强化学习的...
  • Animal Generator
    Animal Generator Random Animal Generator是一个旨在帮助用户通过点击随机按钮来发现自然多样性的网站。该网站拥有一个庞大的动物图片数据库,每次点击“...
  • WhyHow Knowledge Graph Studio
    WhyHow Knowledge Graph Studio WhyHow Knowledge Graph Studio是一个开源平台,旨在简化创建和管理RAG-native知识图谱的过程。该平台提供基于规则的实...
  • Hylark
    Hylark Hylark是一个创新的生活管理平台,提供强大的、易于定制的工具,以适应您和您的团队的独特需求、工作流程和数据。它快速、强大,并且通过AI变得更加简单...