新ObjectMover是什么?一文让你看懂新ObjectMover的技术原理、主要功能、应用场景

来源:卓商AI
发布时间:2025-04-05

ObjectMover概述简介

ObjectMover 是香港大学和 Adobe Research 联合提出的新型图像编辑模型,解决图像中物体移动、插入和移除时出现的光照、阴影不协调以及物体失真等问题。将物体移动视为两帧视频的特殊案例,利用预训练视频生成模型的跨帧一致性学习能力,通过微调模型将其迁移到图像编辑任务。模型采用序列到序列建模,输入包括原始图像、目标物体图像和指令图,输出为物体移动后的合成图像。

ObjectMover的功能特色

物体移动:可将图像中的物体移动到指定位置,自动调整相关的物理效果,如光照、阴影、反射等,同时保持物体的身份特征。

物体删除:能真实地填充被移除物体的背景,非生成不相干的新物体,准确地移除与物体相关的光影。

物体插入:能精准保持被插入物体的身份特征,自动生成与环境一致的光影效果。

ObjectMover的技术原理

视频先验迁移:ObjectMover将物体移动任务视为两帧视频的特殊案例,利用预训练视频生成模型(如扩散模型)对跨帧一致性的学习能力。通过微调模型,将其从视频生成任务迁移到图像编辑任务。能充分利用视频模型预训练时习得的物理规律及物体对应关系,在图像编辑任务中实现精确的光影同步与身份特征保持。

序列到序列建模:模型将物体移动任务重构为序列预测问题。输入包括原始图像、目标物体图像、指令图(标注移动位置与方向),输出为物体移动后的合成图像。使模型能更好地理解和处理物体在不同位置下的光影变化和遮挡关系。

合成数据集构建:由于缺乏大规模物体移动的真实数据,研究团队使用现代游戏引擎(如虚幻引擎)生成高质量合成数据对。数据涵盖了复杂光照、材质和遮挡场景,增强了模型训练的多样性和泛化能力。

多任务学习策略:ObjectMover结合了物体移动、移除、插入及视频数据插入四个子任务,通过统一框架在合成数据与真实视频数据上进行训练。提升了模型对真实场景的泛化能力,使模型在处理不同图像编辑任务时表现出更高的适应性和鲁棒性。

ObjectMover项目介绍

项目官网:https://xinyu-andy.github.io/ObjMover/

arXiv技术论文:https://arxiv.org/pdf/2503.08037

ObjectMover能做什么?

特效制作:对于一些复杂的特效场景,如物体的消失或出现,ObjectMover可以实现物体的删除和插入,保持场景的真实感。

虚拟场景编辑:在虚拟现实和游戏开发中,需要对虚拟场景中的物体进行灵活的调整。ObjectMover可以用来移动场景中的物体,如将一个道具从一个位置移动到另一个位置,同时保持物体的光照和阴影与环境一致。

游戏关卡设计:开发者可以用ObjectMover快速调整关卡中的物体布局,提高关卡设计的效率。

产品展示:对于产品广告,可以用ObjectMover将产品放置在不同的场景中,展示产品的不同使用场景。

空间规划:在建筑和室内设计中,可以用ObjectMover将家具或装饰品移动到不同的位置,评估不同的设计方案。

© 版权声明:本站所有原创文章版权均归卓商AI工具集及原创作者所有,未经允许任何个人、媒体、网站不得转载或以其他方式抄袭本站任何文章。
卓商AI
卓商AI

AI爱好者的一站式人工智能AI工具箱,累计收录全球10,000⁺好用的AI工具软件和网站,方便您更便捷的探索前沿的AI技术。本站持续更新好的AI应用,力争做全球排名前三的AI网址导航网站,欢迎您成为我们的一员。

猜你喜欢
  • My Storybook
    My Storybook My Storybook是一个在线平台,旨在帮助所有年龄段的作家创作、出版故事书。它提供写作、插图和角色创建等功能,让学习写作变得有趣。平台还为教师和...
  • DocWrangler
    DocWrangler DocWrangler是一个开源的交互式开发环境,旨在简化构建和优化基于大型语言模型(LLM)的数据处理管道的过程。它提供即时反馈、可视化探索工具和A...
  • SharpAPI
    SharpAPI SharpAPI是一款AI驱动的开发者多功能工具API,旨在为程序员提供一系列工具和功能。它提供了一套全面的功能,以简化开发流程并提高生产力。...
  • insighto ai
    insighto ai Insighto.ai是在短短几分钟内创建强大的对话AI聊天机器人的最终平台。告别长时间的培训和编码 - 这种创新的技术经过了您的数据培训,使其直观有...
  • Supportbot Pro
    Supportbot Pro Supportbot Pro是一个基于AI的网站客服聊天机器人,通过机器学习算法分析公司数据,提供准确且有帮助的375响应。产品支持多语言,注重数据安...
  • Pagic
    Pagic Pagic是一款基于人工智能的模板构建工具,能帮助用户在几分钟内创建美丽的网站。它提供了各种功能和优势,包括AI优化的设计和文案、快速部署、快速加载、...
  • 英飞·思想家
    英飞·思想家 英飞·思想家是一个AIGC赋能的可视化在线协作空间,旨在通过无限画布、音视频会议、思维导图等功能,为企业和团队提供高效协作的数字平台。它支持实时和异步...
  • prepar 1
    prepar 1 通过Real -ead -ei GPT市场来发现GPT技术的未来。准备平台彻底改变了GPT市场,使其对全球用户更容易获得和盈利。加入我们开创了GPT的...