LeviTor是什么?一文让你看懂LeviTor的技术原理、主要功能、应用场景

来源:卓商AI
发布时间:2025-04-05

LeviTor概述简介

LeviTor是南京大学、蚂蚁集团、浙江大学等机构推出的图像到视频合成技术,结合深度信息和K-means聚类点控制视频中3D物体的轨迹,无需显式的3D轨迹跟踪。LeviTor用高质量的视频对象分割数据集进行训练,有效捕捉复杂场景中的物体运动和交互,基于用户友好的推理流程简化3D轨迹输入,让视频生成技术更加先进和易用。LeviTor的引入为3D物体轨迹控制铺平道路,拓宽创意应用范围,适用于更广泛的用户群体。

LeviTor的功能特色

精确操控物体运动:在从静态图像生成视频时,精确控制物体的运动轨迹。

增强创意应用:基于3D轨迹控制,拓宽视频合成的创意应用范围。

简化用户输入:用户用简单的2D图像上的绘制和深度调整输入3D轨迹,降低技术门槛。

自动提取深度信息和物体掩码:系统自动从图像中提取深度信息和物体掩码,减少用户操作。

交互式轨迹绘制:用户交互式地绘制物体轨迹,系统将其解释为3D路径。

LeviTor的技术原理

K-means聚类:对视频对象掩码(mask)的像素进行K-means聚类,得到一组代表性的控制点。

深度信息融合:深度估计网络DepthAnythingV2预测相对深度图,并在每个控制点采样深度,为控制点增添深度信息。

控制信号构建:结合2D坐标和估计的深度值,构建控制轨迹,轨迹作为视频扩散模型的控制信号。

视频扩散模型:将控制信号输入到视频扩散模型中,生成与3D轨迹对齐的视频。

用户友好的推理流程:设计用户友好的交互系统,用户用点击和调整深度值输入3D轨迹。

LeviTor项目介绍

项目官网:ppetrichor.github.io/levitor

GitHub仓库:https://github.com/qiuyu96/LeviTor

HuggingFace模型库:https://huggingface.co/hlwang06/LeviTor

arXiv技术论文:https://arxiv.org/pdf/2412.15214

LeviTor能做什么?

电影特效制作:生成逼真的特效场景,减少实地拍摄成本,提高制作效率。

游戏动画生成:在游戏开发中,创造动态的游戏背景和角色动画,增强游戏的沉浸感。

虚拟现实体验:在VR应用中合成逼真的虚拟环境,为用户提供更加真实的沉浸式体验。

增强现实展示:在AR领域将虚拟信息与现实世界无缝结合,用在教育、导航等场景。

广告视频制作:制作动态广告视频,吸引观众注意力,提升品牌形象和产品吸引力。

© 版权声明:本站所有原创文章版权均归卓商AI工具集及原创作者所有,未经允许任何个人、媒体、网站不得转载或以其他方式抄袭本站任何文章。
卓商AI
卓商AI

AI爱好者的一站式人工智能AI工具箱,累计收录全球10,000⁺好用的AI工具软件和网站,方便您更便捷的探索前沿的AI技术。本站持续更新好的AI应用,力争做全球排名前三的AI网址导航网站,欢迎您成为我们的一员。

猜你喜欢
  • Gecko Security
    Gecko Security Gecko Security是一个AI驱动的安全工程师,旨在发现并修复代码库中的漏洞。它通过自动化黑客直觉,构建下一代安全工具,使寻找0-day漏洞成...
  • starcycle
    starcycle Starcycle是完美的AI驱动伴侣,可帮助您实现企业家的目标。 Starcycle配备了最新的AI技术,将是您的副驾驶的每一步,为您提供成功所需的...
  • Jobed
    Jobed Jobed是一款基于AI技术的人力资源工具,可以自动生成准确且吸引人的职位描述。通过使用Jobed,您可以吸引高质量的人才,提高招聘效率。Jobed还...
  • Travel Echo
    Travel Echo Travel Echo是一款AI驱动的翻译应用程序,专为旅行者设计,能够将对话翻译成100多种语言,帮助用户在不同语言环境中进行有效沟通。它通过先进的...
  • nsfwgirlfriend
    nsfwgirlfriend NSFWGirlFriend提出了一种创新的方法来制定您的AI合作伙伴。设计和个性化虚拟女友的外观,特质和动态,所有这些都是由人工智能驱动的。只需单击...
  • Komiko
    Komiko Komiko 是一款强大的 AI 工具,帮助艺术家和讲故事的人快速实现创意。该平台可以生成高质量的漫画、漫画和动画,大大缩短创作时间,降低艺术创作的门...
  • Video To Text AI
    Video To Text AI AI Transcription Service是一款提供快速、准确、易于使用的音频和视频转录服务的人工智能产品。适用于内容创作者、专业人士和任何需要...
  • marketing picjam ai
    marketing picjam ai PICJAM.AI为时尚品牌提供了AI驱动的产品摄影。创建虚拟模型图像,以各种样式展示服装,并产生多样化的摄影作品,以减少回报并增加销售。...