上一篇
Matrix3D是什么?一文让你看懂Matrix3D的技术原理、主要功能、应用场景Light-A-Video是什么?一文让你看懂Light-A-Video的技术原理、主要功能、应用场景
Light-A-Video概述简介
Light-A-Video 是上海交通大学、中国科学技术大学、香港中文大学、香港科技大学、斯坦福大学及上海AI实验室的一起推出的无需训练的视频重照明方法,基于渐进式光照融合技术实现高质量、时间上一致的视频光照控制。Light-A-Video两个关键模块实现:一致光照注意力(Consistent Light Attention, CLA)和渐进式光照融合(Progressive Light Fusion, PLF)。CLA 基于增强帧间交互,稳定背景光照源的生成;PLF 基于视频扩散模型的运动先验,逐步将重照明效果融入视频中,确保光照过渡的平滑性。Light-A-Video 支持对整个视频进行重照明,对前景序列进行重照明生成背景。
Light-A-Video的功能特色
时间一致性:基于增强帧间光照的一致性,避免视频闪烁和光照不连续的问题。
高质量重照明:用预训练的图像重照明模型,对视频中的每一帧进行光照调整,同时保持图像质量。
前景与背景分离处理:支持对视频前景进行重照明,自动生成与光照条件一致的背景。
零样本(Zero-shot)生成:无需额外训练或优化,直接根据文本提示生成符合光照条件的视频。
兼容性强:与多种流行的视频生成模型(如 AnimateDiff、CogVideoX 等)兼容,具有广泛的适用性。
Light-A-Video的技术原理
Consistent Light Attention (CLA):
CLA 模块基于增强帧间交互来稳定光照源的生成。在图像重照明模型的自注意力层中引入跨帧信息,基于时间平均特征抑制光照的高频抖动,生成稳定的背景光照。
CLA 用双流注意力融合策略:一条流处理原始帧信息,保留细节;另一条流基于时间平均处理,抑制抖动。最终通过加权平均融合两种流的输出。
Progressive Light Fusion (PLF):
PLF 模块用视频扩散模型(VDM)的运动先验,逐步将重照明效果融入视频中。基于线性融合的方式,将重照明的图像外观与原始视频外观结合,确保光照过渡的平滑性。
PLF 在视频扩散模型的去噪过程中逐步调整光照目标,基于动态调整融合权重,逐渐引导视频去噪方向,实现时间上一致的重照明效果。
整体流程:输入视频首先被编码为潜在空间中的噪声信号,通过 VDM 的去噪过程逐步恢复。在每一步去噪中,CLA 和 PLF 模块协同工作,将重照明信息逐步注入到视频中。
Light-A-Video项目介绍
项目官网:https://bujiazi.github.io/light-a-video.github.io/
GitHub仓库:https://github.com/bcmi/Light-A-Video/
arXiv技术论文:https://arxiv.org/pdf/2502.08590
Light-A-Video能做什么?
影视后期:快速调整光照条件,如白天变夜晚,节省成本和时间。
游戏开发:动态改变场景光照,增强沉浸感。
视频创作:快速改变视频风格,满足创意需求。
VR/AR:实时调整光照,提升虚拟与现实融合效果。
视频会议:优化视频光照,改善远程协作体验。
-
CHANGER是什么?一文让你看懂CHANGER的技术原理、主要功能、应用场景2025-04-05
-
Kiroku是什么?一文让你看懂Kiroku的技术原理、主要功能、应用场景2025-04-05
-
Vision Search Assistant是什么?一文让你看懂Vision Search Assistant的技术原理、主要功能、应用场景2025-04-05
-
MVDrag3D是什么?一文让你看懂MVDrag3D的技术原理、主要功能、应用场景2025-04-05
-
Chonkie是什么?一文让你看懂Chonkie的技术原理、主要功能、应用场景2025-04-05
-
MSQA是什么?一文让你看懂MSQA的技术原理、主要功能、应用场景2025-04-05

AI爱好者的一站式人工智能AI工具箱,累计收录全球10,000⁺好用的AI工具软件和网站,方便您更便捷的探索前沿的AI技术。本站持续更新好的AI应用,力争做全球排名前三的AI网址导航网站,欢迎您成为我们的一员。







