CogVideoX概述简介

CogVideoX是智谱AI最新推出的开源AI视频生成模型，与智谱AI的商业产品“ 清影 ”同源。CogVideoX支持英文提示词，能生成6秒长、每秒8帧、分辨率为720*480的视频。模型推理需7.8-26GB显存，目前不支持量化推理和多卡推理。项目还包括3D Causal VAE组件用于视频重建，以及丰富的示例和工具，包括CLI/WEB Demo、在线体验、API接口示例和微调指南。

CogVideoX的功能特色

AI文生视频：支持用户输入的文本提示词生成视频内容。

低显存需求：在 INT8 精度下，推理显存需求仅为 7.8GB，即使用 1080 Ti 显卡也可以完成推理。

视频参数定制：可以定制视频长度、帧率和分辨率，目前支持6秒长视频，8帧/秒，分辨率为720*480。

3D Causal VAE技术：使用3D Causal VAE技术，实现视频内容的高效重建。

推理与微调：模型支持基本的推理生成视频，同时提供了微调能力，以适应不同需求。

CogVideoX的技术原理

文本到视频生成：CogVideoX使用深度学习模型，特别是基于Transformer的架构，来理解输入的文本提示并生成视频内容。

3D Causal VAE：CogVideoX采用了3D Causal Variational Autoencoder（变分自编码器），一种用于视频重建和压缩的技术，能够几乎无损地重构视频，减少存储和计算需求。

专家Transformer：CogVideoX使用专家Transformer模型，一种特殊的Transformer，通过多个专家处理不同的任务，例如空间和时间信息的处理，以及控制信息流动等。

编码器-解码器架构：在3D VAE中，编码器将视频转换成简化的代码，而解码器根据这些代码重建视频，潜在空间正则化器确保编码和解码之间的信息传递更准确。

混合时长训练：CogVideoX的训练过程采用混合时长训练，允许模型学习不同长度的视频，提高泛化能力。

多阶段训练：CogVideoX的训练分为几个阶段，包括低分辨率预训练、高分辨率预训练和高质量视频微调，逐步提升模型的生成质量和细节。

自动和人工评估：CogVideoX使用自动评估和人工评估相结合的方式，确保生成的视频质量达到预期。

CogVideoX项目介绍

CogVideoX-2B模型地址：

HuggingFace模型库：https://huggingface.co/THUDM/CogVideoX-2b

魔搭社区模型库：https://modelscope.cn/models/ZhipuAI/CogVideoX-2b

CogVideoX-5B模型地址：

HuggingFace模型库：https://huggingface.co/spaces/THUDM/CogVideoX-5B

魔搭社区模型库：https://modelscope.cn/models/ZhipuAI/CogVideoX-5b

GitHub仓库：https://github.com/THUDM/CogVideo

arXiv技术论文：https://arxiv.org/pdf/2408.06072

CogVideoX-2B 与 CogVideoX-5B参数对比

CogVideoX的性能评估

为了评估文本到视频生成的质量，我们使用了VBench中的多个指标，如人类动作、场景、动态程度等。我们还使用了两个额外的视频评估工具：Devil 中的 Dynamic Quality 和 Chrono-Magic 中的 GPT4o-MT Score，这些工具专注于视频的动态特性。如下表所示。

CogVideoX能做什么？

创意视频制作：为独立视频创作者和艺术家提供工具，快速将创意文本描述转化为视觉视频内容。

教育和培训材料：自动化生成教育视频，帮助解释复杂概念或展示教学场景。

广告和品牌宣传：企业可以用CogVideoX模型根据广告文案生成视频广告，提高营销效果。

游戏和娱乐产业：辅助游戏开发者快速生成游戏内动画或剧情视频，提升游戏体验。

电影和视频编辑：辅助视频编辑工作，通过文本描述生成特定场景或特效视频。

虚拟现实(VR)和增强现实(AR)：为VR和AR应用生成沉浸式视频内容，增强用户互动体验。