上一篇
FlipSketch是什么？一文让你看懂FlipSketch的技术原理、主要功能、应用场景
StoryTeller是什么？一文让你看懂StoryTeller的技术原理、主要功能、应用场景
来源：卓商AI
发布时间：2025-04-05
StoryTeller概述简介
StoryTeller是字节跳动、上海交通大学和北京大学一起推出的系统，能基于音频视觉角色识别技术改善长视频描述的质量和一致性。系统结合低级视觉概念和高级剧情信息，生成详细且连贯的视频描述。StoryTeller由视频分割、音频视觉角色识别和描述生成三个主要模块组成，能有效处理数分钟长的视频，在MovieQA任务中展现出比现有模型更高的准确率，比最强基线Gemini-1.5-pro高9.5%的准确率。
StoryTeller的功能特色
视频分割：将长视频切割成多个短片段，保持每个片段的独立性和完整性。
音频视觉角色识别：结合音频和视觉信息，识别视频中对话对应的角色。
描述生成：为每个视频片段生成详细的描述，整合成整个长视频的连贯叙述。
数据集构建：创建并使用MovieStory101数据集，提供长视频描述的训练和测试数据。
自动评估：基于MovieQA，用GPT-4自动评估视频描述的准确性和质量。
模型训练与微调：训练多模态大型语言大模型，提高角色识别和视频描述的准确性。
全局解码：确保同一角色在不同视频片段中保持一致的识别结果。
StoryTeller的技术原理
多模态融合：整合视觉（视频帧）、音频（对话）和文本（字幕和描述）信息，全面理解视频内容。
音频分离和角色ID分配：用音频嵌入模型对每个对话进行嵌入，基于聚类算法分配全局ID，将相似的音频嵌入分配相同的ID，表示同一角色。
音频视觉角色识别模型：用大型语言大模型（如Tarsier-7B）结合OpenAI的Whisper-large-v2音频编码器，将每个音频ID映射到特定的角色。
全局解码算法：在推理时，确保不同片段中相同角色的全局ID映射到一致的角色名称，提高角色识别的准确性。
视频描述生成：用识别结果作为输入，基于大型语言大模型生成每个片段的详细描述，并整合成完整的视频描述。
StoryTeller项目介绍
GitHub仓库：https://github.com/hyc2026/StoryTeller
arXiv技术论文：https://arxiv.org/pdf/2411.07076
StoryTeller能做什么？
电影和视频内容制作：自动生成电影预告片或电影片段的描述，帮助导演和编剧快速理解视频内容。辅助视频编辑工作，基于视频描述快速定位视频中的关键片段。
视频内容分析：在视频分析领域，提取视频内容的关键信息，如角色、情节和动作，进行深入的内容分析。
辅助视障人士：为视障人士提供视频内容的音频描述，更好地理解视频内容和故事情节。
教育和培训：在教育领域，为学生提供视频教材的详细描述，增强学习体验。在职业培训中，生成视频教程的详细步骤描述，提高培训效率。
视频搜索和索引：提高视频搜索的准确性，基于视频描述快速检索视频中的相关片段。
© 版权声明:本站所有原创文章版权均归卓商AI工具集及原创作者所有，未经允许任何个人、媒体、网站不得转载或以其他方式抄袭本站任何文章。
相关文章
-
CHANGER是什么？一文让你看懂CHANGER的技术原理、主要功能、应用场景2025-04-05 -
Kiroku是什么？一文让你看懂Kiroku的技术原理、主要功能、应用场景2025-04-05
-
Vision Search Assistant是什么？一文让你看懂Vision Search Assistant的技术原理、主要功能、应用场景2025-04-05
-
MVDrag3D是什么？一文让你看懂MVDrag3D的技术原理、主要功能、应用场景2025-04-05
-
Chonkie是什么？一文让你看懂Chonkie的技术原理、主要功能、应用场景2025-04-05
-
MSQA是什么？一文让你看懂MSQA的技术原理、主要功能、应用场景2025-04-05
卓商AI
AI爱好者的一站式人工智能AI工具箱，累计收录全球10,000⁺好用的AI工具软件和网站，方便您更便捷的探索前沿的AI技术。本站持续更新好的AI应用，力争做全球排名前三的AI网址导航网站，欢迎您成为我们的一员。
最新发布
1
2
3
4
5
6
7
8
9
10
猜你喜欢
Felo实时翻译
Felo实时翻译是一款应用最新AI技术，提供实时语音翻译服务的应用程序。它通过GPT技术实现高速和高精度的翻译，支持实时转录语音并识别语种，将语音转录...
ai yearbook generator
使用我们的AI年鉴图像生成器以新的方式捕捉回忆。将您的照片转换为带有无尽选项的令人惊叹的年鉴式图像。从经典的发型，服装和表情中进行选择，以获得真正独特...
Wand
Wand是一款专为艺术家设计的AI绘图工具，能够将简单的草图在几秒钟内转化为完全渲染的图像。它支持iOS设备，与Apple Pencil和iPadOS...
GoPDF
GoPDF是一个全功能的在线PDF编辑工具，提供创建、管理、转换、电子签名和编辑PDF文件的无缝平台。用户可以编辑、转换、压缩、合并、保护PDF文件，...
slang thesaurus
语词库是一种语言的AI动力词库。它从城市词典中索引了数百万个语术语，可以访问定义，用法相关性以及悬停定义的官方城市词典API。允许用户快速学习语单词并...
歌者PPT
歌者PPT（gezhe.com）是一款永久免费的智能 PPT 生成工具。用户可以轻松将任何主题或资料转化为PPT，并选择应用大量精美的模板。无论是商务...
EMO
阿里巴巴的EMO: 是一款生成具有表情丰富的面部表情视频的工具，可以根据输入的角色图像和声音音频生成各种头部姿势和表情的声音头像视频。支持多语言歌曲...
Candydate
Candydate是一个视频招聘AI辅助平台，为中小企业简化招聘流程，让招聘变得甜蜜如糖。候选人通过短视频快速申请，AI自动进行比较和排名，帮助您找到...
AI爱好者的一站式人工智能AI工具箱，累计收录全球10,000⁺好用的AI工具软件和网站，方便您更便捷的探索前沿的AI技术。本站持续更新好的AI应用，力争做全球排名前三的AI网址导航网站，欢迎您成为我们的一员。
