上一篇
Fast3R是什么？一文让你看懂Fast3R的技术原理、主要功能、应用场景
Tarsier2是什么？一文让你看懂Tarsier2的技术原理、主要功能、应用场景
来源：卓商AI
发布时间：2025-04-05
Tarsier2概述简介
Tarsier2是字节跳动推出的先进的大规模视觉语言大模型（LVLM），生成详细且准确的视频描述，在多种视频理解任务中表现出色。模型通过三个关键升级实现性能提升，将预训练数据从1100万扩展到4000万视频文本对，丰富了数据量和多样性；在监督微调阶段执行精细的时间对齐；基于模型采样自动构建偏好数据，应用直接偏好优化（DPO）训练。 在DREAM-1K基准测试中，Tarsier2-7B的F1分数比GPT-4o高出2.8%，比Gemini-1.5-Pro高出5.8%。在15个公共基准测试中取得了新的最佳结果，涵盖视频问答、视频定位、幻觉测试和具身问答等任务。
Tarsier2的功能特色
详细视频描述：Tarsier2能生成高质量的视频描述，覆盖视频中的各种细节，包括动作、场景和情节。
视频问答：能回答关于视频的具体问题，展现出强大的时空理解和推理能力。
视频定位：Tarsier2可以检测并定位视频中特定事件的发生时间，支持多视频段的定位。
幻觉测试：通过优化训练策略，Tarsier2显著减少了模型生成虚假信息的可能性。
多语言支持：支持多种语言的视频描述生成，进一步拓展了其应用场景。
Tarsier2的技术原理
大规模预训练数据：Tarsier2将预训练数据从1100万扩展到4000万视频-文本对，提升了数据的规模和多样性。数据包括来自互联网的短视频、电影或电视剧的解说视频，通过多模态LLM自动生成的视频描述和问答对。
细粒度时间对齐的监督微调（SFT）：在监督微调阶段，Tarsier2引入了15万条细粒度标注的视频描述数据，每条描述都对应具体的时间戳。时间对齐的训练方式显著提高了模型在视频描述任务中的准确性和细节捕捉能力，同时减少了生成幻觉。
直接偏好优化（DPO）：Tarsier2通过模型采样自动构建偏好数据，应用直接偏好优化（DPO）进行训练。基于模型生成的正负样本对，进一步优化模型的生成质量，确保生成的视频描述更符合人类的偏好。
Tarsier2项目介绍
GitHub仓库：https://github.com/bytedance/tarsier
arXiv技术论文：https://arxiv.org/pdf/2501.07888
Tarsier2能做什么？
视频描述：Tarsier2 能生成高质量的详细视频描述，涵盖视频中的各种细节，包括动作、场景和情节。
幻觉测试：Tarsier2 在减少生成幻觉方面表现出色。通过直接偏好优化（DPO）和细粒度时间对齐的训练，Tarsier2 显著降低了生成虚假信息的可能性。
多语言支持：Tarsier2 支持多语言的视频描述生成，能满足不同语言环境下的需求。
具身问答：Tarsier2 在具身问答（Embodied QA）任务中也表现出色，能结合视觉和语言信息，为具身智能体提供准确的指导。
© 版权声明:本站所有原创文章版权均归卓商AI工具集及原创作者所有，未经允许任何个人、媒体、网站不得转载或以其他方式抄袭本站任何文章。
相关文章
-
CHANGER是什么？一文让你看懂CHANGER的技术原理、主要功能、应用场景2025-04-05 -
Kiroku是什么？一文让你看懂Kiroku的技术原理、主要功能、应用场景2025-04-05
-
Vision Search Assistant是什么？一文让你看懂Vision Search Assistant的技术原理、主要功能、应用场景2025-04-05
-
MVDrag3D是什么？一文让你看懂MVDrag3D的技术原理、主要功能、应用场景2025-04-05
-
Chonkie是什么？一文让你看懂Chonkie的技术原理、主要功能、应用场景2025-04-05
-
MSQA是什么？一文让你看懂MSQA的技术原理、主要功能、应用场景2025-04-05
卓商AI
AI爱好者的一站式人工智能AI工具箱，累计收录全球10,000⁺好用的AI工具软件和网站，方便您更便捷的探索前沿的AI技术。本站持续更新好的AI应用，力争做全球排名前三的AI网址导航网站，欢迎您成为我们的一员。
最新发布
1
2
3
4
5
6
7
8
9
10
猜你喜欢
ReaderLM v2
ReaderLM v2是由Jina AI推出的参数量为1.5B的小型语言模型，专门用于HTML转Markdown转换和HTML转JSON提取，具有卓越...
constant contact
通过持续联系来提升您的数字和电子邮件营销 - AI驱动的平台，可驱动结果。自动生成有效的内容选项，并优化主题行以最大开放速度。使用高级自动化工具来增...
TableGPT2
TableGPT2是一个大型多模态模型，专门针对表格数据进行预训练和微调，以解决实际应用中表格数据整合不足的问题。该模型在超过593.8K的表格和2....
seed-tts-eval
seed-tts-eval 是一个用于评估模型零样本语音生成能力的测试集，它提供了一个跨领域目标的客观评估测试集，包含从英语和普通话公共语料库中提取的...
Databerry.ai
Chaindesk是一个无代码平台，可快速创建基于自定义数据训练的AI聊天机器人。它可以简化客户支持流程、帮助新团队成员入职，并简化团队的工作流程。定...
Chord Variations
Chord Variations是一个能够生成和弦的不同变化的网站。它可以根据用户选择的和弦根音和品质，生成该和弦的各种变化。用户可以通过添加和删除和...
灵动Ai助手
灵动Ai助手是一款集成了多种AI技术，旨在提高办公效率的产品。它支持多种提问模型，具备文档问答、AI绘画、知识库创建、长文创作和优化等功能，能够满足用...
Pull Sense
Pull Sense是一款AI驱动的代码审查工具，专为开发团队设计，旨在通过智能AI辅助提升代码审查效率和质量。它能够快速识别代码中的潜在问题，如漏洞...
AI爱好者的一站式人工智能AI工具箱，累计收录全球10,000⁺好用的AI工具软件和网站，方便您更便捷的探索前沿的AI技术。本站持续更新好的AI应用，力争做全球排名前三的AI网址导航网站，欢迎您成为我们的一员。
