上一篇
Baichuan4-Finance是什么？一文让你看懂Baichuan4-Finance的技术原理、主要功能、应用场景
VSI-Bench是什么？一文让你看懂VSI-Bench的技术原理、主要功能、应用场景
来源：卓商AI
发布时间：2025-04-05
VSI-Bench概述简介
VSI-Bench（Visual-Spatial Intelligence Benchmark）是李飞飞、谢赛宁及他们的研究团队推出的视觉空间智能基准测试集，研究者构建用在评估多模态大型语言大模型（MLLMs）在空间认知和理解方面的能力。VSI-Bench包含超过5000个问题-答案对，覆盖近290个真实室内场景视频，涉及住宅、办公室和工厂等多种环境。VSI-Bench任务分为配置型任务（如物体计数、相对距离等）、测量估计（如物体尺寸、房间大小等）和时空任务（如物体出现顺序），能系统地测试和提高MLLMs在视觉空间智能方面的表现。
VSI-Bench的功能特色
评估视觉空间智能：量化评估多模态大型语言大模型（MLLMs）的视觉空间智能，包括对空间关系的感知、理解和记忆能力。
基准测试：提供标准化的测试集，包含5000多个问答对，用在基准测试和比较不同MLLMs在视觉空间任务上的性能。
任务多样性：包括配置型任务（物体计数、相对距离、相对方向、路线规划）、测量估计（物体尺寸、房间大小、绝对距离）和时空任务（物体出现顺序），全面覆盖视觉空间智能的多个方面。
视频理解：基于视频输入，VSI-Bench测试MLLMs对连续、时间性输入的理解，比静态图像更接近人类观察世界的方式。
数据质量和控制：基于人工审核确保数据质量，消除歧义和错误标注，提高测试结果的可靠性。。
VSI-Bench的技术原理
数据集构建：基于多个公共室内3D场景重建数据集（如ScanNet、ScanNet++和ARKitScenes），数据集提供高保真度的视频扫描和对象级别的3D注释。
问题-答案对生成：基于数据集中的元信息（如对象类别、边界框）和问题模板自动生成问题-答案对，同时对路线规划任务进行人工标注。
质量控制：实施人工审核流程，确保问题清晰无歧义，对错误或模糊的问题进行溯源和修正。
模型评估：在零样本设置下评估多种视频支持的MLLMs，用默认提示进行测试，采用精确匹配和模糊匹配作为主要评价指标。
性能指标：对于多项选择题（MCA）任务使用准确度（ACC），对于数值答案（NA）任务引入新的度量标准——平均相对准确度（MRA）。
认知图生成：提示MLLMs预测视频中对象的中心位置，生成认知图，评估模型的内部空间表示和记忆能力。
VSI-Bench项目介绍
项目官网：vision-x-nyu.github.io/thinking-in-space
GitHub仓库：https://github.com/vision-x-nyu/thinking-in-space
HuggingFace模型库：https://huggingface.co/datasets/nyu-visionx/VSI-Bench
arXiv技术论文：https://arxiv.org/pdf/2412.14171
VSI-Bench能做什么？
机器人导航与交互：在机器人技术领域，评估和训练MLLMs，更好地理解空间布局，提高机器人在未知环境中的导航和避障能力。
增强现实（AR）/虚拟现实（VR）：在AR/VR应用中，帮助MLLMs更好地理解用户的物理空间环境，提供更自然的交互体验。
自动驾驶汽车：自动驾驶系统需要精确的空间理解能力处理复杂的交通场景，用在开发和测试支持自动驾驶的视觉空间智能系统。
智能家居系统：智能家居系统需要理解居住空间的布局和物体的位置，VSI-Bench帮助训练MLLMs，使其更好地服务于智能家居控制和自动化。
室内设计和建筑规划：评估MLLMs在空间规划和设计中的应用，帮助系统提供更合理的布局建议。
© 版权声明:本站所有原创文章版权均归卓商AI工具集及原创作者所有，未经允许任何个人、媒体、网站不得转载或以其他方式抄袭本站任何文章。
相关文章
-
CHANGER是什么？一文让你看懂CHANGER的技术原理、主要功能、应用场景2025-04-05 -
Kiroku是什么？一文让你看懂Kiroku的技术原理、主要功能、应用场景2025-04-05
-
Vision Search Assistant是什么？一文让你看懂Vision Search Assistant的技术原理、主要功能、应用场景2025-04-05
-
MVDrag3D是什么？一文让你看懂MVDrag3D的技术原理、主要功能、应用场景2025-04-05
-
Chonkie是什么？一文让你看懂Chonkie的技术原理、主要功能、应用场景2025-04-05
-
MSQA是什么？一文让你看懂MSQA的技术原理、主要功能、应用场景2025-04-05
卓商AI
AI爱好者的一站式人工智能AI工具箱，累计收录全球10,000⁺好用的AI工具软件和网站，方便您更便捷的探索前沿的AI技术。本站持续更新好的AI应用，力争做全球排名前三的AI网址导航网站，欢迎您成为我们的一员。
最新发布
1
2
3
4
5
6
7
8
9
10
猜你喜欢
Continue
Continue是一个专为软件开发者设计的开源IDE扩展，它通过提供自动化和智能化的工具来加速AI软件的开发流程。它允许开发者在构建软件时保持流畅的工...
fastai
与Fastai一起体验SEO内容创建的未来。 Fastai尖端AI模板为您的网站生成高质量的交通驱动文章。告别手动内容的创建，并向轻松，可扩展的结果打...
Crowd Source
Crowdscope Waitlist是一个帮助您轻松找到目标客户的工具。您只需要描述您的问题，它就会返回一份潜在客户列表，这些客户都曾经抱怨过同样的...
Speech to Text & Transcribe
Speech to Text & Transcribe是一款实用工具，能够将口述的话语转换为书面文字，便于转录录音。借助开放式人工智能技术的进展，这类...
Cover Letter AI
智能封面信 AI是一个利用人工智能帮助您在职业生涯中取得成功的工具。它可以帮助您撰写完美的求职信，提供个性化的建议和模板，以及优化您的职业发展。...
DeepSummary
DeepSummary是一个专注于提供书籍总结的在线平台，旨在通过简洁高效的方式帮助用户快速获取书籍的核心内容。该平台支持多种书籍类别，包括科学、历史...
Nova Store
Nova Store是一个一站式电子商务平台，提供无缝的网站创建、产品列表、订单履行和AI驱动的营销，全部由24/7本地语言支持。用户可以在30秒内创...
Llama-3.1-Tulu-3-8B-SFT
Llama-3.1-Tulu-3-8B-SFT是Tülu3模型家族中的一员，这是一个领先的指令遵循模型家族，提供完全开源的数据、代码和配方，旨在为现代...
AI爱好者的一站式人工智能AI工具箱，累计收录全球10,000⁺好用的AI工具软件和网站，方便您更便捷的探索前沿的AI技术。本站持续更新好的AI应用，力争做全球排名前三的AI网址导航网站，欢迎您成为我们的一员。
