上一篇
HiCo是什么？一文让你看懂HiCo的技术原理、主要功能、应用场景
Ferret-UI 2是什么？一文让你看懂Ferret-UI 2的技术原理、主要功能、应用场景
来源：卓商AI
发布时间：2025-04-05
Ferret-UI 2概述简介
Ferret-UI 2是苹果公司推出的多模态大型语言大模型，用在理解和交互移动用户界面。Ferret-UI 2能识别和理解各种移动设备屏幕上的UI元素，执行复杂的用户指令，实时观察用户在移动设备屏幕上的操作，随时准备提供帮助和执行任务。Ferret-UI 2相较于早期版本进行了大幅改进和更新。基于高分辨率图像编码和先进的数据训练方法，提升UI元素的识别精度和交互能力，用户能更自然、高效地与智能设备互动。
Ferret-UI 2的功能特色
多平台支持：Ferret-UI 2能处理包括iPhone、Android、iPad、Webpage和AppleTV在内的多种平台的用户界面。
高分辨率图像感知：基于自适应缩放技术，Ferret-UI 2能在保持原始UI截图分辨率的同时，实现更准确的视觉元素识别。
高级任务训练数据生成：基于GPT-4o和set-of-mark视觉提示，Ferret-UI 2生成用于复杂任务的训练数据，提升模型对UI元素空间关系的理解。
用户中心交互：Ferret-UI 2能理解、执行用户为中心的交互任务，如确认提交、点击按钮等，不仅仅是机械点击。
跨平台迁移能力：Ferret-UI 2展示了强大的跨平台转移能力，能在不同的平台之间迁移和适应。
Ferret-UI 2的技术原理
多模态大型语言大模型（MLLM）：结合视觉感知和语言处理的能力，理解和生成对UI的复杂交互。
自适应N网格机制：基于算法确定最优的网格大小，用最小的分辨率失真和像素变化编码UI截图的每个部分。
动态高分辨率图像编码：用CLIP图像编码器提取全局和局部特征，将特征送入大型语言大模型（LLM）。
视觉采样器：根据用户指令识别、选择相关的UI区域，输出对UI元素的感知或交互描述。
set-of-mark（SoM）视觉提示：在生成训练数据时，用SoM提示增强模型对UI元素空间关系的理解，特别是在多轮感知和交互问答任务中。
端到端训练：模型通过端到端的训练过程，从原始数据注释中学习，生成高质量的训练数据并优化模型性能。
Ferret-UI 2项目介绍
arXiv技术论文：https://arxiv.org/pdf/2410.18967
Ferret-UI 2能做什么？
智能手机和平板电脑：Ferret-UI 2能理解、执行用户在iOS和Android设备上的各种指令，如导航应用程序、发送消息、设置提醒等。
网络浏览：在网页浏览中，帮助用户更有效地与网页元素交互，比如点击按钮、填写表单、导航链接等。
智能电视：对于Apple TV等智能电视平台，提供语音控制和其他交互方式，增强用户体验。
多任务环境：在需要同时处理多个应用程序或窗口的场景中，帮助用户更高效地管理和切换不同的任务。
辅助技术：集成到辅助技术中，帮助残障人士通过语音命令或其他输入方式与设备交互。
© 版权声明:本站所有原创文章版权均归卓商AI工具集及原创作者所有，未经允许任何个人、媒体、网站不得转载或以其他方式抄袭本站任何文章。
相关文章
-
CHANGER是什么？一文让你看懂CHANGER的技术原理、主要功能、应用场景2025-04-05 -
Kiroku是什么？一文让你看懂Kiroku的技术原理、主要功能、应用场景2025-04-05
-
Vision Search Assistant是什么？一文让你看懂Vision Search Assistant的技术原理、主要功能、应用场景2025-04-05
-
MVDrag3D是什么？一文让你看懂MVDrag3D的技术原理、主要功能、应用场景2025-04-05
-
Chonkie是什么？一文让你看懂Chonkie的技术原理、主要功能、应用场景2025-04-05
-
MSQA是什么？一文让你看懂MSQA的技术原理、主要功能、应用场景2025-04-05
卓商AI
AI爱好者的一站式人工智能AI工具箱，累计收录全球10,000⁺好用的AI工具软件和网站，方便您更便捷的探索前沿的AI技术。本站持续更新好的AI应用，力争做全球排名前三的AI网址导航网站，欢迎您成为我们的一员。
最新发布
1
2
3
4
5
6
7
8
9
10
猜你喜欢
Qaiz
Qaiz是一个在线平台，利用AI技术快速生成各种主题的互动式问答游戏，让用户可以与朋友和家人实时竞争，同时跟踪分数并享受实时评论。它提供了一个有趣的方...
Meduza AI
MeduzaAi是一个综合平台，可以生成文本、图片、代码和聊天等多种内容。它利用AI技术，帮助用户轻松生成高质量的内容，无需费力思考。用户可以通过直观...
ZenAdmin
ZenAdmin是一个为全球团队设计的一体化IT管理和设备生命周期解决方案平台。它帮助企业管理人员、设备和应用程序，从采购到IT支持和设备回收，自动化...
LyricStudio
LyricStudio 是一个基于你选择的主题和风格为你提供独特歌词创意的工具。它类似于一个合作创作者，为你提供开始创作的思路，并在你遇到困难时帮助你...
DocWrangler
DocWrangler是一个开源的交互式开发环境，旨在简化构建和优化基于大型语言模型（LLM）的数据处理管道的过程。它提供即时反馈、可视化探索工具和A...
Overtune
Overtune是一款提供音乐创作工具的小程序，无需任何音乐知识或经验，即可轻松制作和分享病毒式音乐内容。...
RevFX
RevFX是一个商业智能平台，专注于通过AI技术帮助企业发现、筛选和优先处理潜在客户账户。它通过分析公共网络、第三方数据提供商和企业自身的GTM系统上...
AI123
AI123是一款集成了AI艺术创作、AI聊天和AI键盘的高效应用，旨在为用户提供高度创造性和便利的AI体验！AI123将带领您探索迷人的AI世界，释放...
AI爱好者的一站式人工智能AI工具箱，累计收录全球10,000⁺好用的AI工具软件和网站，方便您更便捷的探索前沿的AI技术。本站持续更新好的AI应用，力争做全球排名前三的AI网址导航网站，欢迎您成为我们的一员。
