上一篇
Champ是什么？一文让你看懂Champ的技术原理、主要功能、应用场景
Jamba是什么？一文让你看懂Jamba的技术原理、主要功能、应用场景
来源：卓商AI
发布时间：2025-04-05
Jamba概述简介
Jamba是由AI21 Labs推出的首个基于Mamba架构的生产级别的大语言大模型，目前大部分的大模型（如GPT、Gemini 和 Llama）都是基于 Transformer 结构。而 Jamba 结合了 Mamba 结构化状态空间模型（SSM）和 传统Transformer 架构，兼具了高质量输出、高吞吐量和低内存占用的优点。该混合结构的模型提供了256K的上下文窗口，显著提升了处理长文本时的吞吐量和效率。
Jamba 以开放权重的形式发布，遵循Apache 2.0开源许可，鼓励社区进行进一步的研究和优化。目前，Jamba 目前作为研究模型发布，没有必要的商业用途保障。AI21 Labs 计划在未来几周内发布一个经过微调、更安全的版本。
Jamba的官网入口
官方项目主页：https://www.ai21.com/jamba
官方博客介绍：https://www.ai21.com/blog/announcing-jamba
Hugging Face地址：https://huggingface.co/ai21labs/Jamba-v0.1
Jamba的主要特性
SSM-Transformer混合架构：Jamba是首个采用Mamba SSM（结构化状态空间模型）与Transformer架构相结合的生产级模型，这种创新的混合架构旨在提升模型的性能和效率。
大容量上下文窗口：Jamba提供了256K的上下文窗口，这使得模型能够处理更长的文本序列，适用于更复杂的自然语言处理任务。
高吞吐量：相比于同等规模的Mixtral 8x7B模型，Jamba在处理长上下文时实现了3倍的吞吐量提升，可以更高效地处理大量数据。
单GPU大容量处理：Jamba能够在单个GPU上处理高达140K的上下文，显著提高了模型的可访问性和部署的灵活性。
开放权重许可：Jamba的权重以Apache 2.0许可发布，为研究者和开发者提供了自由使用、修改和优化模型的权限，促进了技术的共享和创新。
NVIDIA API集成：Jamba将作为NVIDIA NIM推理微服务在NVIDIA API目录中提供，使得企业开发者可以利用NVIDIA AI Enterprise软件平台轻松部署Jamba模型。
优化的MoE层：Jamba利用混合结构中的MoE（混合专家）层，在推理时只激活部分参数，提高了模型的运行效率和性能。
Jamba的技术架构
Jamba 架构采用块和层方法，使 Jamba 能够成功集成 Mamba SSM 和 Transformer两种架构。每个 Jamba 块包含一个注意力层或一个 Mamba 层，后跟一个多层感知器 (MLP)，从而产生每八层中一个 Transformer 层的总体比例。
此外，Jamba 利用 MoE 来增加模型参数的总数，同时简化推理中使用的活动参数的数量，从而在计算需求没有相应增加的情况下获得更高的模型容量。为了最大限度地提高单个 80GB GPU 上的模型质量和吞吐量，AI21 Labs 优化了所使用的 MoE 层和专家的数量，为常见推理工作负载留下了足够的可用内存。
Jamba的性能对比
根据 AI21 Labs 的报告，Jamba 模型在各种基准测试（如HellaSwag、ArcChallenge、MLLU等）中展示了优秀的结果，在广泛的任务测试（如语言理解、科学推理、常识推理等）中与同尺寸类别中最先进的模型相当甚至超越（如Llama2 13B、Llama2 70B、Gemma 7B、Mixtral 8×7B）。
© 版权声明:本站所有原创文章版权均归卓商AI工具集及原创作者所有，未经允许任何个人、媒体、网站不得转载或以其他方式抄袭本站任何文章。
相关文章
-
CHANGER是什么？一文让你看懂CHANGER的技术原理、主要功能、应用场景2025-04-05 -
Kiroku是什么？一文让你看懂Kiroku的技术原理、主要功能、应用场景2025-04-05
-
Vision Search Assistant是什么？一文让你看懂Vision Search Assistant的技术原理、主要功能、应用场景2025-04-05
-
MVDrag3D是什么？一文让你看懂MVDrag3D的技术原理、主要功能、应用场景2025-04-05
-
Chonkie是什么？一文让你看懂Chonkie的技术原理、主要功能、应用场景2025-04-05
-
MSQA是什么？一文让你看懂MSQA的技术原理、主要功能、应用场景2025-04-05
卓商AI
AI爱好者的一站式人工智能AI工具箱，累计收录全球10,000⁺好用的AI工具软件和网站，方便您更便捷的探索前沿的AI技术。本站持续更新好的AI应用，力争做全球排名前三的AI网址导航网站，欢迎您成为我们的一员。
最新发布
1
2
3
4
5
6
7
8
9
10
猜你喜欢
frase
Frase是一种强大的AI驱动的SEO内容优化和写作工具，旨在帮助您充分利用内容。通过建议优化的内容想法，标题优化和SEO关键字研究，Frase使创建...
CAG
CAG（Cache-Augmented Generation）是一种创新的语言模型增强技术，旨在解决传统RAG（Retrieval-Augmented...
MDClone
MDClone是一个自助式数据分析环境，为医疗协作、创新和数据驱动项目提供支持。它提供强大的医疗数据处理和分析能力，帮助医疗行业实现数据驱动的决策。...
documind
Documind的AI Document Chatbot避免了搜索长期文档的麻烦。通过我们的高级CHATGPT技术，快速准确获取所需的信息。立即尝试没...
docparser
从您的业务中提取数据从Word，PDF和图像文件中获取重要数据。发送到Excel，Google表格和100个其他格式和集成。DocumentParse...
NeuralStudio
神经工作室是一款能够使用简单的文字生成个人头像、艺术品、商标和逼真图像的工具。它还提供AI编辑特效，如去除图像中的不需要的对象、图像升级和滤镜等功能。...
Canvas for Mac
Canvas是一款针对Mac平台开发的开源软件,集成了OpenAI的DALL-E生成功能,可以实现图像生成、编辑和变型。该软件具有操作简单、支持多种方...
prometai
通过AI驱动的商业计划副驾驶和计划生成器Prometai彻底改变您的业务计划的创建。告别繁琐的任务，并向一个简单的革命性解决方案打招呼，以将您的想法变...
AI爱好者的一站式人工智能AI工具箱，累计收录全球10,000⁺好用的AI工具软件和网站，方便您更便捷的探索前沿的AI技术。本站持续更新好的AI应用，力争做全球排名前三的AI网址导航网站，欢迎您成为我们的一员。
