ModernBERT是什么?一文让你看懂ModernBERT的技术原理、主要功能、应用场景
ModernBERT概述简介
ModernBERT是Answer.AI、LightOn、约翰斯·霍普金斯大学、英伟达和HuggingFace联合推出的现代编码器-only Transformer模型,是对经典BERT模型的一次重大升级。ModernBERT在2万亿token的大规模数据上训练,支持长达8192 token的序列长度,显著提升处理长上下文的能力。ModernBERT在多种自然语言处理任务上性能赶超SOTA,同时速度是DeBERTa的两倍,特...
AI工具评测
2025-04-05