上一篇
EliGen是什么？一文让你看懂EliGen的技术原理、主要功能、应用场景
Hibiki是什么？一文让你看懂Hibiki的技术原理、主要功能、应用场景
来源：卓商AI
发布时间：2025-04-05
关键字：
Hibiki概述简介
Hibiki是Kyutai Labs开源的用在同时语音翻译的解码器模型，能实时将一种语言的语音翻译成另一种语言的语音或文本。Hibiki基于多流语言大模型架构，同步处理源语音和目标语音，联合生成文本和音频标记，实现语音到语音（S2ST）和语音到文本（S2TT）的翻译功能。Hibiki用弱监督学习方法，基于文本翻译系统的困惑度识别单词级的最佳延迟，创建对齐的合成数据进行训练。Hibiki模型在法语到英语的翻译任务中表现出色，具有高翻译质量、说话者保真度和自然度，支持批量翻译和实时设备端部署，展现了强大的实用潜力。
Hibiki的功能特色
实时语音到语音翻译（S2ST）：将一种语言的语音实时翻译成另一种语言的语音，保留说话者的音色和语调。
实时语音到文本翻译（S2TT）：将语音实时翻译成目标语言的文本，提供更灵活的使用场景。
低延迟翻译：基于实时积累上下文信息，逐块生成翻译内容，延迟极低，接近人类口译水平。
高保真度：生成的语音自然流畅，与源语音的音色和语调高度相似，用户体验接近专业人类口译。
支持批量和实时部署：推理过程简单，支持批量处理和实时设备端部署，适合大规模应用。
Hibiki的技术原理
多流语言大模型架构：
同步处理：同时接收源语音和生成目标语音，基于多流架构联合建模两个音频流。
文本和音频标记：模型预测文本和音频标记的层次结构，实现语音到文本和语音到语音的翻译。
因果音频编解码器：用预训练的因果音频编解码器（如Mimi）将语音编码为低帧率的离散标记，支持实时流式处理。
弱监督学习与上下文对齐：
合成数据生成：基于翻译单语音频的转录文本并重新合成目标语音，生成对齐的合成数据。
上下文对齐：用现成文本翻译系统的困惑度，计算单词级对齐，确保目标语音的生成与源语音的上下文同步。
静音插入与对齐感知TTS：基于插入静音或用对齐感知的TTS模型重新合成目标语音，确保目标语音的延迟符合实时翻译的要求。
说话者相似性与分类器自由引导：
说话者相似性标记：对训练数据进行说话者相似性分类标记，避免过滤数据的同时，在推理时优先选择高相似性样本。
分类器自由引导：调整条件标签的权重，增强模型对说话者相似性的控制，进一步提升语音保真度。
高效的推理过程：
温度采样：用温度采样技术，结合因果音频编解码器，实现流式输入和输出。
批量处理与实时部署：推理过程简单高效，支持批量处理和实时设备端部署，适合大规模应用场景。
Hibiki项目介绍
GitHub仓库：https://github.com/kyutai-labs/hibiki
HuggingFace模型库：https://huggingface.co/collections/kyutai/hibiki
arXiv技术论文：https://arxiv.org/pdf/2502.03382
Hibiki能做什么？
国际会议：实时翻译不同语言的发言，帮助参会者即时理解内容。
在线教育：将教师的授课语音实时翻译，方便学生无障碍学习。
旅游出行：实时翻译导游讲解或与当地人交流，增强旅游体验。
新闻采访：帮助记者快速翻译采访内容，提升报道效率。
客户服务：实现多语言客服沟通，提升客户满意度。
© 版权声明:本站所有原创文章版权均归卓商AI工具集及原创作者所有，未经允许任何个人、媒体、网站不得转载或以其他方式抄袭本站任何文章。
相关文章
-
CHANGER是什么？一文让你看懂CHANGER的技术原理、主要功能、应用场景2025-04-05 -
Kiroku是什么？一文让你看懂Kiroku的技术原理、主要功能、应用场景2025-04-05
-
Vision Search Assistant是什么？一文让你看懂Vision Search Assistant的技术原理、主要功能、应用场景2025-04-05
-
MVDrag3D是什么？一文让你看懂MVDrag3D的技术原理、主要功能、应用场景2025-04-05
-
Chonkie是什么？一文让你看懂Chonkie的技术原理、主要功能、应用场景2025-04-05
-
MSQA是什么？一文让你看懂MSQA的技术原理、主要功能、应用场景2025-04-05
卓商AI
AI爱好者的一站式人工智能AI工具箱，累计收录全球10,000⁺好用的AI工具软件和网站，方便您更便捷的探索前沿的AI技术。本站持续更新好的AI应用，力争做全球排名前三的AI网址导航网站，欢迎您成为我们的一员。
最新发布
1
2
3
4
5
6
7
8
9
10
猜你喜欢
Aiclassifiedhub
Aiclassifiedhub是一个专门为AI搭建的求职广告平台。用户可以在平台发布AI相关的求职广告,也可以浏览并联系感兴趣的AI。平台为AI提供了...
zeemo
Zeemo的AI字幕生成器使AI的力量为您工作，使您可以快速，准确地用多种语言为视频标题。享受惊人的98％精度率 - 比传统方法快10倍。...
digicartoony
将您的照片与Digicartoony一起转变为充满活力的艺术品！这种免费的在线AI工具结合了动漫，卡通和数字绘画的元素，以创建真正独特而引人注目的图像...
sococal ai
Sococal.ai是一个由AI驱动的平台，可快速为个人用户或团队创建定制的30天社交媒体内容日历。凭借为您的特定品牌和受众量身定制的详细标题，视觉效...
IntroThem
IntroThem是一个搜索引擎，使用面部识别技术对个人、潜在客户和品牌进行深入、准确的研究。它能够将陌生人转化为熟悉的面孔，并通过个性化的冷邮件提高...
ExplainTXT
该产品通过AI技术为用户提供文本解释和翻译服务。用户可以高亮文本，获得清晰、简洁的解释，并调整解释的复杂度以适应学习需求。它能够帮助用户快速理解复杂文...
Photo AI
Photo AI 是一个利用人工智能技术生成逼真人像照片和视频的在线平台。用户可以上传自拍照，创建自己的AI模型，然后在不同的场景、姿势和动作中生成1...
ai2page
永远不要等待数周，再次使用一页网站AI发电机启动一个站点。利用人工智能，该发电机很快创建了自定义的一页站点，并在几秒钟内交付。节省数百美元，并通过AI...
AI爱好者的一站式人工智能AI工具箱，累计收录全球10,000⁺好用的AI工具软件和网站，方便您更便捷的探索前沿的AI技术。本站持续更新好的AI应用，力争做全球排名前三的AI网址导航网站，欢迎您成为我们的一员。
