上一篇
MobileVD是什么？一文让你看懂MobileVD的技术原理、主要功能、应用场景
YuE是什么？一文让你看懂YuE的技术原理、主要功能、应用场景
来源：卓商AI
发布时间：2025-04-05
YuE概述简介
YuE 是香港科技大学和 Multimodal Art Projection 团队联合开发的开源 AI 音乐生成模型。能将歌词转化为完整的歌曲，支持多种音乐风格，包括流行、金属、爵士、嘻哈等，并且支持英语、中文、日语和韩语等多种语言。YuE 通过语义增强音频分词器、双分词技术、歌词链式思维生成和三阶段训练方案，解决了音乐生成中的长上下文、复杂音乐信号、语言内容失真等挑战，生成的歌曲具有连贯的音乐结构和吸引人的声乐旋律。模型完全开源，用户可以自由使用和修改代码。提供了灵活的生成选项，用户可以通过简单的命令行参数调整生成歌曲的风格、声乐类型等细节。
YuE的功能特色
歌词转歌曲：能将输入的歌词转化为完整的歌曲，包含主唱和伴奏。
多种音乐风格支持：支持流行、金属、爵士、嘻哈等多种音乐风格。
高质量生成：通过多种技术优化，确保生成的歌曲连贯且高质量。
多语言支持：支持英语、中文、日语和韩语等多种语言。
长时间音乐创作：可以生成长达 5 分钟的完整歌曲。
开源与可定制：代码和模型完全开源，用户可以自由使用和修改。
情感和风格匹配：能根据歌词的情感基调生成匹配的音乐风格。
跨模态应用：可以与其他多模态模型结合，用于多媒体艺术创作。
YuE的技术原理
语义增强音频分词器：YuE 使用语义增强音频分词器来降低训练成本并加速收敛。能更好地理解歌词的语义信息，与音乐信号相结合，生成更符合歌词内容的音乐。
双分词技术：YuE 提出了一种双分词技术，用于在不修改 LLaMa 解码器-only 架构的情况下实现音轨同步的声乐-乐器建模。模型可以在生成主唱部分的同时，同步生成合适的伴奏，确保两者在节奏和旋律上的协调性。
歌词链式思维生成：YuE 引入了歌词链式思维生成技术，支持模型在遵循歌词条件的情况下逐步生成整首歌曲。使模型能更好地处理长上下文信息，确保生成的歌曲在整体结构上保持连贯性。
三阶段训练方案：YuE 采用了三阶段训练方案，确保更好的可扩展性、音乐性和歌词可控性。具体来说：
第一阶段：基础模型训练，学习音乐生成的基本模式。
第二阶段：风格和情感对齐，通过大量样本来调整模型，能生成特定风格和情感的音乐。
第三阶段：偏好纠正，通过强化学习等技术进一步优化生成结果，确保生成的音乐更符合人类的审美标准。
YuE项目介绍
项目官网：https://map-yue.github.io/
GitHub仓库：https://github.com/multimodal-art-projection/YuE
HuggingFace模型库：https://huggingface.co/m-a-p/YuE-s1-7B-anneal-en-cot
YuE能做什么？
音乐创作：音乐创作者可以用 YuE 快速生成旋律和伴奏，激发创作灵感。根据用户提供的歌词，生成符合其情感和风格需求的个性化歌曲。
影视与视频制作：为电影、电视剧和短视频生成背景音乐，匹配不同场景的情感和氛围。为广告制作朗朗上口的铃声，有效传达品牌信息。
游戏音乐：为游戏生成匹配场景的背景音乐，增强游戏的沉浸感。
社交媒体内容：为 TikTok 和 Instagram 等平台上的短视频生成独特的背景音乐。
© 版权声明:本站所有原创文章版权均归卓商AI工具集及原创作者所有，未经允许任何个人、媒体、网站不得转载或以其他方式抄袭本站任何文章。
相关文章
-
CHANGER是什么？一文让你看懂CHANGER的技术原理、主要功能、应用场景2025-04-05 -
Kiroku是什么？一文让你看懂Kiroku的技术原理、主要功能、应用场景2025-04-05
-
Vision Search Assistant是什么？一文让你看懂Vision Search Assistant的技术原理、主要功能、应用场景2025-04-05
-
MVDrag3D是什么？一文让你看懂MVDrag3D的技术原理、主要功能、应用场景2025-04-05
-
Chonkie是什么？一文让你看懂Chonkie的技术原理、主要功能、应用场景2025-04-05
-
MSQA是什么？一文让你看懂MSQA的技术原理、主要功能、应用场景2025-04-05
卓商AI
AI爱好者的一站式人工智能AI工具箱，累计收录全球10,000⁺好用的AI工具软件和网站，方便您更便捷的探索前沿的AI技术。本站持续更新好的AI应用，力争做全球排名前三的AI网址导航网站，欢迎您成为我们的一员。
最新发布
1
2
3
4
5
6
7
8
9
10
猜你喜欢
vidiq
VIDIQ可帮助您使用AI驱动的工具来充分利用YouTube频道，旨在增加观众和订户。获取免费的见解和指导，以确保您的频道表现最好，并注意您的收视率增...
CV Spruce
CV Spruce是一款AI助力的简历排版工具，可以帮助招聘人员在发送给客户之前，快速对简历进行格式化。只需上传公司logo、输入候选人信息、添加简历...
AI Audio Kit
AI Audio Kit是一款使用OpenAI官方Whisper API在macOS上进行音频转录的工具。它使用先进的AI技术来实现精确转录，无需繁琐...
Formulas HQ
公式总部是一款能够生成准确的Excel公式和Google Sheets公式的人工智能工具。它可以帮助用户在处理电子表格数据时快速生成复杂的计算公式，提...
Backender
Backender是一个无代码平台，可以快速构建和管理后端应用。它提供了自动生成数据库、文件存储、API端点、函数编辑器等功能，支持第三方集成和自动生...
Snoooz AI
Snoooz AI是一个用于375团队的OOO(离职)响应和自动化工具。它可以发送个性化的OOO回复,自动执行OOO任务,轮流指派备份,创建值班计划等...
Pagerly AI
Pagerly AI是一款用于快速调试和文档编写的工具。它能够帮助您更快速地解决问题，并提供自动化的文档生成功能。Pagerly AI还能与各种服务集...
Intervu
Intervu是一款AI驱动的面试平台，提供无限的真实系统设计面试模拟和全面的反馈。它可以帮助您提升系统设计技能，准备系统设计面试。...
AI爱好者的一站式人工智能AI工具箱，累计收录全球10,000⁺好用的AI工具软件和网站，方便您更便捷的探索前沿的AI技术。本站持续更新好的AI应用，力争做全球排名前三的AI网址导航网站，欢迎您成为我们的一员。
