上一篇
Edify 3D是什么？一文让你看懂Edify 3D的技术原理、主要功能、应用场景
SongCreator是什么？一文让你看懂SongCreator的技术原理、主要功能、应用场景
来源：卓商AI
发布时间：2025-04-05
SongCreator概述简介
SongCreator是清华大学深圳国际研究生院、香港中文大学等机构推出的AI音乐生成模型，能从歌词出发生成包含声乐和伴奏的完整歌曲。基于双序列语言大模型（DSLM）和注意力掩码策略，理解和生成各种相关的歌曲生成任务，包括编辑和生成。SongCreator在多项任务中表现出色，特别是在歌词到歌曲和歌词到声乐的任务上，能独立控制生成歌曲中声乐和伴奏的声学条件。
SongCreator的功能特色
歌词到歌曲（Lyrics-to-Song）：根据提供的歌词生成包含声乐和伴奏的完整歌曲。
歌词到声乐（Lyrics-to-Vocals）：基于歌词生成声乐部分，不包含伴奏。
伴奏到歌曲（Accompaniment-to-Song）：给定伴奏，生成与伴奏协调的声乐部分，形成完整的歌曲。
声乐到歌曲（Vocals-to-Song）：给定声乐部分，生成伴奏，构成完整的歌曲。
歌曲编辑（Song Editing）：在现有歌曲中修改特定段落，匹配目标歌词，同时保持与原歌曲的连贯性。
声乐编辑（Vocals Editing）：编辑歌曲中的声乐部分，而不改变伴奏。
音乐延续（Music Continuation）：基于一段伴奏或声乐，生成音乐的连续部分。
无条件音乐生成：在没有歌词的情况下生成音乐或声乐。
SongCreator的技术原理
双序列语言大模型（DSLM）：用DSLM捕捉声乐和伴奏的信息。模型包括两个解码器，分别针对声乐和伴奏，通过动态双向交叉注意力模块捕捉两者之间的相互影响。
注意力掩码策略：设计一系列注意力掩码策略。策略支持模型在不同的歌曲生成任务中，如编辑、理解和生成，用统一的方式工作。
多任务训练：基于多任务训练提升其在作曲、编曲和理解方面的能力，使其能处理各种复杂的音乐场景。
条件信号：接受多种可选输入，包括歌词、声乐提示、伴奏提示等，使其在生成歌曲时具有高度的灵活性和可控性。
语义令牌（Semantic Tokens）：用BEST-RQ模型在未标记的数据集上训练，基于向量量化提取歌曲的语义令牌，令牌包含重建歌曲所需的语义和声学细节。
潜在扩散模型（Latent Diffusion Model, LDM）：用LDM将语义令牌解码成高质量的歌曲音频，模型由变分自编码器（VAE）和扩散模型组成，用在生成高保真度和音乐性的音乐。
SongCreator项目介绍
项目官网：songcreator.github.io
arXiv技术论文：https://arxiv.org/pdf/2409.06029
SongCreator能做什么？
音乐制作：音乐制作人和作曲家生成歌曲的小样，快速原型设计，或在创作过程中寻找灵感。
教育和学习：在音乐教育中，作为教学工具，帮助学生理解歌曲结构，学习作曲和编曲。
娱乐和游戏：在视频游戏和互动媒体中，根据游戏情境实时生成背景音乐，提升玩家的沉浸感。
内容创作：视频内容创作者和播客为项目定制原创音乐，而无需聘请专业的音乐家。
广告和营销：广告行业快速生成符合品牌形象和广告概念的配乐。
© 版权声明:本站所有原创文章版权均归卓商AI工具集及原创作者所有，未经允许任何个人、媒体、网站不得转载或以其他方式抄袭本站任何文章。
相关文章
-
CHANGER是什么？一文让你看懂CHANGER的技术原理、主要功能、应用场景2025-04-05 -
Kiroku是什么？一文让你看懂Kiroku的技术原理、主要功能、应用场景2025-04-05
-
Vision Search Assistant是什么？一文让你看懂Vision Search Assistant的技术原理、主要功能、应用场景2025-04-05
-
MVDrag3D是什么？一文让你看懂MVDrag3D的技术原理、主要功能、应用场景2025-04-05
-
Chonkie是什么？一文让你看懂Chonkie的技术原理、主要功能、应用场景2025-04-05
-
MSQA是什么？一文让你看懂MSQA的技术原理、主要功能、应用场景2025-04-05
卓商AI
AI爱好者的一站式人工智能AI工具箱，累计收录全球10,000⁺好用的AI工具软件和网站，方便您更便捷的探索前沿的AI技术。本站持续更新好的AI应用，力争做全球排名前三的AI网址导航网站，欢迎您成为我们的一员。
最新发布
1
2
3
4
5
6
7
8
9
10
猜你喜欢
persuva
Speruva是一种创新的AI驱动解决方案，适用于寻求毫不费力地创建有说服力的高转换广告副本的企业。通过这个功能强大的平台节省时间并提高收入，该平台提...
ChatTTS-ui
ChatTTS-ui是一个为ChatTTS项目提供的web界面和API接口，允许用户通过网页进行语音合成操作，并通过API接口进行远程调用。它支持多种...
Flow Trials
Flow Trials 是一个基于人工智能的平台，可帮助患者立即匹配并参加临床试验。它为研究人员和患者提供了一个便捷的在线环境，以促进医疗研究的进行。...
Code2.AI
Code2.AI是一个创新的在线平台，它通过人工智能技术帮助开发者将想法快速转化为代码。该平台通过压缩代码库，使AI能够理解并与开发者一同编程。Cod...
Bossjob App
Bossjob是一款面向东南亚市场的聊天式求职平台，它通过直接聊天和技能匹配的方式，为求职者和雇主提供快速、高质量的求职和招聘流程。该平台特别适合那些...
Inverse Painting
Inverse Painting 是一种基于扩散模型的方法，能够从一幅目标画作生成绘画过程的时间流逝视频。该技术通过训练学习真实艺术家的绘画过程，能够...
Hackules
Hackules是一个帮助企业进行数字化建设和增长的软件开发、网站开发、设计和数字营销服务提供商。我们使用自动化和人工智能来加快软件开发的速度，减少成...
PLG OS
PLG OS是一个用户反馈收集与分析平台，它通过提供定制化的反馈组件、实时分析和通知等功能，帮助企业更好地理解用户需求，从而优化产品和服务。该平台的主...
AI爱好者的一站式人工智能AI工具箱，累计收录全球10,000⁺好用的AI工具软件和网站，方便您更便捷的探索前沿的AI技术。本站持续更新好的AI应用，力争做全球排名前三的AI网址导航网站，欢迎您成为我们的一员。
