這幾周，全球無不對AI音樂大模型那”以假亂真“的音樂創(chuàng)作能力感到驚奇不已，甚至有人認為“AI將革新音樂產(chǎn)業(yè)”。

而位居這場革新風暴中心的，正是昆侖萬維推出的國內(nèi)唯一公開可用的AI音樂生成大模型——「天工SkyMusic」。

自開啟邀測以來，「天工SkyMusic」已經(jīng)在互聯(lián)網(wǎng)上刷爆了存在感，成為網(wǎng)友們改編、二創(chuàng)音樂的新晉網(wǎng)紅神器。

遲遲等不到的“音樂ChatGPT”時刻

相信大家在體驗「天工SkyMusic」時，都會有一個疑問：隔壁AI視頻生成大模型都開始輔助創(chuàng)作了，為什么「天工SkyMusic」這類AI音樂生成大模型才才嶄露頭角？

原因在于構(gòu)建生成高質(zhì)量音樂的AI大模型，所面臨的復(fù)雜度遠超想象。

一方面是技術(shù)路線的選擇，AI音樂生成大模型有兩種主流技術(shù)路線，符號音樂生成和大模型音樂音頻生成。前者以MIDI為主要流派，其本身不包含音頻文件，而是記錄音樂演奏的指令，比如哪個音符被播放、音量是多少、音符持續(xù)的時間等，不能生成直接聽的音樂。

學術(shù)與產(chǎn)業(yè)界在符號派的AI音樂生成上投入了大量研究，但是始終效果不佳。

相反，深度學習大規(guī)模音頻數(shù)據(jù)則通過大模型端對端的方案，直接生成包含樂器、人聲、旋律等音樂元素的完整音頻作品。它需要模型具備極高的模擬精確度、大規(guī)模的高品質(zhì)音頻數(shù)據(jù)集、龐大的算力支撐……

這是一條預(yù)期效果更好，但是難度非常高的技術(shù)路徑，業(yè)內(nèi)只有很少玩家展開研究。

同時，鑒于歌聲在音樂審美中的核心地位，AI對人聲歌唱逼真模擬的研究也尤為關(guān)鍵。遺憾的是，受限于技術(shù)發(fā)展，以往AI音樂生成模型更關(guān)注無人聲演唱的背景音樂（Background Music，BGM）領(lǐng)域，而非包含人聲演唱的Song領(lǐng)域，因此行業(yè)內(nèi)缺乏有效的解決方案。

因此在AI音樂生成領(lǐng)域，無論是OpenAI的JukeBox、Meta的MusicGen，還是Google的MusicLM，它們雖然逐步解決了AI音樂生成中的痛點，但距離生成高品質(zhì)且類型豐富的音樂作品還有一定距離。

「天工SkyMusic」自研發(fā)階段即確立目標，要開發(fā)一款輔助用戶創(chuàng)作高質(zhì)量音樂的工具。團隊毅然選擇了AI音樂生成大模型的道路，并決定重點攻克人聲歌唱難題，勇敢涉足AI音樂制作領(lǐng)域內(nèi)兩個最具挑戰(zhàn)的無人區(qū)。

「天工SkyMusic」架構(gòu)誕生記

面對大模型音樂音頻生成+人聲Song這兩個近乎空白的技術(shù)領(lǐng)域，昆侖萬維傾注了海量研發(fā)資源和算力算法投入，不斷試錯，終于自主研發(fā)出一套音樂音頻領(lǐng)域的大模型架構(gòu)。

這是一套類似Sora的DiT大模型架構(gòu)，采用LLM+Diffusion的核心模塊組成。

其中，用戶輸入的參考音樂會被拆解為不同的Music Patches，由Large-scale Transformer負責譜曲，來學習Music Patches的上下文依賴關(guān)系，同時完成音樂可控性。

同時，Diffusion Transformer將負責大模型的“演唱”部分，通過LDM（Latent Diffusion Model）擴散模型讓Music Patches被還原成成44.1KHz的高品質(zhì)立體聲的音頻。

昆侖萬維這套高效、靈活且具有情感表達能力的音樂生成模型架構(gòu)，填補了音頻生成+人聲Song這兩技術(shù)領(lǐng)域的空白，堪稱AI音樂生成領(lǐng)域的一大技術(shù)飛躍，也讓昆侖萬維公開「天工SkyMusic」技術(shù)原理圖的舉措更讓人敬佩，它不僅打破了行業(yè)內(nèi)的封閉狀態(tài)，更為更是為整個產(chǎn)業(yè)鋪墊了一條可復(fù)現(xiàn)的技術(shù)路徑，大大降低整個AI音樂生成產(chǎn)業(yè)的研發(fā)風險。

AI音樂破曉：「天工SkyMusic」的中國式突破

從「天工SkyMusic」的技術(shù)分析中我們可以看到，昆侖萬維在研發(fā)過程中克服了諸多技術(shù)難題，為我們打造出一個真正意義上，能高效創(chuàng)作高品質(zhì)音樂的AI音樂生成大模型。在這里，我們可以生成時長80秒，采樣率44.1KHz的雙聲道立體聲歌曲，還可以通過歌詞控制歌曲的情緒變化，精確區(qū)分不同音樂結(jié)構(gòu)間的情感起伏，也可完成各種復(fù)雜歌唱技巧。

而且較之國外同類產(chǎn)品，「天工SkyMusic」最明顯的差異是在中文人聲歌唱上發(fā)音純正清晰，無明顯機械痕跡，效果逼真的程度足以“以假亂真”。這不僅讓中文歌詞韻味和情感表達更為出色，也在表達中國文化特有的意境與情感內(nèi)涵時，更加貼合國人的審美習慣與情感認同，形成獨有的差異化優(yōu)勢。

情感AGI待放：天工SkyMusic」引領(lǐng)情感創(chuàng)作變革

「天工SkyMusic」作為昆侖萬維 “All in AGI和AIGC”戰(zhàn)略下在音樂領(lǐng)域的先鋒之作，填補了傳統(tǒng)AGI側(cè)重于智力拓展而忽視情感維度的空白，標志著昆侖萬維在情感AGI研究中取得的重大突破。

如今，「天工SkyMusic」不僅降低音樂創(chuàng)作門檻，讓更多普通用戶能夠借助這款全民音樂創(chuàng)作工具的力量，更好地通過音樂這一媒介，表達自己的情感和創(chuàng)意。未來，隨著昆侖萬維在情感AGI技術(shù)上不斷的突破，「天工SkyMusic」將具備更多令人驚嘆的創(chuàng)作能力，亦有望成為輔助專業(yè)音樂創(chuàng)作者的利器。