這項(xiàng)由MIT(麻省理工學(xué)院)、NVIDIA、普林斯頓大學(xué)、加州大學(xué)伯克利分校和斯坦福大學(xué)等多所頂尖院校聯(lián)合開(kāi)展的研究，發(fā)表于2025年6月的arXiv預(yù)印本平臺(tái)(論文編號(hào)：arXiv:2506.19852v1)。感興趣的讀者可以通過(guò)https://github.com/mit-han-lab/radial-attention獲取完整的研究代碼和論文詳情。這項(xiàng)研究的核心突破在于解決了AI視頻生成中的一個(gè)關(guān)鍵難題：如何讓計(jì)算機(jī)在生成長(zhǎng)視頻時(shí)既快又好。

想象一下，如果你正在用手機(jī)拍攝一段視頻，手機(jī)需要同時(shí)處理每一個(gè)畫(huà)面中的每一個(gè)像素點(diǎn)?，F(xiàn)在AI生成視頻面臨的挑戰(zhàn)就像這樣：當(dāng)視頻變得越來(lái)越長(zhǎng)時(shí)，計(jì)算機(jī)需要處理的信息量會(huì)呈爆炸性增長(zhǎng)。就好比你原本只需要記住10個(gè)朋友的生日，現(xiàn)在突然要記住1000個(gè)人的生日，而且還要記住他們彼此之間的關(guān)系，這個(gè)任務(wù)就變得極其困難。

研究團(tuán)隊(duì)發(fā)現(xiàn)了一個(gè)非常有趣的現(xiàn)象，他們稱(chēng)之為"時(shí)空能量衰減"。這個(gè)概念聽(tīng)起來(lái)很學(xué)術(shù)，但其實(shí)很好理解。就像你在嘈雜的咖啡廳里和朋友聊天，坐得越近的人，你越能清楚地聽(tīng)到他們?cè)谡f(shuō)什么；距離越遠(yuǎn)，聲音就越模糊。在AI視頻生成中也是如此：視頻中相鄰的畫(huà)面之間聯(lián)系更緊密，而相距很遠(yuǎn)的畫(huà)面之間的關(guān)系就相對(duì)較弱。

基于這個(gè)發(fā)現(xiàn)，研究團(tuán)隊(duì)開(kāi)發(fā)了一種叫做"Radial Attention"（徑向注意力）的新技術(shù)。這個(gè)名字可能聽(tīng)起來(lái)很復(fù)雜，但我們可以把它想象成一種智能的"注意力分配系統(tǒng)"。就像一個(gè)經(jīng)驗(yàn)豐富的攝影師在拍攝時(shí)，會(huì)把主要精力集中在最重要的畫(huà)面上，而不是試圖同時(shí)關(guān)注所有細(xì)節(jié)。

這個(gè)徑向注意力系統(tǒng)的工作原理非常巧妙。傳統(tǒng)的AI視頻生成方法就像一個(gè)強(qiáng)迫癥患者，必須仔細(xì)檢查視頻中每一幀畫(huà)面與其他所有畫(huà)面的關(guān)系。這就好比你要寫(xiě)一篇文章，卻堅(jiān)持每寫(xiě)一個(gè)字都要回頭檢查與之前所有字的關(guān)系，這樣效率自然很低。而徑向注意力系統(tǒng)更像一個(gè)聰明的編輯，它知道哪些內(nèi)容是真正重要的，應(yīng)該重點(diǎn)關(guān)注，哪些內(nèi)容可以適當(dāng)忽略。

具體來(lái)說(shuō)，這個(gè)系統(tǒng)采用了一種"指數(shù)衰減"的策略。想象你站在一個(gè)池塘邊扔石頭，石頭激起的波紋會(huì)從中心向外擴(kuò)散，越往外波紋越弱。徑向注意力系統(tǒng)就是這樣工作的：對(duì)于視頻中的每一幀畫(huà)面，它會(huì)重點(diǎn)關(guān)注時(shí)間上最接近的幾幀，然后隨著時(shí)間距離的增加，關(guān)注度會(huì)按照一定規(guī)律遞減。這種方法既保證了重要信息不會(huì)丟失，又大大減少了不必要的計(jì)算。

研究團(tuán)隊(duì)通過(guò)大量實(shí)驗(yàn)證明了這種方法的有效性。他們使用了幾個(gè)當(dāng)前最先進(jìn)的AI視頻生成模型進(jìn)行測(cè)試，包括HunyuanVideo、Wan2.1-14B和Mochi 1等。這些模型就像不同品牌的高端相機(jī)，各有特色但都代表了當(dāng)前的技術(shù)水平。

實(shí)驗(yàn)結(jié)果令人印象深刻。在生成標(biāo)準(zhǔn)長(zhǎng)度視頻時(shí)，徑向注意力技術(shù)能夠?qū)⑸伤俣忍嵘?.9倍，這意味著原本需要20分鐘才能生成的視頻，現(xiàn)在只需要大約10分鐘就能完成。更令人驚喜的是，當(dāng)生成4倍長(zhǎng)度的視頻時(shí)，這種技術(shù)的優(yōu)勢(shì)更加明顯：訓(xùn)練成本降低了4.4倍，推理速度提升了3.7倍。

為了更好地理解這些數(shù)字的意義，我們可以這樣比較：如果說(shuō)傳統(tǒng)方法生成一個(gè)長(zhǎng)視頻需要花費(fèi)1000元的計(jì)算成本和10小時(shí)的時(shí)間，那么使用徑向注意力技術(shù)只需要大約230元的成本和2.7小時(shí)的時(shí)間。這種改進(jìn)對(duì)于實(shí)際應(yīng)用來(lái)說(shuō)意義重大，因?yàn)樗屍胀ㄓ脩?hù)也有可能使用AI來(lái)生成高質(zhì)量的長(zhǎng)視頻。

研究團(tuán)隊(duì)還解決了另一個(gè)重要問(wèn)題：如何讓已經(jīng)訓(xùn)練好的AI模型適應(yīng)更長(zhǎng)的視頻生成任務(wù)。傳統(tǒng)上，如果你想讓一個(gè)只能生成5秒視頻的AI模型生成20秒的視頻，就需要重新訓(xùn)練整個(gè)模型，這個(gè)過(guò)程既耗時(shí)又昂貴，就像為了學(xué)會(huì)做更大的蛋糕而重新學(xué)習(xí)整個(gè)烘焙技術(shù)。

為了解決這個(gè)問(wèn)題，研究團(tuán)隊(duì)采用了一種叫做LoRA（低秩適應(yīng)）的技術(shù)。這種技術(shù)就像是給現(xiàn)有的AI模型加裝一個(gè)智能插件，而不需要重新構(gòu)建整個(gè)系統(tǒng)。想象你有一臺(tái)只能播放CD的音響，LoRA技術(shù)就像是給它連接一個(gè)藍(lán)牙適配器，讓它能夠播放手機(jī)里的音樂(lè)，而不需要買(mǎi)一臺(tái)全新的音響。

這種方法的巧妙之處在于，它只需要調(diào)整AI模型中的一小部分參數(shù)，就能讓模型學(xué)會(huì)處理更長(zhǎng)的視頻。這就好比你要學(xué)習(xí)開(kāi)更大的汽車(chē)，你不需要重新學(xué)習(xí)駕駛的所有基礎(chǔ)知識(shí)，只需要適應(yīng)新車(chē)的尺寸和操控感覺(jué)就可以了。

研究團(tuán)隊(duì)還發(fā)現(xiàn)，徑向注意力技術(shù)與現(xiàn)有的各種AI模型插件完全兼容。這意味著如果你已經(jīng)有一個(gè)能夠生成特定風(fēng)格視頻的AI模型（比如動(dòng)漫風(fēng)格或者油畫(huà)風(fēng)格），你可以直接在上面應(yīng)用徑向注意力技術(shù)來(lái)生成更長(zhǎng)的視頻，而不會(huì)影響原有的風(fēng)格特色。這就像是一個(gè)萬(wàn)能的加速器，可以安裝在任何品牌的汽車(chē)上，讓它們都跑得更快，但不會(huì)改變汽車(chē)本身的特色。

從技術(shù)實(shí)現(xiàn)的角度來(lái)看，徑向注意力系統(tǒng)采用了一種靜態(tài)的注意力掩碼設(shè)計(jì)。這個(gè)概念聽(tīng)起來(lái)很技術(shù)化，但實(shí)際上可以理解為一張預(yù)先設(shè)計(jì)好的"關(guān)注地圖"。就像你在看一場(chǎng)足球比賽時(shí)，攝像師會(huì)有一個(gè)預(yù)設(shè)的拍攝計(jì)劃：什么時(shí)候關(guān)注球員，什么時(shí)候關(guān)注觀(guān)眾，什么時(shí)候給出全景鏡頭。徑向注意力系統(tǒng)也有這樣一張預(yù)設(shè)的"關(guān)注地圖"，告訴AI在處理視頻時(shí)應(yīng)該把注意力放在哪里。

這種靜態(tài)設(shè)計(jì)的好處是效率很高，因?yàn)锳I不需要在生成視頻的過(guò)程中花時(shí)間去決定應(yīng)該關(guān)注什么。這就像有一個(gè)經(jīng)驗(yàn)豐富的導(dǎo)演提前制定好了拍攝計(jì)劃，拍攝團(tuán)隊(duì)只需要按照計(jì)劃執(zhí)行就可以了，不需要臨時(shí)做決定。

研究團(tuán)隊(duì)通過(guò)理論分析證明了他們方法的數(shù)學(xué)基礎(chǔ)。他們發(fā)現(xiàn)，傳統(tǒng)的注意力機(jī)制的計(jì)算復(fù)雜度是O(n?)，這意味著當(dāng)視頻長(zhǎng)度增加一倍時(shí)，計(jì)算量會(huì)增加四倍。而徑向注意力技術(shù)的計(jì)算復(fù)雜度是O(n log n)，這意味著計(jì)算量的增長(zhǎng)速度要慢得多。用一個(gè)具體的例子來(lái)說(shuō)明：如果視頻長(zhǎng)度從100幀增加到1000幀（增加10倍），傳統(tǒng)方法的計(jì)算量會(huì)增加100倍，而徑向注意力方法只增加大約33倍。

為了驗(yàn)證他們方法的準(zhǔn)確性，研究團(tuán)隊(duì)還進(jìn)行了誤差分析。他們發(fā)現(xiàn)，徑向注意力系統(tǒng)產(chǎn)生的誤差會(huì)隨著時(shí)空衰減參數(shù)的增大而指數(shù)級(jí)減少。簡(jiǎn)單來(lái)說(shuō)，只要正確設(shè)置參數(shù)，這種方法產(chǎn)生的結(jié)果與傳統(tǒng)方法幾乎沒(méi)有差別，但速度卻快得多。

在實(shí)際測(cè)試中，研究團(tuán)隊(duì)使用了多個(gè)客觀(guān)指標(biāo)來(lái)評(píng)估視頻質(zhì)量，包括PSNR（峰值信噪比）、SSIM（結(jié)構(gòu)相似性指數(shù)）和LPIPS（感知圖像補(bǔ)丁相似性）等。這些指標(biāo)就像是評(píng)判照片質(zhì)量的不同標(biāo)準(zhǔn)：清晰度、色彩還原度、細(xì)節(jié)保留度等。測(cè)試結(jié)果顯示，徑向注意力技術(shù)在保持視頻質(zhì)量的同時(shí)顯著提升了生成速度。

研究團(tuán)隊(duì)還與其他現(xiàn)有的加速技術(shù)進(jìn)行了詳細(xì)比較。他們發(fā)現(xiàn)，一些現(xiàn)有方法雖然也能提升速度，但往往會(huì)犧牲視頻質(zhì)量。有些方法只適用于特定類(lèi)型的模型，而徑向注意力技術(shù)具有更好的通用性。這就像比較不同的交通工具：自行車(chē)很快但只適合短距離，汽車(chē)適合中距離，飛機(jī)適合長(zhǎng)距離，而徑向注意力技術(shù)就像是一種能在各種距離都表現(xiàn)優(yōu)秀的新型交通工具。

特別值得一提的是，研究團(tuán)隊(duì)還展示了他們方法在生成超長(zhǎng)視頻方面的能力。他們成功生成了長(zhǎng)達(dá)21秒（509幀）的高質(zhì)量視頻，這在之前是很難實(shí)現(xiàn)的。要知道，在AI視頻生成領(lǐng)域，能夠生成5秒的連貫視頻就已經(jīng)很了不起了，而21秒的視頻相當(dāng)于提升了4倍的長(zhǎng)度。

這種技術(shù)突破的意義不僅僅在于技術(shù)層面，更在于它可能帶來(lái)的應(yīng)用前景。隨著生成視頻長(zhǎng)度的大幅增加和計(jì)算成本的顯著降低，AI視頻生成技術(shù)離實(shí)際應(yīng)用又近了一大步。普通用戶(hù)可能很快就能使用這種技術(shù)來(lái)創(chuàng)作自己的視頻內(nèi)容，而不需要專(zhuān)業(yè)的設(shè)備和技能。

研究團(tuán)隊(duì)還考慮了技術(shù)的環(huán)保影響。由于徑向注意力技術(shù)大大減少了計(jì)算量，這意味著生成同樣質(zhì)量的視頻需要消耗更少的電力，產(chǎn)生更少的碳排放。在當(dāng)前越來(lái)越重視環(huán)保的背景下，這種技術(shù)改進(jìn)具有重要的社會(huì)意義。

當(dāng)然，這項(xiàng)技術(shù)也還有一些局限性。研究團(tuán)隊(duì)坦誠(chéng)地指出，他們的方法基于時(shí)空能量呈指數(shù)衰減的假設(shè)，這個(gè)假設(shè)雖然在大多數(shù)情況下是合理的，但可能不適用于所有類(lèi)型的視頻內(nèi)容。此外，雖然他們的方法在時(shí)間復(fù)雜度上有所改進(jìn)，但對(duì)于空間復(fù)雜度（即圖像分辨率）的處理仍然是二次的，這意味著在處理超高分辨率視頻時(shí)仍可能遇到挑戰(zhàn)。

展望未來(lái)，研究團(tuán)隊(duì)表示他們將繼續(xù)改進(jìn)這項(xiàng)技術(shù)，探索如何進(jìn)一步提升效率和質(zhì)量。他們也希望這項(xiàng)技術(shù)能夠激發(fā)更多研究者投入到AI視頻生成的優(yōu)化工作中，共同推動(dòng)這個(gè)領(lǐng)域的發(fā)展。

說(shuō)到底，這項(xiàng)研究代表了AI視頻生成技術(shù)發(fā)展的一個(gè)重要里程碑。它不僅解決了一個(gè)重要的技術(shù)難題，還為未來(lái)的應(yīng)用開(kāi)辟了新的可能性。隨著這種技術(shù)的不斷完善和普及，我們可能很快就會(huì)看到AI視頻生成在教育、娛樂(lè)、營(yíng)銷(xiāo)等各個(gè)領(lǐng)域的廣泛應(yīng)用。對(duì)于普通用戶(hù)來(lái)說(shuō)，這意味著創(chuàng)作高質(zhì)量視頻內(nèi)容的門(mén)檻將大大降低，每個(gè)人都可能成為自己故事的導(dǎo)演。當(dāng)然，隨著技術(shù)的進(jìn)步，我們也需要思考如何負(fù)責(zé)任地使用這些強(qiáng)大的工具，確保它們能夠真正造福社會(huì)。有興趣深入了解技術(shù)細(xì)節(jié)的讀者可以訪(fǎng)問(wèn)研究團(tuán)隊(duì)的GitHub頁(yè)面或查閱完整的論文，那里有更詳細(xì)的實(shí)驗(yàn)數(shù)據(jù)和實(shí)現(xiàn)細(xì)節(jié)。

Q&A

Q1：Radial Attention是什么？它有什么特別之處？ A：Radial Attention是一種新的AI視頻生成加速技術(shù)，它的特別之處在于能夠智能地分配計(jì)算資源。就像聰明的攝影師會(huì)重點(diǎn)關(guān)注重要畫(huà)面一樣，它重點(diǎn)處理時(shí)間上相近的視頻幀，對(duì)距離較遠(yuǎn)的幀采用遞減的關(guān)注度，從而在保持視頻質(zhì)量的同時(shí)大幅提升生成速度。

Q2：這項(xiàng)技術(shù)能讓AI視頻生成快多少？ A：根據(jù)實(shí)驗(yàn)結(jié)果，在生成標(biāo)準(zhǔn)長(zhǎng)度視頻時(shí)能提升1.9倍速度，生成4倍長(zhǎng)度視頻時(shí)能提升3.7倍速度，同時(shí)訓(xùn)練成本降低4.4倍。簡(jiǎn)單來(lái)說(shuō)，原本需要10小時(shí)和1000元成本的任務(wù)，現(xiàn)在只需要2.7小時(shí)和230元左右。

Q3：普通人能使用這項(xiàng)技術(shù)嗎？使用門(mén)檻高不高？ A：這項(xiàng)技術(shù)主要面向AI研究者和開(kāi)發(fā)者，普通用戶(hù)無(wú)法直接使用。但隨著技術(shù)的發(fā)展和應(yīng)用，未來(lái)很可能會(huì)集成到各種視頻生成應(yīng)用中，讓普通人也能受益于更快、更便宜的AI視頻生成服務(wù)。研究代碼已在GitHub開(kāi)源，技術(shù)人員可以免費(fèi)獲取。