低端顯卡登上AI的大船！6GB顯存就能生成高質量視頻

GitHub的Lvmin Zhang聯(lián)合斯坦福大學的Maneesh Agrawala，發(fā)布了一項突破性的新技術FramePack，通過在視頻擴散模型中使用固定長度的時域上下文，可以更高效地生成時間更長、質量更高的視頻。

根據(jù)實測，基于FramePack構建的130億參數(shù)模型，只需一塊6GB顯存的顯卡，就能生成60秒鐘的視頻。

FramePack是一種神經網(wǎng)絡架構，使用多級優(yōu)化策略，完成本地AI視頻生成。

目前，它底層基于定制版的騰訊混元模型，不過現(xiàn)有的預訓練模型，都可以通過FramePack進行微調、適配。

典型的視頻擴散模型在生成視頻時，需要首先處理此前生成的帶有噪音的幀，然后預測下一個噪音更少的幀，而每生成一幀所需要輸入的幀數(shù)量，就是時域上下文長度，會隨著視頻的體積而增加。

這就對顯存有著很高的要求，一般至少得有12GB，而如果顯存不夠多，生成的視頻就會很短，質量很差，生成的時間也會很長。

FramePack會根據(jù)輸入幀的重要性，對所有輸入幀進行壓縮，改變?yōu)楣潭ǖ纳舷挛拈L度，顯著降低對顯存的需求，而且計算消耗與圖片擴散模型類似。

同時，每一幀畫面生成之后，都會實時顯示，方便即時預覽。

FramePack還可以緩解“漂移”(drifting)現(xiàn)象，也就是視頻長度增加、質量下降的問題，從而在不顯著犧牲質量的同時，生成更長的視頻。

FramePack數(shù)據(jù)格式支持FP16、BF16，顯卡硬件支持RTX 50、RTX 40、RTX 30系列顯卡，除了RTX 3050 4GB幾乎所有的近代顯卡都沒問題。

在RTX 20系列和更老顯卡上尚未經過驗證，也沒有提及AMD、Intel處理器的需求。

操作系統(tǒng)支持Windows、Linux。

性能方面，RTX 4090經過teacache優(yōu)化之后，每秒可以生成大約0.6幀。