火星網(wǎng)校
大語(yǔ)言模型擊敗擴(kuò)散模型！視頻圖像生成雙SOTA
發(fā)布時(shí)間：2023-11-28 14:54:39 瀏覽量：131次
業(yè)內(nèi)首次證據(jù)證明
白交 發(fā)自 凹非寺
|
語(yǔ)言模型擊敗擴(kuò)散模型，在視頻和圖像生成上實(shí)現(xiàn)雙SOTA！
這是來(lái)自谷歌CMU最新研究成果。
據(jù)介紹，這是語(yǔ)言模型第一次在標(biāo)志性的ImageNet基準(zhǔn)上擊敗擴(kuò)散模型。
而背后的關(guān)鍵組件在于視覺分詞器（video tokenizer） ，它能將像素空間輸入映射為適合LLM學(xué)習(xí)的token。
谷歌CMU研究團(tuán)隊(duì)提出了MAGVIT-v2，在另外兩項(xiàng)任務(wù)中超越了之前最優(yōu)視覺分詞器。
大語(yǔ)言模型擊敗擴(kuò)散模型
已經(jīng)形成共識(shí)的是，大語(yǔ)言模型在各個(gè)生成領(lǐng)域都有出色的表現(xiàn)。比如文本、音頻、代碼生成等。
但一直以來(lái)在視覺生成方面，語(yǔ)言模型卻落后于擴(kuò)散模型。
團(tuán)隊(duì)認(rèn)為，其主要原因在于缺乏一個(gè)好的視覺表示，類似于自研語(yǔ)言系統(tǒng)，能有效地對(duì)視覺世界進(jìn)行建模。與自然語(yǔ)言不同，人類會(huì)對(duì)視覺世界尚未演化出最佳的詞匯。而這也限制了大語(yǔ)言模型的視覺生成能力。
基于這樣的判斷，這篇研究主要完成了三項(xiàng)工作：
- 提出一種新的視覺tokenizer，在視覺生成、視頻壓縮以及動(dòng)作識(shí)別都優(yōu)于此前最優(yōu)表現(xiàn)。
- 一種全新無(wú)查找（lookup-free）的量化方法，可通過(guò)學(xué)習(xí)大量詞匯來(lái)提高語(yǔ)言模型的視覺生成質(zhì)量；
- 首次有證據(jù)表明，在相同訓(xùn)練數(shù)據(jù)、等效模型大小和類似訓(xùn)練預(yù)算的條件下，語(yǔ)言模型在ImageNet上擊敗擴(kuò)散模型。
據(jù)作者介紹，這也是視覺分詞器首次成功地實(shí)現(xiàn)了與標(biāo)準(zhǔn)編解碼器相媲美的效果。
在原有SOTA視覺tokenizerMAGVIT?（Masked Generative Video Transformer）基礎(chǔ)上，該方法主要完成了兩種設(shè)計(jì)：無(wú)查找量化（Lookup-Free Quantization ，LFQ）以及圖像-視頻聯(lián)合tokenizer。
最終在視頻/圖像生成，ImageNet 512×512和Kinetics-600，都優(yōu)于Diffusion Model。
而在視頻壓縮、動(dòng)作識(shí)別上，也優(yōu)于以往的結(jié)果。
一作是北大校友
一作于力軍目前是CMU計(jì)算機(jī)科學(xué)學(xué)院語(yǔ)言技術(shù)研究所博士生，師從Alexander G. Hauptmann教授，同時(shí)也是谷歌學(xué)生研究員。研究興趣在于多模態(tài)基礎(chǔ)模型，特別是多任務(wù)視頻生成。
在來(lái)到CMU前，他在北大獲得了計(jì)算機(jī)和經(jīng)濟(jì)學(xué)雙學(xué)士學(xué)位。
在研究團(tuán)隊(duì)中也看到了其他不少華人面孔。
通訊作者蔣路，目前是谷歌研究院科學(xué)家以及CMU的兼職教授。
他的研究主要針對(duì)多模態(tài)大數(shù)據(jù)科領(lǐng)域，特別是魯棒深度學(xué)習(xí)、生成式人工智能和多模態(tài)基礎(chǔ)模型。
論文鏈接：
https://arxiv.org/abs/2310.05737
https://magvit.cs.cmu.edu/v2/
熱門課程推薦
熱門資訊
-
1. 照片變漫畫效果，這4個(gè)方法操作簡(jiǎn)單有效，快來(lái)試試吧！
想將照片變成漫畫效果？這篇文章分享了4個(gè)方法，包括Photoshop、聰明靈犀、VanceAI Toongineer、醒圖，簡(jiǎn)單操作就能實(shí)現(xiàn)，快來(lái)嘗試一下吧！
-
2. 華為手機(jī)神奇“AI修圖”功能，一鍵消除衣服！原圖變身大V領(lǐng)深V！
最近華為手機(jī)Pura70推出的“AI修圖”功能引發(fā)熱議，通過(guò)簡(jiǎn)單操作可以讓照片中的人物換裝。想了解更多這款神奇功能的使用方法嗎？點(diǎn)擊查看！
-
3. 四款值得推薦的AI以圖生圖軟件，有需要的趕緊來(lái)試試!
近年來(lái),人工智能逐漸走入公眾視野,其中的AI圖像生成技術(shù)尤為引人注目。只需在特定軟件中輸入關(guān)鍵詞描述語(yǔ)以及上傳參考圖就能智能高效生成符合要求的...
-
4. AI視頻制作神器Viggle：讓靜態(tài)人物動(dòng)起來(lái)，創(chuàng)意無(wú)限！
Viggle AI是一款免費(fèi)制作視頻的AI工具，能讓靜態(tài)人物圖片動(dòng)起來(lái)，快來(lái)了解Viggle AI的功能和優(yōu)勢(shì)吧！
-
5. Logo Diffusion——基于sd繪畫模型的AI LOGO 生成器
這下LOGO設(shè)計(jì)徹底不用求人了。接下來(lái)詳細(xì)演示一遍操作流程首先進(jìn)入Logo D... 想學(xué)習(xí)更多AI技能,比如說(shuō)關(guān)于怎么樣利用AI來(lái)提高生產(chǎn)效率、還能做什么AI...
-
6. 零基礎(chǔ)10分鐘生成漫畫，教大家如何用AI生成自己的漫畫
接下來(lái),我將親自引導(dǎo)你,使用AI工具,創(chuàng)作一本既有趣又能帶來(lái)盈利的漫畫。我們將一起探索如何利用這個(gè)工具,發(fā)揮你的創(chuàng)意,制作出令人驚嘆的漫畫作品。讓...
-
7. 趕緊收藏好!這4個(gè)完全免費(fèi)的AI視頻制作網(wǎng)站和工具
以下是一些免費(fèi)的AI視頻制作網(wǎng)站或工具,幫助您制作各種類型的視頻。 1. Lumen5:Lumen5是一個(gè)基于AI的視頻制作工具,可將文本轉(zhuǎn)換為視頻。 用戶可以使...
-
8. AI顯卡繪畫排行榜:4090無(wú)懸念，最具性價(jià)比出人意料
在AI繪圖領(lǐng)域，Stable Diffusion的顯卡繪圖性能備受關(guān)注。本文整理了Stable Diffusion顯卡的硬件要求和性能表現(xiàn)，以及2023年3月顯卡AI繪圖效率排行榜和性價(jià)比排行榜。歡迎查看最新的AI顯卡算力排行榜。
-
9. 一款免費(fèi)無(wú)限制的AI視頻生成工具火了!國(guó)內(nèi)無(wú)障礙訪問(wèn)!附教程
人人都可以動(dòng)手制作AI視頻! 打開網(wǎng)址https://pixverse.ai/,用郵箱注冊(cè)后,點(diǎn)擊右上角Create,就可以開始創(chuàng)作了。 PixVerse目前有文案生成視頻,和圖片生...
-
就能快速生成一幅極具藝術(shù)效果的作品,讓現(xiàn)實(shí)中不懂繪畫的人也能參與其中創(chuàng)作!真的超贊噠~趣趣分享幾款超厲害的AI繪畫軟件,提供詳細(xì)操作!有需要的快來(lái)...
最新文章
