發(fā)布時(shí)間:2024-08-19 11:29:11 瀏覽量:233次
機(jī)器之心報(bào)道
編輯:澤南、小舟
英偉達(dá)進(jìn)入AI生成模型領(lǐng)域的研究,直接比別人多一個(gè)次元:一句描述生成3D模型。
我們生活在三維的世界里,盡管目前大多數(shù)應(yīng)用程序是2D的,但人們一直對(duì)3D數(shù)字內(nèi)容有很高的需求,包括游戲、娛樂、建筑和機(jī)器人模擬等應(yīng)用。
然而,創(chuàng)建專業(yè)的3D內(nèi)容需要很高的藝術(shù)與審美素養(yǎng)和大量3D建模專業(yè)知識(shí)。人工完成這項(xiàng)工作需要花費(fèi)大量時(shí)間和精力來培養(yǎng)這些技能。
需求大又是「勞動(dòng)密集型行業(yè)」,那么有沒有可能交給AI來做?上周五,英偉達(dá)提交到預(yù)印版論文平臺(tái)arXiv的論文引起了人們的關(guān)注。
和現(xiàn)在流行的NovelAI差不多,人們只需要輸入一段文字比如「一只坐在睡蓮上的藍(lán)色箭毒蛙」,AI就能給你生成個(gè)紋理造型俱全的3D模型出來。
Magic3D還可以執(zhí)行基于提示的3D網(wǎng)格編輯:給定低分辨率3D模型和基本提示,可以更改文本從而修改生成的模型內(nèi)容。此外,作者還展示了保持畫風(fēng),以及將2D圖像樣式應(yīng)用于3D模型的能力。
Stable Diffusion的論文在2024年首次提交,幾個(gè)月就已經(jīng)進(jìn)化到這樣的程度,不禁讓人感嘆科技發(fā)展的速度。
英偉達(dá)表示,你只需要在這個(gè)基礎(chǔ)上稍作修改,生成的模型就可以當(dāng)做游戲或CGI藝術(shù)場(chǎng)景的素材了。
3D生成模型的方向并不神秘,其實(shí)在2024年谷歌曾經(jīng)發(fā)布過一款文本到3D的生成模型DreamFusion,英偉達(dá)在Magic3D的研究中直接對(duì)標(biāo)該方法。
類似于DreamFusion用文本生成2D圖像,再將其優(yōu)化為體積NeRF(神經(jīng)輻射場(chǎng))數(shù)據(jù)的流程,Magic3D使用兩階段生成法,用低分辨率生成的粗略模型再優(yōu)化到更高的分辨率。
英偉達(dá)的方法首先使用低分辨率擴(kuò)散先驗(yàn)獲得粗糙模型,并使用稀疏3D哈希網(wǎng)格結(jié)構(gòu)進(jìn)行加速。用粗略表示作為初始,再進(jìn)一步優(yōu)化了帶紋理的3D網(wǎng)格模型,該模型具有與高分辨率潛在擴(kuò)散模型交互的高效可微分渲染器。
Magic3D可以在40分鐘內(nèi)創(chuàng)建高質(zhì)量的3D網(wǎng)格模型,比DreamFusion快2倍(后者平均需要1.5小時(shí)),同時(shí)還實(shí)現(xiàn)了更高的分辨率。統(tǒng)計(jì)表明相比DreamFusion,61.7%的人更喜歡英偉達(dá)的新方法。
連同圖像調(diào)節(jié)生成功能,新技術(shù)為各種創(chuàng)意應(yīng)用開辟了新途徑。
論文鏈接:點(diǎn)擊咨詢
技術(shù)細(xì)節(jié)
Magic3D可以在較短的計(jì)算時(shí)間內(nèi)根據(jù)文本prompt合成高度詳細(xì)的3D模型。Magic3D通過改進(jìn)DreamFusion中的幾個(gè)主要設(shè)計(jì)選擇來使用文本prompt合成高質(zhì)量的3D內(nèi)容。
具體來說,Magic3D是一種從粗到精的優(yōu)化方法,其中使用不同分辨率下的多個(gè)擴(kuò)散先驗(yàn)來優(yōu)化3D表征,從而生成視圖一致的幾何形狀以及高分辨率細(xì)節(jié)。Magic3D使用監(jiān)督方法合成8倍高分辨率的3D內(nèi)容,速度也比DreamFusion快2倍。
Magic3D的整個(gè)工作流程分為兩個(gè)階段:在第一階段,該研究?jī)?yōu)化了類似于DreamFusion的粗略神經(jīng)場(chǎng)表征,以實(shí)現(xiàn)具有基于哈希網(wǎng)格的內(nèi)存和計(jì)算的高效場(chǎng)景表征。
在第二階段該方法切換到優(yōu)化網(wǎng)格表征。這個(gè)步驟很關(guān)鍵,它允許該方法在高達(dá)512×512的分辨率下利用擴(kuò)散先驗(yàn)。由于3D網(wǎng)格適用于快速圖形渲染,可以實(shí)時(shí)渲染高分辨率圖像,因此該研究利用基于光柵化的高效微分渲染器和相機(jī)特寫來恢復(fù)幾何紋理中的高頻細(xì)節(jié)。
基于上述兩個(gè)階段,該方法可以生成高保真的3D內(nèi)容,并且很容易在標(biāo)準(zhǔn)圖形軟件中導(dǎo)入和可視化。
此外,該研究展示了用文本prompt對(duì)3D合成過程的創(chuàng)造性控制能力,如下圖1所示。
為了對(duì)比實(shí)際應(yīng)用效果,英偉達(dá)的研究人員把Magic3D和DreamFusion在397個(gè)文本提示生成的內(nèi)容上進(jìn)行了比較。平均的粗略模型生成階段花費(fèi)15分鐘,精細(xì)階段訓(xùn)練了25分鐘,所有運(yùn)行時(shí)間均在8塊英偉達(dá)A100 GPU上測(cè)得。
雖然論文和demo只是第一步,但英偉達(dá)已經(jīng)為Magic3D想好了未來的應(yīng)用方向:給游戲和元宇宙世界提供制作海量3D模型的工具,而且讓所有人都可以上手使用。
當(dāng)然,最早上線這項(xiàng)功能的可能會(huì)是英偉達(dá)自己的Omniverse。
參考內(nèi)容:點(diǎn)擊咨詢
火星時(shí)代教育一直致力于數(shù)字藝術(shù)教育,提供游戲設(shè)計(jì)培訓(xùn)、動(dòng)畫培訓(xùn)、原畫培訓(xùn)、AI繪畫培訓(xùn)等課程。想要了解更多信息,歡迎點(diǎn)擊咨詢。
熱門資訊
1. 照片變漫畫效果,這4個(gè)方法操作簡(jiǎn)單有效,快來試試吧!
想將照片變成漫畫效果?這篇文章分享了4個(gè)方法,包括Photoshop、聰明靈犀、VanceAI Toongineer、醒圖,簡(jiǎn)單操作就能實(shí)現(xiàn),快來嘗試一下吧!
2. 華為手機(jī)神奇“AI修圖”功能,一鍵消除衣服!原圖變身大V領(lǐng)深V!
最近華為手機(jī)Pura70推出的“AI修圖”功能引發(fā)熱議,通過簡(jiǎn)單操作可以讓照片中的人物換裝。想了解更多這款神奇功能的使用方法嗎?點(diǎn)擊查看!
近年來,人工智能逐漸走入公眾視野,其中的AI圖像生成技術(shù)尤為引人注目。只需在特定軟件中輸入關(guān)鍵詞描述語(yǔ)以及上傳參考圖就能智能高效生成符合要求的...
4. AI視頻制作神器Viggle:讓靜態(tài)人物動(dòng)起來,創(chuàng)意無限!
Viggle AI是一款免費(fèi)制作視頻的AI工具,能讓靜態(tài)人物圖片動(dòng)起來,快來了解Viggle AI的功能和優(yōu)勢(shì)吧!
5. Logo Diffusion——基于sd繪畫模型的AI LOGO 生成器
這下LOGO設(shè)計(jì)徹底不用求人了。接下來詳細(xì)演示一遍操作流程首先進(jìn)入Logo D... 想學(xué)習(xí)更多AI技能,比如說關(guān)于怎么樣利用AI來提高生產(chǎn)效率、還能做什么AI...
6. 零基礎(chǔ)10分鐘生成漫畫,教大家如何用AI生成自己的漫畫
接下來,我將親自引導(dǎo)你,使用AI工具,創(chuàng)作一本既有趣又能帶來盈利的漫畫。我們將一起探索如何利用這個(gè)工具,發(fā)揮你的創(chuàng)意,制作出令人驚嘆的漫畫作品。讓...
7. 趕緊收藏好!這4個(gè)完全免費(fèi)的AI視頻制作網(wǎng)站和工具
以下是一些免費(fèi)的AI視頻制作網(wǎng)站或工具,幫助您制作各種類型的視頻。 1. Lumen5:Lumen5是一個(gè)基于AI的視頻制作工具,可將文本轉(zhuǎn)換為視頻。 用戶可以使...
8. AI顯卡繪畫排行榜:4090無懸念,最具性價(jià)比出人意料
在AI繪圖領(lǐng)域,Stable Diffusion的顯卡繪圖性能備受關(guān)注。本文整理了Stable Diffusion顯卡的硬件要求和性能表現(xiàn),以及2023年3月顯卡AI繪圖效率排行榜和性價(jià)比排行榜。歡迎查看最新的AI顯卡算力排行榜。
9. 一款免費(fèi)無限制的AI視頻生成工具火了!國(guó)內(nèi)無障礙訪問!附教程
人人都可以動(dòng)手制作AI視頻! 打開網(wǎng)址https://pixverse.ai/,用郵箱注冊(cè)后,點(diǎn)擊右上角Create,就可以開始創(chuàng)作了。 PixVerse目前有文案生成視頻,和圖片生...
就能快速生成一幅極具藝術(shù)效果的作品,讓現(xiàn)實(shí)中不懂繪畫的人也能參與其中創(chuàng)作!真的超贊噠~趣趣分享幾款超厲害的AI繪畫軟件,提供詳細(xì)操作!有需要的快來...
最新文章
同學(xué)您好!