火星網(wǎng)校
“大大震驚”一位CTO：GPT-4V自動(dòng)駕駛五連測(cè)
發(fā)布時(shí)間：2023-11-28 14:54:42 瀏覽量：111次
“語(yǔ)義相關(guān)問(wèn)題已經(jīng)解決得很好”
編者按：
GPT-4V的到來(lái)，給AI又帶來(lái)了無(wú)限可能。近日，圖森未來(lái)CTO王乃巖在知乎發(fā)表的《GPT-4V在自動(dòng)駕駛中初探》引發(fā)了不少關(guān)注。在多項(xiàng)測(cè)試之后，他本人表示“大大震驚了我們”。那么具體效果如何？我們一同來(lái)看下。
注：本文經(jīng)授權(quán)轉(zhuǎn)載。
萬(wàn)眾矚目之下，今天GPT4終于推送了vision相關(guān)的功能。
今天下午抓緊和小伙伴一起測(cè)試了一下GPT對(duì)于圖像感知的能力，雖有預(yù)期，但是還是大大震驚了我們。
核心觀點(diǎn)：
我認(rèn)為自動(dòng)駕駛中和語(yǔ)義相關(guān)的問(wèn)題應(yīng)該大模型都已經(jīng)解決得很好了，但是大模型的可信性和空間感知能力方面仍然不盡如人意。
解決一些所謂和效率相關(guān)的corner case應(yīng)該是綽綽有余，但是想完全依賴大模型去獨(dú)立完成駕駛保證安全性仍然十分遙遠(yuǎn)。
Example1: 路上出現(xiàn)了一些未知障礙物
△GPT4的描述準(zhǔn)確的部分：檢測(cè)到了3輛卡車，前車車牌號(hào)基本正確（有漢字就忽略吧），天氣和環(huán)境正確，在沒(méi)有提示的情況下準(zhǔn)確識(shí)別到了前方的未知障礙物。
不準(zhǔn)確的部分：第三輛卡車的位置左右不分，第二輛卡車頭頂?shù)奈淖窒共铝艘粋€(gè)（因?yàn)榉直媛什蛔悖浚?/p>
這還不夠，我們繼續(xù)給一點(diǎn)提示，去問(wèn)這個(gè)物體是什么，是不是可以壓過(guò)去。
Impressive！類似的場(chǎng)景測(cè)試了多個(gè)，對(duì)于未知障礙物的表現(xiàn)可以說(shuō)非常驚人了。
Example2: 路面積水的理解
沒(méi)有提示能自動(dòng)識(shí)別到標(biāo)牌這個(gè)應(yīng)該是基操了，我們繼續(xù)給一些hint。
再次被震驚了。。。能自動(dòng)講出來(lái)卡車背后的霧氣，也主動(dòng)提到了水坑，但是再一次把方向說(shuō)成了左側(cè)。。。感覺(jué)這里可能需要一些prompt engineering能更好的讓GPT輸出位置和方向。
Example3：有車輛掉頭時(shí)直接撞上了護(hù)欄
第一幀輸入進(jìn)去，因?yàn)闆](méi)有時(shí)序信息，只是將右側(cè)的卡車當(dāng)做是?？康牧恕Ｓ谑窃賮?lái)一幀：
已經(jīng)可以自動(dòng)講出，這輛撞破了護(hù)欄，懸停在公路邊緣，太棒了。。。但是反而看上去更容易的道路標(biāo)志出現(xiàn)了錯(cuò)誤。。。只能說(shuō)，這很大模型了，它永遠(yuǎn)能震驚你也永遠(yuǎn)不知道什么時(shí)候能蠢哭你。。。再來(lái)一幀：
這次，直接講到了路面上的碎片，再次贊嘆。。。只不過(guò)有一次把路上的箭頭說(shuō)錯(cuò)了。。?？傮w而言，這個(gè)場(chǎng)景中需要特別關(guān)注的信息都有覆蓋，道路標(biāo)志這種問(wèn)題，瑕不掩瑜吧。
Example4: 來(lái)一個(gè)搞笑的
只能說(shuō)非常到位了，相比之下之前看上去無(wú)比困難的“有個(gè)人沖著你揮了揮手”這樣的case就像小兒科一樣，語(yǔ)義上的corner case可解。
Example5 來(lái)一個(gè)名場(chǎng)面。。。配送車誤入新修路
開(kāi)始比較保守，并沒(méi)有直接猜測(cè)原因，給了多種猜測(cè)，這個(gè)也倒是符合alignment的目標(biāo)。
使用CoT之后問(wèn)題發(fā)現(xiàn)問(wèn)題是在于并不了解這輛車是個(gè)自動(dòng)駕駛車輛，故通過(guò)prompt給出這個(gè)信息能給出比較準(zhǔn)確的信息。
最后通過(guò)一堆prompt，能夠輸出新鋪設(shè)瀝青，不適合駕駛這樣的結(jié)論。最終結(jié)果來(lái)說(shuō)還是OK，但是過(guò)程比較曲折，需要比較多的prompt engineering，要好好設(shè)計(jì)。
這個(gè)原因可能也是因?yàn)椴皇堑谝灰暯堑膱D片，只能通過(guò)第三視角去推測(cè)。所以這個(gè)例子并不十分精確。
總結(jié)
快速的一些嘗試已經(jīng)完全證明了GPT4V的強(qiáng)大與泛化性能，適當(dāng)?shù)膒rompt應(yīng)當(dāng)可以完全發(fā)揮出GPT4V的實(shí)力。
解決語(yǔ)義上的corner case應(yīng)該非常可期，但幻覺(jué)的問(wèn)題會(huì)仍然困擾著一些和安全相關(guān)場(chǎng)景中的應(yīng)用。
非常exciting，個(gè)人認(rèn)為合理使用這樣的大模型可以大大加快L4乃至L5自動(dòng)駕駛的發(fā)展，然而是否LLM一定是要直接開(kāi)車？尤其是端到端開(kāi)車，仍然是一個(gè)值得商榷的問(wèn)題。
參考鏈接：
https://zhuanlan.zhihu.com/p/660940512
熱門課程推薦
熱門資訊
-
1. 照片變漫畫效果，這4個(gè)方法操作簡(jiǎn)單有效，快來(lái)試試吧！
想將照片變成漫畫效果？這篇文章分享了4個(gè)方法，包括Photoshop、聰明靈犀、VanceAI Toongineer、醒圖，簡(jiǎn)單操作就能實(shí)現(xiàn)，快來(lái)嘗試一下吧！
-
2. 華為手機(jī)神奇“AI修圖”功能，一鍵消除衣服！原圖變身大V領(lǐng)深V！
最近華為手機(jī)Pura70推出的“AI修圖”功能引發(fā)熱議，通過(guò)簡(jiǎn)單操作可以讓照片中的人物換裝。想了解更多這款神奇功能的使用方法嗎？點(diǎn)擊查看！
-
3. 四款值得推薦的AI以圖生圖軟件，有需要的趕緊來(lái)試試!
近年來(lái),人工智能逐漸走入公眾視野,其中的AI圖像生成技術(shù)尤為引人注目。只需在特定軟件中輸入關(guān)鍵詞描述語(yǔ)以及上傳參考圖就能智能高效生成符合要求的...
-
4. AI視頻制作神器Viggle：讓靜態(tài)人物動(dòng)起來(lái)，創(chuàng)意無(wú)限！
Viggle AI是一款免費(fèi)制作視頻的AI工具，能讓靜態(tài)人物圖片動(dòng)起來(lái)，快來(lái)了解Viggle AI的功能和優(yōu)勢(shì)吧！
-
5. Logo Diffusion——基于sd繪畫模型的AI LOGO 生成器
這下LOGO設(shè)計(jì)徹底不用求人了。接下來(lái)詳細(xì)演示一遍操作流程首先進(jìn)入Logo D... 想學(xué)習(xí)更多AI技能,比如說(shuō)關(guān)于怎么樣利用AI來(lái)提高生產(chǎn)效率、還能做什么AI...
-
6. 零基礎(chǔ)10分鐘生成漫畫，教大家如何用AI生成自己的漫畫
接下來(lái),我將親自引導(dǎo)你,使用AI工具,創(chuàng)作一本既有趣又能帶來(lái)盈利的漫畫。我們將一起探索如何利用這個(gè)工具,發(fā)揮你的創(chuàng)意,制作出令人驚嘆的漫畫作品。讓...
-
7. 趕緊收藏好!這4個(gè)完全免費(fèi)的AI視頻制作網(wǎng)站和工具
以下是一些免費(fèi)的AI視頻制作網(wǎng)站或工具,幫助您制作各種類型的視頻。 1. Lumen5:Lumen5是一個(gè)基于AI的視頻制作工具,可將文本轉(zhuǎn)換為視頻。 用戶可以使...
-
8. AI顯卡繪畫排行榜:4090無(wú)懸念，最具性價(jià)比出人意料
在AI繪圖領(lǐng)域，Stable Diffusion的顯卡繪圖性能備受關(guān)注。本文整理了Stable Diffusion顯卡的硬件要求和性能表現(xiàn)，以及2023年3月顯卡AI繪圖效率排行榜和性價(jià)比排行榜。歡迎查看最新的AI顯卡算力排行榜。
-
9. 一款免費(fèi)無(wú)限制的AI視頻生成工具火了!國(guó)內(nèi)無(wú)障礙訪問(wèn)!附教程
人人都可以動(dòng)手制作AI視頻! 打開(kāi)網(wǎng)址https://pixverse.ai/,用郵箱注冊(cè)后,點(diǎn)擊右上角Create,就可以開(kāi)始創(chuàng)作了。 PixVerse目前有文案生成視頻,和圖片生...
-
就能快速生成一幅極具藝術(shù)效果的作品,讓現(xiàn)實(shí)中不懂繪畫的人也能參與其中創(chuàng)作!真的超贊噠~趣趣分享幾款超厲害的AI繪畫軟件,提供詳細(xì)操作!有需要的快來(lái)...
最新文章
