火星網(wǎng)校
挑戰(zhàn)GPT-4V！清華唐杰&智譜開源多模態(tài)14邊形戰(zhàn)士
發(fā)布時(shí)間：2023-11-28 14:55:41 瀏覽量：130次
從淺層對(duì)齊到深度融合
夢(mèng)晨 發(fā)自 凹非寺
|
看看這張圖中有幾個(gè)房子？如果你回答3個(gè)，就和GPT-4V的答案一樣。
但是最新開源的國(guó)產(chǎn)多模態(tài)模型CogVLM-17B，就能看出另有玄機(jī)。
甚至能區(qū)分在圖中完整可見的有3個(gè)和部分可見的有1個(gè)。
CogVLM由清華和智譜AI合作開發(fā)，通訊作者為唐杰和丁銘，論文和開源代碼已上傳到GitHub。
除這個(gè)單獨(dú)案例之外，CogVLM-17B還在10項(xiàng)權(quán)威跨模態(tài)基準(zhǔn)上取得了SOTA性能。
另外在VQAv2, OKVQA, TextVQA, COCO captioning取得第二，超越或匹配谷歌的PaLI-X 55B。
與之前的開源多模態(tài)大模型相比，可以算是14邊形戰(zhàn)士。
雷達(dá)圖中包含13個(gè)基準(zhǔn)，最后一個(gè)TDIUC單獨(dú)展現(xiàn)。
CogVLM可以回答各種類型的視覺問題，比如從馬斯克的陰陽(yáng)怪氣中推理出小扎假裝去旅行了，回避約架。
認(rèn)出照片中的C羅，并回答他在2018年世界杯中有多少進(jìn)球。
帶圖的編程題也能給出代碼了。
甚至能完成復(fù)雜的目標(biāo)檢測(cè)，并打上標(biāo)簽，自動(dòng)數(shù)據(jù)標(biāo)注成了。
從淺層對(duì)齊到深度融合
CogVLM模型包含4個(gè)基本組件
- ViT編碼器
- MLP適配器
- 大型預(yù)訓(xùn)練語(yǔ)言模型
- 視覺專家模塊
其中，每層中都添加了可訓(xùn)練的視覺專家模塊，以實(shí)現(xiàn)圖像特征和文本特征的深度對(duì)齊，而不會(huì)犧牲任何NLP任務(wù)的性能。
之前主流的淺層對(duì)齊方法，如BLIP-2，圖像特征和語(yǔ)言模型之間缺乏深度融合,導(dǎo)致性能不佳。
但微調(diào)語(yǔ)言模型的全部參數(shù)又會(huì)損害其NLP能力。
CogVLM的方法可以說是改變了視覺語(yǔ)言模型的訓(xùn)練范式，從淺層對(duì)齊轉(zhuǎn)向深度融合。
另外值得注意的是，CogVLM訓(xùn)練數(shù)據(jù)中沒有專門的OCR數(shù)據(jù)，但表現(xiàn)出了很強(qiáng)的文字識(shí)別能力。
CogVLM開源并給出了在線試玩。
不過目前僅支持英文，后續(xù)會(huì)提供中英雙語(yǔ)版本支持，可以持續(xù)關(guān)注。
試玩地址：
http://36.103.203.44:7861
開源及論文地址：
https://github.com/THUDM/CogVLM
— 完 —
QbitAI · 頭條號(hào)簽約
關(guān)注我們，第一時(shí)間獲知前沿科技動(dòng)態(tài)
熱門課程推薦
熱門資訊
-
1. 照片變漫畫效果，這4個(gè)方法操作簡(jiǎn)單有效，快來試試吧！
想將照片變成漫畫效果？這篇文章分享了4個(gè)方法，包括Photoshop、聰明靈犀、VanceAI Toongineer、醒圖，簡(jiǎn)單操作就能實(shí)現(xiàn)，快來嘗試一下吧！
-
2. 華為手機(jī)神奇“AI修圖”功能，一鍵消除衣服！原圖變身大V領(lǐng)深V！
最近華為手機(jī)Pura70推出的“AI修圖”功能引發(fā)熱議，通過簡(jiǎn)單操作可以讓照片中的人物換裝。想了解更多這款神奇功能的使用方法嗎？點(diǎn)擊查看！
-
近年來,人工智能逐漸走入公眾視野,其中的AI圖像生成技術(shù)尤為引人注目。只需在特定軟件中輸入關(guān)鍵詞描述語(yǔ)以及上傳參考圖就能智能高效生成符合要求的...
-
4. AI視頻制作神器Viggle：讓靜態(tài)人物動(dòng)起來，創(chuàng)意無限！
Viggle AI是一款免費(fèi)制作視頻的AI工具，能讓靜態(tài)人物圖片動(dòng)起來，快來了解Viggle AI的功能和優(yōu)勢(shì)吧！
-
5. Logo Diffusion——基于sd繪畫模型的AI LOGO 生成器
這下LOGO設(shè)計(jì)徹底不用求人了。接下來詳細(xì)演示一遍操作流程首先進(jìn)入Logo D... 想學(xué)習(xí)更多AI技能,比如說關(guān)于怎么樣利用AI來提高生產(chǎn)效率、還能做什么AI...
-
6. 零基礎(chǔ)10分鐘生成漫畫，教大家如何用AI生成自己的漫畫
接下來,我將親自引導(dǎo)你,使用AI工具,創(chuàng)作一本既有趣又能帶來盈利的漫畫。我們將一起探索如何利用這個(gè)工具,發(fā)揮你的創(chuàng)意,制作出令人驚嘆的漫畫作品。讓...
-
7. 趕緊收藏好!這4個(gè)完全免費(fèi)的AI視頻制作網(wǎng)站和工具
以下是一些免費(fèi)的AI視頻制作網(wǎng)站或工具,幫助您制作各種類型的視頻。 1. Lumen5:Lumen5是一個(gè)基于AI的視頻制作工具,可將文本轉(zhuǎn)換為視頻。 用戶可以使...
-
8. AI顯卡繪畫排行榜:4090無懸念，最具性價(jià)比出人意料
在AI繪圖領(lǐng)域，Stable Diffusion的顯卡繪圖性能備受關(guān)注。本文整理了Stable Diffusion顯卡的硬件要求和性能表現(xiàn)，以及2023年3月顯卡AI繪圖效率排行榜和性價(jià)比排行榜。歡迎查看最新的AI顯卡算力排行榜。
-
9. 一款免費(fèi)無限制的AI視頻生成工具火了!國(guó)內(nèi)無障礙訪問!附教程
人人都可以動(dòng)手制作AI視頻! 打開網(wǎng)址https://pixverse.ai/,用郵箱注冊(cè)后,點(diǎn)擊右上角Create,就可以開始創(chuàng)作了。 PixVerse目前有文案生成視頻,和圖片生...
-
就能快速生成一幅極具藝術(shù)效果的作品,讓現(xiàn)實(shí)中不懂繪畫的人也能參與其中創(chuàng)作!真的超贊噠~趣趣分享幾款超厲害的AI繪畫軟件,提供詳細(xì)操作!有需要的快來...
最新文章
