火星網(wǎng)校
意念操縱機(jī)器人成真！李飛飛團(tuán)隊(duì)打造，做家務(wù)玩游戲樣樣能行
發(fā)布時(shí)間：2023-11-10 14:55:40 瀏覽量：116次
網(wǎng)友：阿凡達(dá)照進(jìn)現(xiàn)實(shí)
西風(fēng) 發(fā)自 凹非寺
|
斯坦福李飛飛、吳佳俊帶隊(duì)讓《阿凡達(dá)》意念操控照進(jìn)了現(xiàn)實(shí)！
現(xiàn)在，只需要?jiǎng)觿?dòng)腦子就能操縱機(jī)器人。
想吃壽喜鍋不用自己動(dòng)手，切菜備菜、倒入食材，機(jī)器人一氣呵成：
做飯、烹茶樣樣都行：
忙完還能順便把桌面清理了：
你以為這就完了？這個(gè)機(jī)器人玩起游戲來也是一把好手：
甚至還能幫你熨衣服：
關(guān)鍵是，旁邊的操縱者只需要坐在那里“冥想”即可，無需手搖搖桿。
能做到這些，都要得益于研究團(tuán)隊(duì)最新開發(fā)腦機(jī)接口系統(tǒng)——NOIR。
這是一個(gè)通用的智能系統(tǒng)，使用者無需佩戴侵入性設(shè)備，機(jī)器人可以從腦電信號(hào)中解碼人類意圖。
并且它還配有一個(gè)“技能庫”，可以隨意組合各種技能完成人類指令，輕松應(yīng)對(duì)高達(dá)20項(xiàng)日常任務(wù)。
要知道，常規(guī)腦機(jī)接口系統(tǒng)一般只專注于一項(xiàng)或幾項(xiàng)任務(wù)。
目前這項(xiàng)研究已收錄于機(jī)器人頂會(huì)CoRL 2023：
圍觀網(wǎng)友一口一個(gè)哦買噶：
哦買噶，游戲規(guī)則改變者！
清華叉院助理教授許華哲也來評(píng)論區(qū)捧場(chǎng)：
哦買噶，賽博朋克！
這個(gè)NOIR系統(tǒng)究竟是什么？機(jī)器人為何能完成這么多任務(wù)？
20項(xiàng)任務(wù)輕松拿下
正如上文所說，這個(gè)機(jī)器人能干的事兒多著呢。
干酪撒粉這種任務(wù)也能輕松完成：
拆包裹、整理桌面這種活就更不在話下：
而其背后的這個(gè)NOIR系統(tǒng)，簡(jiǎn)單來說可以分為兩部分：模塊化解碼管線、有原始技能庫的機(jī)器人系統(tǒng)。
主打一個(gè)讓機(jī)器人自動(dòng)學(xué)習(xí)預(yù)測(cè)人類意圖。
具體來說，模塊化管線將解碼人類意圖過程分為三個(gè)模塊：
1）選擇什么對(duì)象？
方法是在屏幕上顯示任務(wù)場(chǎng)景，利用對(duì)象的閃爍刺激產(chǎn)生SSVEP信號(hào)；每個(gè)對(duì)象以不同頻率閃爍，人類注視某對(duì)象時(shí)，腦電信號(hào)中該頻率成分增強(qiáng)。
然后用Canonical Correlation Analysis(CCA)方法，分析不同頻率的相關(guān)性，確定人類注視的對(duì)象。
2）如何交互？
這部分是通過提示人類想象執(zhí)行某些技能(左手、右手等)產(chǎn)生運(yùn)動(dòng)意象信號(hào)，然后使用濾波和Common Spatial Pattern (CSP)算法預(yù)處理信號(hào)。
最后利用Quadratic Discriminant Analysis (QDA)進(jìn)行4類識(shí)別，確定技能選擇。
3）在哪交互？
人類想象控制光標(biāo)的左右運(yùn)動(dòng)來選擇技能執(zhí)行的具體參數(shù)。同樣通過CSP和QDA處理并解碼腦電信號(hào)，判斷人類是左還是右。
研究人員還設(shè)置了安全機(jī)制，采用肌肉緊張信號(hào)來確認(rèn)或拒絕腦電信號(hào)解碼結(jié)果，避免解碼錯(cuò)誤導(dǎo)致的風(fēng)險(xiǎn)。
之后，機(jī)器人配備了一系列參數(shù)化的基本技能，例如Pick（x，y，z）、Place（x，y，z）、Push（x，y，z，d）。
可以組合使用這些技能來完成人類指定的各種任務(wù)。
在這個(gè)過程中，解碼人類意圖既費(fèi)時(shí)又費(fèi)錢。所以研究團(tuán)隊(duì)選擇讓機(jī)器人用基于檢索的少樣本學(xué)習(xí)，來學(xué)習(xí)人類的對(duì)象、技能和參數(shù)選擇。
這樣一來，在給定一個(gè)新的任務(wù)時(shí)，機(jī)器人會(huì)在記憶中找到最相關(guān)的經(jīng)驗(yàn)，并選擇相應(yīng)的技能和對(duì)象。
舉個(gè)例子，假設(shè)人類在執(zhí)行抓取杯子的任務(wù)，選擇了在杯子的某個(gè)特定位置抓取（比如杯子的把手）。機(jī)器人會(huì)記錄下當(dāng)時(shí)的圖像，以及人類選擇的抓取點(diǎn)。
在之后的任務(wù)中，當(dāng)機(jī)器人看到新的杯子圖像時(shí)，它會(huì)首先根據(jù)預(yù)訓(xùn)練模型來分析這個(gè)新圖像，提取圖像的語義特征。
然后計(jì)算新圖像的特征和之前記錄的訓(xùn)練圖像特征之間的相似度，找出最相似的一個(gè)點(diǎn)，作為它預(yù)測(cè)的抓取位置。
通過這種匹配圖像特征的方式，機(jī)器人只需要人類示范一次參數(shù)選擇，就可以在未來自己預(yù)測(cè)參數(shù)，而不需要人類每次都完全重新選擇一遍。
使用NOIR系統(tǒng)，3名人類參與者完成了上面我們所介紹的20項(xiàng)日?；顒?dòng)任務(wù)，其中包括16個(gè)桌面操作任務(wù)和4個(gè)移動(dòng)操作任務(wù)。
在測(cè)試中，每個(gè)任務(wù)平均需要嘗試1.8次就能成功，平均完成時(shí)間為20.3分鐘，這其中主要是人類決策和解碼耗時(shí)，占總耗時(shí)的80%。
實(shí)驗(yàn)各階段的解碼準(zhǔn)確率和其它腦機(jī)接口研究差不多，但使用這種方法可以將對(duì)象和技能選擇時(shí)間降低60%，從45.7秒縮減到18.1秒。
作者簡(jiǎn)介
除了李飛飛教授、吳佳俊教授帶隊(duì)，論文共同一作有四位，分別是：
Ruohan Zhang
Ruohan Zhang是斯坦福視覺與學(xué)習(xí)實(shí)驗(yàn)室（SVL）博士后研究員，同時(shí)也是Wu Tsai Human Performance Alliance研究員。
主要研究方向?yàn)闄C(jī)器人技術(shù)、人機(jī)交互、腦機(jī)接口、認(rèn)知科學(xué)和神經(jīng)科學(xué)。
Sharon Lee
Sharon Lee是斯坦福大學(xué)視覺與學(xué)習(xí)實(shí)驗(yàn)室（SVL）研究生研究員。
Minjune Hwang
Minjune Hwang是斯坦福大學(xué)計(jì)算機(jī)科學(xué)研究生，于加州大學(xué)伯克利分校獲得計(jì)算機(jī)科學(xué)和統(tǒng)計(jì)學(xué)本科學(xué)位，曾在亞馬遜、微軟和蘋果進(jìn)行研究。
Ayano Hiranaka
斯坦福大學(xué)研究生，本科畢業(yè)于伊利諾伊大學(xué)香檳分校。
論文鏈接：https://arxiv.org/abs/2311.0145
參考鏈接：
[1]https://twitter.com/drjimfan/status/1722674119794434187
[2]https://twitter.com/ruohanzhang76/status/1720525179028406492
熱門課程推薦
熱門資訊
-
1. 照片變漫畫效果，這4個(gè)方法操作簡(jiǎn)單有效，快來試試吧！
想將照片變成漫畫效果？這篇文章分享了4個(gè)方法，包括Photoshop、聰明靈犀、VanceAI Toongineer、醒圖，簡(jiǎn)單操作就能實(shí)現(xiàn)，快來嘗試一下吧！
-
2. 華為手機(jī)神奇“AI修圖”功能，一鍵消除衣服！原圖變身大V領(lǐng)深V！
最近華為手機(jī)Pura70推出的“AI修圖”功能引發(fā)熱議，通過簡(jiǎn)單操作可以讓照片中的人物換裝。想了解更多這款神奇功能的使用方法嗎？點(diǎn)擊查看！
-
近年來,人工智能逐漸走入公眾視野,其中的AI圖像生成技術(shù)尤為引人注目。只需在特定軟件中輸入關(guān)鍵詞描述語以及上傳參考圖就能智能高效生成符合要求的...
-
4. AI視頻制作神器Viggle：讓靜態(tài)人物動(dòng)起來，創(chuàng)意無限！
Viggle AI是一款免費(fèi)制作視頻的AI工具，能讓靜態(tài)人物圖片動(dòng)起來，快來了解Viggle AI的功能和優(yōu)勢(shì)吧！
-
5. Logo Diffusion——基于sd繪畫模型的AI LOGO 生成器
這下LOGO設(shè)計(jì)徹底不用求人了。接下來詳細(xì)演示一遍操作流程首先進(jìn)入Logo D... 想學(xué)習(xí)更多AI技能,比如說關(guān)于怎么樣利用AI來提高生產(chǎn)效率、還能做什么AI...
-
6. 零基礎(chǔ)10分鐘生成漫畫，教大家如何用AI生成自己的漫畫
接下來,我將親自引導(dǎo)你,使用AI工具,創(chuàng)作一本既有趣又能帶來盈利的漫畫。我們將一起探索如何利用這個(gè)工具,發(fā)揮你的創(chuàng)意,制作出令人驚嘆的漫畫作品。讓...
-
7. 趕緊收藏好!這4個(gè)完全免費(fèi)的AI視頻制作網(wǎng)站和工具
以下是一些免費(fèi)的AI視頻制作網(wǎng)站或工具,幫助您制作各種類型的視頻。 1. Lumen5:Lumen5是一個(gè)基于AI的視頻制作工具,可將文本轉(zhuǎn)換為視頻。 用戶可以使...
-
8. AI顯卡繪畫排行榜:4090無懸念，最具性價(jià)比出人意料
在AI繪圖領(lǐng)域，Stable Diffusion的顯卡繪圖性能備受關(guān)注。本文整理了Stable Diffusion顯卡的硬件要求和性能表現(xiàn)，以及2023年3月顯卡AI繪圖效率排行榜和性價(jià)比排行榜。歡迎查看最新的AI顯卡算力排行榜。
-
9. 一款免費(fèi)無限制的AI視頻生成工具火了!國內(nèi)無障礙訪問!附教程
人人都可以動(dòng)手制作AI視頻! 打開網(wǎng)址https://pixverse.ai/,用郵箱注冊(cè)后,點(diǎn)擊右上角Create,就可以開始創(chuàng)作了。 PixVerse目前有文案生成視頻,和圖片生...
-
就能快速生成一幅極具藝術(shù)效果的作品,讓現(xiàn)實(shí)中不懂繪畫的人也能參與其中創(chuàng)作!真的超贊噠~趣趣分享幾款超厲害的AI繪畫軟件,提供詳細(xì)操作!有需要的快來...
最新文章
