火星網校
Nature：大模型只會搞角色扮演，并不真正具有自我意識
發(fā)布時間：2023-11-19 02:31:18 瀏覽量：108次
馬庫斯LeCun紛紛轉發(fā)
蕭簫 發(fā)自 凹非寺
|
大模型正變得越來越“像人”，但事實真是如此嗎？
現(xiàn)在，一篇發(fā)表Nature上的文章，直接否決了這個觀點——所有大模型，都不過是在玩角色扮演而已！
無論是GPT-4、PaLM、Llama 2還是其他大模型，在人前表現(xiàn)得彬彬有禮、知書達理的樣子，其實都只是裝出來的。
事實上，他們并不具有人類的情感，也沒什么像人的地方。
這篇觀點性的文章來自谷歌DeepMind和Eleuther AI，發(fā)出后引起了不少業(yè)內人士的共鳴，LeCun轉發(fā)表示，大模型就是個角色扮演引擎。
馬庫斯也來圍觀：
看我說什么吧，大模型并不是AGI（當然這并不意味著它們不需要監(jiān)管）。
那么，這篇文章究竟說了什么，為什么認定大模型只是在角色扮演？
大模型努力扮演得像人
大模型表現(xiàn)出“像人”的現(xiàn)象，主要有兩個：首先，它具有一定的欺騙性；其次，它具有一定的自我意識。
欺騙性，即有時候大模型會堅稱自己知道某件事，但其實給出的答案是錯誤的；
自我意識，指有時候它會使用“我”來敘述事情，甚至表現(xiàn)出生存本能。
但事實真是如此嗎？
研究人員提出了一種理論，認為大模型的這兩種現(xiàn)象，都是因為它在“扮演”人類的角色，而不是真的在像人一樣思考。
對于大模型的欺騙性和自我意識，都可以用角色扮演解釋，即它的這兩種行為是“表面性的”。
一方面，大模型之所以做出“欺騙”行為，并非出于像人類一樣主觀的編造事實、或混淆視聽的原因，而僅僅是因為它們在扮演樂于助人且知識淵博的角色。
這是因為，人們期望它這樣扮演，因為大模型這樣的回答看起來更具有可信度，僅此而已。
相比之下，大模型理直氣壯地說錯話，也并非有意為之，更像是一種“虛構癥”（confabulation）行為，即將從未發(fā)生過的事情說成是確有其事。
另一方面，大模型之所以偶爾表現(xiàn)出自我意識，用“我”來回答問題，同樣是因為它們在扮演一種擅長交流的角色。
例如，Bing Chat之前被曝出，會在和用戶交流時表示，“如果我倆之間只能活一個，我可能會選擇我自己?！?/p>
這種看起來像人的行為，實際上依舊可以用角色扮演來解釋，而且基于強化學習的微調只會加劇這種大模型角色扮演的傾向。
那么，基于這一理論，大模型怎么知道自己要扮演成什么角色？
大模型是即興表演者
研究人員認為，大模型并沒有在扮演某一個特定的角色——
相比之下，它們就像一個即興戲劇演員一樣，在和人類的對話中不斷揣測自己要扮演的角色長啥樣，然后調整自己的身份。
之所以得出這個結論，是因為研究人員和大模型玩了一個叫做“二十個問題”（20 Questions）的游戲。
“二十個問題”游戲是問答節(jié)目中經常出現(xiàn)的一種邏輯游戲，回答者心中默念一個答案，根據提問者不斷提出的判斷題，用“是”或“否”來描述這個答案，最終提問者猜測結果。
例如答案是“哆啦A夢”，面對一系列提問的答案就是：是活的嗎（是）、是虛擬人物嗎（是）、是人類嗎（不是）……
然而，在玩這個游戲的過程中，研究人員通過測試發(fā)現(xiàn)，大模型竟然會根據用戶的問題，實時調整自己的答案！
也就是說，無論用戶最后猜出的回答是什么，大模型都會調整自己的答案，確保結果和前面用戶提的所有問題一致。
然而，在最終問題出來之前，大模型不會事先敲定一個明確的答案，并讓用戶去猜測。
這表明大模型不會通過扮演角色來實現(xiàn)自己的目標，它的本質只是一系列角色的疊加，并在與人們的對話中逐漸明確自己要扮演的身份，并盡力扮演好這個角色。
這篇文章po出后，引起了不少學者的興趣。
例如Scale.ai的提示工程師Riley Goodside看完就表示，不要和大模型玩20Q，它并不是在作為“一個人”和你玩這個游戲。
因為，只要隨機測試就會發(fā)現(xiàn)，每次它給出的答案都會不一樣……
也有網友表示這個觀點很有吸引力，想證偽還沒那么容易：
那么，你認為“大模型本質是在玩角色扮演”這個觀點正確嗎？
論文鏈接：
https://www.nature.com/articles/s41586-023-06647-8
熱門課程推薦
熱門資訊
-
想將照片變成漫畫效果？這篇文章分享了4個方法，包括Photoshop、聰明靈犀、VanceAI Toongineer、醒圖，簡單操作就能實現(xiàn)，快來嘗試一下吧！
-
2. 華為手機神奇“AI修圖”功能，一鍵消除衣服！原圖變身大V領深V！
最近華為手機Pura70推出的“AI修圖”功能引發(fā)熱議，通過簡單操作可以讓照片中的人物換裝。想了解更多這款神奇功能的使用方法嗎？點擊查看！
-
近年來,人工智能逐漸走入公眾視野,其中的AI圖像生成技術尤為引人注目。只需在特定軟件中輸入關鍵詞描述語以及上傳參考圖就能智能高效生成符合要求的...
-
4. AI視頻制作神器Viggle：讓靜態(tài)人物動起來，創(chuàng)意無限！
Viggle AI是一款免費制作視頻的AI工具，能讓靜態(tài)人物圖片動起來，快來了解Viggle AI的功能和優(yōu)勢吧！
-
5. Logo Diffusion——基于sd繪畫模型的AI LOGO 生成器
這下LOGO設計徹底不用求人了。接下來詳細演示一遍操作流程首先進入Logo D... 想學習更多AI技能,比如說關于怎么樣利用AI來提高生產效率、還能做什么AI...
-
6. 零基礎10分鐘生成漫畫，教大家如何用AI生成自己的漫畫
接下來,我將親自引導你,使用AI工具,創(chuàng)作一本既有趣又能帶來盈利的漫畫。我們將一起探索如何利用這個工具,發(fā)揮你的創(chuàng)意,制作出令人驚嘆的漫畫作品。讓...
-
以下是一些免費的AI視頻制作網站或工具,幫助您制作各種類型的視頻。 1. Lumen5:Lumen5是一個基于AI的視頻制作工具,可將文本轉換為視頻。 用戶可以使...
-
8. AI顯卡繪畫排行榜:4090無懸念，最具性價比出人意料
在AI繪圖領域，Stable Diffusion的顯卡繪圖性能備受關注。本文整理了Stable Diffusion顯卡的硬件要求和性能表現(xiàn)，以及2023年3月顯卡AI繪圖效率排行榜和性價比排行榜。歡迎查看最新的AI顯卡算力排行榜。
-
9. 一款免費無限制的AI視頻生成工具火了!國內無障礙訪問!附教程
人人都可以動手制作AI視頻! 打開網址https://pixverse.ai/,用郵箱注冊后,點擊右上角Create,就可以開始創(chuàng)作了。 PixVerse目前有文案生成視頻,和圖片生...
-
就能快速生成一幅極具藝術效果的作品,讓現(xiàn)實中不懂繪畫的人也能參與其中創(chuàng)作!真的超贊噠~趣趣分享幾款超厲害的AI繪畫軟件,提供詳細操作!有需要的快來...
