【新智元導讀】「AI 教父」Geoffrey Hinton 在最近的采訪中表達了自己對 AI 智能的理解 ——LLM 并不是簡單的統計模型，已經具備了理解能力。與此同時，網友翻出了去年 12 月的「過期」視頻，驚奇地發現 Hinton 早就「叛變」了，竟然對超級 AI 取代人類的未來表示支持。

最近，半退休的「AI 教父」Geoffrey Hinton 頻頻出現在各種采訪中，輸出他關于 ASI 的各種言論和觀點，甚至只是聊點生涯軼事都可以引起網友們的熱烈討論。

不到一個月之前，他就揭發了愛徒 Ilya 在暑假受夠了炸薯條的工作，結果投奔自己實驗室的經歷。

雖然這些演講和采訪內容各異，但 Hinton 始終不忘一點 —— 提示我們注意 AGI 安全和飛速發展的智能，并預告它們將代替人類的「賽博朋克」未來。

對于 AI，Hinton 的想法和感情比起我們想必要復雜許多。

在神經網絡「坐冷板凳」的那些日子里，他守著自己的實驗室和兩名研究生「不離不棄」，最終等到了深度學習大放異彩的時代。

在 2013 年入職谷歌后，Hinton 成為「教父」，一邊親眼看著自己孩子一樣的 AI 快速成長，一邊逐漸擔心「少年終成惡龍」。最終他選擇了與自己創造的世界搏斗，過上了致力于警告 AI 安全的退休生活。

AI 不是統計技巧，而是有理解能力

Hinton 最近一次的公開露面是 BNN 彭博社 6 月 15 日進行的獨家采訪。

Hinton 在采訪中輸出的「AI 具有理解能力」的觀點引起了 Reddit 社區的廣泛討論。

如果「理解」的意思是 LLM 能否對某個概念建立復雜的內在表示，那么答案是肯定的。如果「理解」的意思是 LLM 能否用與人類相同的方式理解概念，那么答案是否定的（否則模型不會在詩歌方面如此出色的同時有如此差的算術能力）。

畢竟，「AI 能否理解」，這個問題既模糊，又在社區內存在極大的爭議和分歧。

Hinton 堅決反駁了一種流行的觀點，即 LLM 僅僅是統計技巧，并不能真正理解自然語言的含義。

他表示，這是完全錯誤的。類似于「詞袋」（bag of words）或者 N 元組（N-gram）這種曾經的語言模型，內部保存了一個很大的有概率分數的單詞組合表，的確是依靠統計概率工作。

說到這里，身為英國人的 Hinton 非常自然地用國菜開始舉例。

比如單詞表里會顯示，「魚」和「薯條」經常出現在一起。因此模型看到「魚」這個單詞，自然就會預測下一個單詞是「薯條」，絲毫不考慮上下文。

這就是為什么，曾經的統計語言模型在自動補全功能上的表現很差。

但當今 LLM 的工作原理已經完全不同了。現在，模型預測下一個單詞的方法是理解你到目前為止所說的話。

比如，想要回答人類的問題，LLM 必須首先理解問題的含義，否則根本無法預測答案的第一個單詞。從這個角度理解，單詞預測任務（next token prediction）相當于是倒逼 LLM 發展出理解能力。

Hinton 的言語中透露出，他也相信 Scaling Law 的存在。隨著模型逐漸擴展，加上更多 Transformer 這樣的技術突破，AI 終將變得比人類更智能，只不過是時間早晚的問題。

主持人反問他，變得更聰明的技術一定會帶來風險嗎？

Hinton 的回應一針見血 ——「你能舉出多少例子，說明更聰明的在被不太聰明的控制？」

他提到，好友 Yann LeCun 的觀點就與自己不同，認為 AI 非常安全。但 Hinton 的論據是，AI 已經達到了構建智能體（agent）的程度，能夠自主創建目標。

這些目標會驅動智能體攫取更多控制權，會希望避免毀滅、建立自我保護，某種程度上這是一種自身利益，也許就是進化的開始。

那么人類呢？

Hinton 預言，如果 AI 開始進化、最強的一方獲勝，人類就會被遺忘，被碾壓進塵土（原話：left in the dust）。AI 將從孩子變成我們的父母，接管一切。

這聽起來的確是科幻小說的場景，但對 Hinton 是認真的，「我不再認為這聽起來很科幻，而是現實存在的威脅。」

超級 AI 取代人類

上面彭博的這篇最新采訪中，Hinton 談到了 AI 取代人類的可能。

Reddit 網友隨后翻出了一個去年 12 月的訪談視頻，同樣涉及「AI 取代人類」的話題，但這一次，Hinton 的觀點更加讓人驚訝 ——

他宣稱，自己實際上是支持 AI 的！

事情起源于采訪最后的一名觀眾提問，原問題是這樣的：

「如果一個超級智能 AI 摧毀了人類，但客觀上創造了一種意識層面上更好的物種，您個人是支持還是反對這種結果？如果反對，您建議用什么方法，在面對超級智能 AI 時維持人類意識的存在或主導地位？」

接下來，Hinton 用平靜的語氣回答道：「我實際上是支持的，但我認為表示反對是更明智的說法。」

采訪者表示，你展開說說？

但 Hinton 只是非常謹慎地給出了一句話，「人們不喜歡被取代」。

采訪者繼續追問原因，Hinton 首先疊甲，「人類有很多好的方面，也有很多不那么好的方面」。

之后給出了一段令人深思的解釋：「目前我們還不清楚什么是最好的智能形式。顯然，從人的角度來看，一切都與人有關。但未來有一天，我們可能會把『人文主義』看成一種類似于種族主義的概念。」

這段對話在 Reddit 上同樣是一石激起千層浪。

發帖的博主都十分驚訝于 Hinton 的激進態度，而且他被要求展開解釋時似乎態度非常堅決，即使他心知肚明，「表示反對是更明智的說法」。

有人嚴厲批評，認為他不顧人類這個物種的生存和整體福祉，這是「憤世嫉俗」、「虛無主義」的表現。畢竟，人都沒了，要那么先進的 AI 技術有什么用呢？

「很難想象比這更憤世嫉俗的行為了。」

「我認為很多未來主義者都嘲諷人文主義的價值，希望在任何可能的情況下將人類因素從『方程』上移走。」

但也同樣有支持和理解的聲音，認為 Hinton 并不是憤世嫉俗、憎惡人類，只是清醒意識到了一個現實 —— 人類不是造物的頂峰。

進化會繼續，更好的物種必然出現，他只是用一種更開放、坦然的心態接受了這個事實。

廣告聲明：文內含有的對外跳轉鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節省甄選時間，結果僅供參考，所有文章均包含本聲明。

投訴水文 我要糾錯

總結

以上是生活随笔為你收集整理的AI 教父 Hinton：我支持超级 AI 取代人类的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。