01

對于人和動物來說，我們的機器是用神經元制造的，也就是神經網絡。

人類對于智能如何工作的圖景，是建立在大腦如何工作的簡單想法基礎上的。

神經元很復雜，但是人類已經初步識別出神經元所做的一件重要的事情：它積累到一定數量，然后將總數和一個閾限進行比較，來確定是否超過這個閾限。

一個觸發的神經元及其激活程度在不斷變化，它的激活水平受到來自軸突的激活水平的影響。

軸突從附著在突觸上的其他神經元一直延伸到本神經元的樹突（輸入結構）。

突觸具有的電量從正（興奮的）到零，再到負（抑制的）。

每個到來的軸突的激活水平乘上突觸的電量，神經元將這些激活水平累加，如果總數超過了閾限，神經元就會變得更活躍，繼而向任何與它相連的神經元發送一個信號。

盡管神經元總是處在激活狀態，而到來的信號只是讓它的激活水平變化為更快或更慢的可察覺速率，但有時將它們描述為關（靜息率）或開（動作率）還是比較方便。

我們可以看到這些神經元連接在一起組成了邏輯門，它執行了最基本的關系：且、或、非。

我們用神經元模型構建一個傳統數字計算機，無論這些邏輯門是神經元還是半導體做的，它已經可以開始執行經典邏輯了。

更進一步地，人們試著調整方向，做一臺更具生物形態的計算機。

首先，增加模糊邏輯，現實生活中人們對某事是否正確并沒有全部或者沒有這樣的斬釘截鐵的十足把握。

其次，增加統計決策，將結論單位設計成不同的方式組合，比如改為閾限單位，只有在權重超過一定臨界點時才執行政策作出決定；或者結論單位可以逐漸增加活躍度，然后在收益遞減的位置趨于穩定。

再次，將每個單位都和所有單位連接在一起。

于是，有趣的事情發生了：網絡開始產生類似于人類思維的過程。

這種摒棄頂端節點，只計算各性質之間的相關度的網絡，有五個典型的特征。

1、這是一個重構的、內容尋址的記憶內存。

比特本身沒有意義，它們組成的字節有著任意的地址，地址和內容沒有關系。

根據地址獲得內存記憶的位置，然后確定一個模式是否儲藏在記憶的某個地方。

因為表征一件東西的單位是相互緊密連接的，所以被激活的單位會相互強化。

而且，連接是冗余的，這使得即使只有模式的一部分呈交到自動協關器，其余部分也將自動完成。

這類似于心智的回憶。

2、處理嘈雜的輸入的方法。

在現實世界中，錯誤是隨處可見的，比如輸入錯誤。

之前的計算機是笨頭笨腦的，比如我們輸入一個打印命令，錯手打成了pritn file，然后，它就會返回一條信息：pritn: command not found。

近年來這個情況已經有所改善，最常見的是我們可以在word輸入的時候的采用自動糾偏功能，一不小心輸入gub時，word可能會提示改為gun，或者是helf改為help等。

3、能夠做一種簡約版的計算，即限制性滿意。

在規則的基礎上，人們經常會需要猜測，在我們的知覺、語言和常識推理中經常會遇到這樣的情況。

我是一次惡意行為的受害者，還是一次愚蠢行為的犧牲者？

約束網絡模擬了這一點，有時候一個約束網絡可以有相互不一致但相等的穩定狀態，這也說明了這個現象整體的模糊性，即以兩種方式來解釋整個物體，而不是各個部分。

4、網絡自動歸納概括的能力。

這種模式協關器的原理是這樣的，如果兩個物體在某些方式上相似，那么很可能它們在其他方式上也相似。

任何與一個單位的物體相連接的信息事實上就會和其他物體的許多單位相連接。

比如說有對于“移動”、“呼吸”、“長毛發”、“吠叫”、“咬”和“見到消防栓就抬腿”這樣的輸入單位，發散出所有這六項的連接就觸發了一種動物——你肯定馬上猜到了——的事實。

5、從例子中學習。

這是現在強化學習的一個重要概念，模型建立者并不親手確定策略，而是利用了學習的機制。

具有這種學習技術的模式協關器叫做感知器。

當然，這樣的模式需要一個容錯機制——雖然一個隱含的網絡經過訓練，能夠運用一個更加新式的感知器學習程序來確定自己的權重。

了解神經網絡模型的特征之后，我們反過來思考，智能是如何工作的呢？

這種神經網絡，又是否執行了正確的計算來反應人腦思考的工作運行呢？

02

那么，心智又是如何工作的呢？計算機的模擬為我們提供了一個之前一直被忽視的視角。

第一，個體性的概念。

個體的概念是人類社會推理整體知識的基本粒子。

人總能輕易地區分開每一個個體，即使她們是幾乎一模一樣的同卵雙胞胎，我們也可以明白這是“兩個人”。

我們對個體的執迷或許是因為，我們所遇到的每個人，都與所觀察到的其他物體不同，他有其獨特性、能動性及不同的經歷。

這是一個顯而易見的心智能力，在動物身上也有出現。

不過，計算機很難做到這一點，只要是相同的表征，計算機都會認為這是同一個物體，也就是說，系統會混淆類別和個體。

或者說，系統沒有個體概念。

第二，組成性問題。

一個表征如何由各種部件組成，各個部件的含義是什么，其組成方式又如何構成整個表征的含義。

組成性是所有人類語言的精華特征。

我們可以產生很多瘋狂的新想法，無論這想法有多么荒謬不經。

比如：奶牛跳過月球，宇宙源于一個大爆炸，外星生物降臨地球……

可能你會覺得，把這樣的組成性問題放在神經網絡中非常容易，只要開啟“奶牛”“跳過”“月球”的單位就可以了。

實際上，這會導致一種混淆：究竟是奶牛跳過了月球，月球跳過了奶牛，還是奶牛和月球跳過了。

也就是說你需要將概念分配給角色，設置一個參數，規定誰是可以跳的。

人的心智模式中天然可以區分這一類事情，因為我們的思維是彼此相關的方式。

只要看到這三個詞，“奶牛”、“跳過”、“月球”，我們可以自然地將其組合成一句話并正確理解。

所以，人類心智一定表征了比概念到概念更復雜的命題。

第三、量化或變量約束。

試著看這樣一句話：

你可以在某些時候愚弄所有人，你甚至可能永遠愚弄某些人，但你不可能永遠愚弄所有人。——亞伯蘭罕·林肯

如果你可以理解這句話，那么所運用的就是計算量化的能力。

人類對記憶系統有著兩種非常不同的要求。

我們要記住具體的，誰，在什么時候，在什么地點，為什么，對誰，做出了什么事情。

同時，我們也需要推斷出一些關于世界如何運轉的一般性知識。

心理學家將這兩種方式做了區分，前者是“情景式”或者說是自傳體式記憶；后者是“語義式”或者說是一般性知識記憶。

第四、遞歸。

人類的心智可以將一整個命題放在一個更大的命題當中，賦予它一個角色。

我們可以產生一組無限多的數的能力，將一個命題嵌套在另一個命題當中，這增加了無限多思維的能力。

在計算機科學和心理語言學當中，采用的是一種更為強大和靈活的機制：

每一個簡單結構都在長期記憶中得到一次表征，處理器的注意在一個結構到另一個結構之間不斷地穿梭轉移，將轉移的路線記錄在短期記憶中，從而將命題編織在一起。

這就是遞歸式轉換網絡的動態處理器所做的事情。

讓我們將其轉換成人話：

比如說在理解一個句子的時候，我們是一次聽或者讀一個單詞，而不是一個整句——人類似乎也是在一點一點咀嚼我們的復雜思維，而不是囫圇咽下。

或許當一個動態處理器在這么做的時候，它也不僅僅是為了句子，而是為了思維。

第五、模糊版和清晰版的統一。

我們都知道，在人類世界，很多常識性概念的邊界都很模糊，沒有清晰的定義。

但是人們并不總是模糊的，我們有非常多的確定性判斷和毫不含糊的思維例子。

人們同時用這兩種方式來思維。

模糊性來自于人類會不假思索地吸取各個特征的相關性來形成一種刻板印象，比如對地域的刻板印象，或者對鳥類應該是什么樣的刻板印象等。

但人類也會創造系統規則，規則帶來了思維的清晰性，并且讓我們從單純的相似性中升華出來，根據解釋來得出結論。

模糊版和清晰版的相同類別，就這樣相安無事地共處于一個大腦之中。

03

在強光燈下的比較和審視讓我們看到了神經網絡模型與人的心智之間的差距，差距還有很多，目前已經復雜到一個比較高的量級。

神經網絡通過執行一些邏輯和統計運算，來選擇輸入表征、網絡數量、每一個網絡的連接方式，以及數據路徑和連接這些路徑的控制結構。

神經網絡正在試著越來越好地地解釋怎樣讓一個系統變得智能。

這一切開始地那么樸素，離奇跡的感覺也還很遙遠。

但是，正是這樣的一套“更具生物形態的計算機”，讓我們離自己的心智智能越來越近。

總結

以上是生活随笔為你收集整理的模糊神经网络_神经网络模型：当网络开始产生类似于人类思维的过程的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。