神經網路：未來人工智慧的搖籃還是另一種科技趨勢？

在 JavaRush 的資料中，我們以某種方式觸及了人工智慧 (AI)、機器學習以及其他與 AI 相關的技術主題。特別是，我們已經討論了人工智慧與 Java 程式設計的關係，討論了有關人工智慧的神話和恐怖故事，並且在許多文章中我們提到了該領域使用的關鍵技術。 因此，我們認為現在是更深入地研究人工智慧領域，並仔細研究現代人工智慧和機器學習的真正基礎技術——神經網路的好時機。即：神經網路的概念最初是如何起源的，這項技術是如何轉變為當前狀態的，人工神經網路與人腦神經元有何不同，它們是否真的知道如何學習，以及它們今天真正有能力做什麼。

人工神經網路和人腦。相同的？

最初，電腦神經網路之所以得此名稱，是因為其設計原理類似人腦中的神經元系統。因此，人類大腦平均包含超過 1 億個稱為神經元的微小細胞。事實上，沒有人確切知道人腦中實際上有多少個這樣的細胞- 估計範圍從50 到5000 億。每個神經元由一個帶有許多所謂樹突（細胞輸入- 將信息傳輸到細胞）的細胞體組成。 ）和一個軸突（細胞輸出 - 從細胞傳遞訊息）。神經元非常小，在一平方毫米的面積內可以放置大約一百個這樣的細胞。在電腦內部，相當於神經元的是稱為電晶體的微型開關元件。最新的現代微處理器（單晶片計算機）包含超過 300 億個電晶體。即使是大約 20 年前創建的第一個奔騰微處理器，也將大約 5000 萬個電晶體封裝到面積僅為 25 毫米的集成電路中。事實上，專家表示，這就是電腦處理器和人腦神經元之間連接的終點，因為否則它們彼此非常不同，工作方式也完全不同。電腦電晶體以相對簡單的串聯電路連接，每個電晶體可以與另外兩個或三個電路連接，而大腦中的神經元則以複雜的並聯方式緊密連接。因此，科學家計算出每個神經元可以與其一萬多個鄰居連結。

什麼是人工神經網路？

因此，電腦和大腦神經元之間最顯著的結構差異在於它們的工作方式。神經網路背後的基本思想是以簡化的形式模擬或建模大腦中許多互連神經元的操作。這使得神經網路能夠做普通微處理器無法做的事情，即學習、識別模式並按照類似於人腦的原理做出決策。然而，需要強調的是，目前神經網路只是大腦神經元工作的簡單軟體模擬。 典型的神經網路包含數十到數百、數千甚至數百萬個人工神經元（稱為單元），排列在多層中。其中一些單元稱為輸入單元，負責從外部接收各種形式的訊息，然後神經網路將嘗試以其他方式學習、記憶和處理這些資訊。其他單元（稱為輸出單元）位於網路的另一側，負責網路如何與此資訊互動。這兩層之間是進行計算並構成神經網路大部分的其他單元。大多數神經網路都是互連的，這意味著每個單元都與兩側的其他單元分層連接。單元之間的連接由稱為權重的數字表示。神經網路中的權重可以是正值（如果一個單元啟動另一個單元）或負值（如果一個單元抑製或削弱另一個單元）。權重越高，一個單位對另一個單位的影響就越大。一個旨在解決簡單問題的簡單神經網路可能只包含三個基本層，如圖所示。然而，在輸入層和輸出層之間可以有許多執行不同功能的不同層。結構較複雜（比上圖所示）的神經網路稱為深度神經網絡，通常用於解決複雜問題。理論上，深度結構的使用允許神經網路將任何類型的輸入數據映射到任何類型的輸出數據，從而使其能夠解決任何問題。然而，為此，神經網路將需要認真而漫長的“訓練”，其中包括處理網路需要處理的數百萬甚至數十億個資訊範例。

神經網路：一點歷史

好吧，我們已經整理出了神經網路本質上的基本解釋，現在我們可以退一步討論理論，談談這項技術的歷史以及它出現的時間。這可能會讓很多人感到驚訝，但神經網路早在 70 多年前就出現在科學中了。這個概念最早由芝加哥大學的兩位研究人員 Warren McCullough 和 Walter Pitts 於 1944 年提出，他們於 1952 年轉到麻省理工學院，並在那裡成立了第一個認知科學研究小組。直到 1969 年，神經網路實際上都是神經科學和電腦科學的一個主要研究領域。也就是說，這項作為現代人工智慧系統基礎的技術，用現代術語來說，已經被炒作了整整十年——從五十年代中期到六十年代末。據信，這種炒作的「殺手」是由兩位電腦科學家——馬文·明斯基和西摩·帕佩特——撰寫的一本書，他們在工作中揭示了神經網路的所有局限性。事實上，早期的神經網路只有一、兩個可訓練層。明斯基和帕珀特表明，這種簡單的網路在數學上無法對複雜的現實世界現象進行建模。結果，人們對神經網路作為一項技術失去了興趣很多年——整個七十年代和八十年代上半葉，客觀上很少有人關注它們。直到 1986 年，隨著一篇介紹反向傳播概念的論文（一種訓練深度神經網路的實用方法）的發表，人們的興趣才重新燃起。由於反向傳播，深度神經網路變得更加計算友好，但仍需要大量的運算資源來運作。1990 年代和 2000 年代的研究經常表明，複雜的神經網路在效率方面並沒有產生預期的結果。結果，神經網路一度脫離了炒作浪潮，直到 2000 年代第二個十年才回歸，這很大程度上是由於圖形晶片運算能力的增強，使得深度神經網路比以前更有效率地工作。整個科學中的這種週期性現象得到了很好的解釋麻省理工學院教授托馬索·波吉奧（Tomaso Poggio）：「有一種解釋認為，科學思想的傳播方式與病毒的傳播方式大致相同。例如，流感病毒有五、六種主要病毒株，每種株大約每 25 年復發一次。人們被感染，產生免疫力，並在接下來的 25 年內免受感染。然後新一代出現並再次感染同一株病毒。在科學領域，人們愛上想法並為之努力直到精疲力盡，以至於他們以想法疲勞的形式產生免疫力。然後這個想法又被新一代科學家帶回來了。” 鑑於神經網路和人工智慧技術仍然是一項相當新且不發達的技術，圍​​繞它的炒作可能很快就會再次開始減弱，直到再過幾十年才會再次回歸。

神經網路如何學習？

通常，資訊以兩種方式通過神經網路。當網路剛學習或訓練後已經運作時，資訊模式會透過輸入單元進入網絡，輸入單元啟動隱藏單元層，隱藏單元依序進入輸出單元。這種整體架構稱為前饋網路。並非所有單位同時工作。每個單元接收來自左側單元的傳入數據，並將其乘以它所經過的連接的權重。每個單元都會以這種方式將其接收到的所有資料相加，在最簡單的網路類型中，如果總和超過特定閾值，該單元就會啟動與其連接的其他單元（右側的單元）。任何神經網路能夠學習的關鍵點之一是回饋。就像孩子需要由成人撫養一樣，成人會告訴他什麼是好，什麼是壞，神經網路也需要回饋和指導。他們使用一種稱為反向傳播的訓練方法。在這種方法中，網路將其產生的輸出與應產生的輸出進行比較，並使用這兩個因素之間的差異來改變網路中單元之間連接的權重，從輸出單元，透過中間單元到輸入單元 -也就是說，反之亦然。隨著時間的推移，反向傳播迫使網路進行學習，將實際輸出和估計輸出之間的差異縮小到完全匹配的程度。

神經網路如何運作以及它們在哪裡使用？

最後，讓我們來看一個例子來說明這種神經網路是如何運作的。一旦神經網路有足夠的資料範例可供訓練，它就會達到使用者可以向其提供網路以前從未處理過的全新資料並從中獲得所需結果的程度。例如，假設您訓練神經網路來偵測武器出現在安全攝影機視野範圍內的某處。您可以透過向網路顯示數百、數千甚至數萬張不同類型武器（例如手槍和步槍）的圖像來訓練網路。在某個時候，您上傳了一張以前從未向她展示過的新型武器的圖像，例如槍。結果，網路根據一些基本標準（例如整體形狀、是否存在手柄和槍托、是否存在扳機等）成功將該物體識別為武器。也就是說，神經網路根據許多「學習」的模式來決定影像中的武器。當然，同時這並不意味著神經網路可以像人一樣查看新數據並獨立做出決策。它以二進位代碼的形式接收所有訊息，並且每個輸入單元（進入網路的訊息）只能處於兩個位置：開或關。因此，如果您使用相同範例訓練神經網路來尋找武器，則資訊將透過一組回答基本「是/否」問題的輸入單元。例如，如：該物件是否有觸發器？；有槍口嗎？該物品是金屬製成的嗎？它的形狀與手槍的形狀相符嗎？因此，對於一把槍，網路的回應將是：「是，是，是，否」或二進位代碼的「1110」。當然，在真實的系統中會有更多這樣的問題，但本質仍然是一樣的：神經網路以二進位代碼的形式接收數據，並在其幫助下學會區分必要的資訊和不必要的資訊。現在，了解了神經網路的基本機制，就很容易想像這項技術如何用於解決當今的各種問題。例如，一個典型的例子是使用神經網路來防止銀行詐欺——當系統學會獨立查找並立即阻止那些出於某種原因看起來可疑的轉帳時。或者，例如，將神經網路用於汽車或飛機的基本自動駕駛儀：當輸入單元從不同的控制系統接收資訊時，輸出單元會根據給定的航向調整駕駛模式。

結論

現在您會看到，神經網路是一種相對簡單的整體技術，它確實使電腦和電腦系統向前邁進了一步，更加貼近人類。另一方面，很明顯神經網路仍然不如人腦複雜和有效率。因此，讓我們慶幸的是，我們生來大腦中就內建了先進的神經網絡，讓我們更頻繁地利用這種自然財富，例如，用於學習和自我完善。