ニューラル ネットワーク: 将来の AI の揺りかご、それとも単なるテクノ トレンド?

JavaRush の資料では、人工知能 (AI)、機械学習、および AI に関連するその他のテクノロジーのトピックについてすでに何らかの形で触れています。特に、人工知能が Java のプログラミングにどのように関連しているかについてはすでに説明し、AI に関する神話や恐ろしい話について説明し、多くの記事でこの分野で使用されている主要なテクノロジについて言及しました。 したがって、私たちは今が AI の分野をさらに深く掘り下げ、現代の AI と機械学習の基礎となるテクノロジーであるニューラル ネットワークを詳しく調べる良い時期であると判断しました。つまり、ニューラル ネットワークの概念がもともとどのように誕生し、このテクノロジーがどのようにして現在の状態に変化したか、人工ニューラル ネットワークが人間の脳のニューロンとどのように異なるのか、人工ニューラル ネットワークは本当に学習方法を知っているのか、そして今日実際に何ができるのか、ということです。

人工ニューラル ネットワークと人間の脳。同じ？

当初、コンピューター ニューラル ネットワークは、その設計原理が人間の脳のニューロン システムに似ているため、この名前が付けられました。したがって、平均的な人間の脳には、ニューロンと呼ばれる小さな細胞が 1 億個以上含まれています。実際、人間の脳にそのような細胞が実際にどれくらいあるのかは誰にも正確にはわかりません - 推定範囲は 500 億から 5,000 億個です。各ニューロンは、多くのいわゆる樹状突起 (細胞入力 - 細胞に情報を伝達する) を備えた細胞体で構成されています。 ）と1つの軸索（細胞出力 - 細胞から情報を伝達します）。ニューロンは非常に小さいため、1平方ミリメートルの領域にこれらの細胞が約100個配置できます。コンピューター内部では、ニューロンに相当するのは、トランジスタと呼ばれる小さなスイッチング デバイスです。最新のマイクロプロセッサ (シングルチップ コンピュータ) には、300 億個を超えるトランジスタが含まれています。約 20 年前に開発された最初の Pentium マイクロプロセッサでさえ、わずか 25 mm の面積の集積回路に約 5,000 万個のトランジスタが詰め込まれていました。実際、専門家によれば、コンピュータプロセッサと人間の脳のニューロンとの接続はここで終わります。そうでなければ、それらは互いに大きく異なり、まったく異なる働きをするからです。コンピュータのトランジスタは比較的単純な直列回路に接続されており、各トランジスタは 2 つまたは 3 つの他の回路に接続できますが、脳のニューロンは複雑な並列方法で緊密に接続されています。したがって、科学者は、各ニューロンが 10,000 以上の隣接ニューロンと接続できると計算しました。

人工ニューラルネットワークとは何ですか?

したがって、コンピューターと脳内のニューロンの最も重要な構造上の違いは、それらがどのように機能するかです。ニューラル ネットワークの背後にある基本的な考え方は、脳内で相互接続された多数のニューロンの動作を単純化した形式でシミュレートする、つまりモデル化することです。これにより、ニューラル ネットワークは、通常のマイクロプロセッサでは実行できないこと、つまり、人間の脳と同様の原理で学習、パターンの認識、意思決定を行うことができるようになります。ただし、現時点では、ニューラル ネットワークは脳内のニューロンの働きを単純にソフトウェアでエミュレートしたものであることを強調しておくことが重要です。 典型的なニューラル ネットワークには、いくつかの層に配置された、ユニットと呼ばれる数十から数百、数千、さらには数百万の人工ニューロンが含まれています。これらのユニットの一部は入力ユニットと呼ばれ、外部からさまざまな形の情報を受け取る役割を果たし、ニューラル ネットワークはその情報を学習、記憶、他の方法で処理しようとします。ネットワークの反対側にある出力ユニットと呼ばれる他のユニットは、ネットワークがこの情報とどのように対話するかを担当します。これら 2 つの層の間には、計算を実行し、ニューラル ネットワークの大部分を構成する他のユニットがあります。ほとんどのニューラル ネットワークは相互接続されています。つまり、各ユニットは両側の層で他のユニットに接続されています。ユニット間の接続は重みと呼ばれる数値で表されます。ニューラル ネットワークの重みは、正 (あるユニットが別のユニットを活性化する場合) または負 (あるユニットが別のユニットを抑制または弱める場合) になります。重みが大きいほど、あるユニットが別のユニットに与える影響が大きくなります。単純な問題を解決するために設計された単純なニューラル ネットワークには、図に示すように 3 つの基本層しか含まれていません。ただし、入力層と出力層の間には、異なる機能を実行する多数の異なる層が存在する場合があります。(上の図よりも) より複雑な構造を持つニューラル ネットワークはディープ ニューラル ネットワークと呼ばれ、通常は複雑な問題を解決するために使用されます。理論的には、深層構造を使用すると、ニューラル ネットワークであらゆる種類の入力データをあらゆる種類の出力データにマッピングできるため、あらゆる問題を解決できるようになります。ただし、そのためには、ニューラル ネットワークは、ネットワークが処理する必要がある数百万、場合によっては数十億の情報の例を処理することからなる、本格的で長期間の「トレーニング」を必要とします。

ニューラル ネットワーク: ちょっとした歴史

さて、ニューラル ネットワークが本質的に何であるかについての基本的な説明を整理しました。ここで、理論について少し戻って、このテクノロジーの歴史と、それがいつ登場したのかについて話しましょう。多くの人が驚くかもしれませんが、ニューラル ネットワークは 70 年以上前に科学の世界に登場しました。この概念は、シカゴ大学の 2 人の研究者であるウォーレン・マッカローとウォルター・ピッツによって 1944 年に初めて提案されました。彼らは 1952 年にマサチューセッツ工科大学に移り、そこで最初の認知科学研究グループを設立しました。実際、ニューラル ネットワークは、1969 年までは神経科学とコンピューター サイエンスの両方の主要な研究分野でした。つまり、現代の人工知能システムの基礎となっているこのテクノロジーは、現代の言葉で言えば、すでに 10 年以上にわたって、つまり 50 年代半ばから 60 年代の終わりまで、誇大宣伝されてきました。この誇大宣伝の「キラー」は、マービン・ミンスキーとシーモア・パパートという二人のコンピュータ科学者によって執筆された本だったと考えられています。彼らはその研究でニューラルネットワークの限界をすべて明らかにしました。実際のところ、初期のニューラル ネットワークにはトレーニング可能な層が 1 つか 2 つしかありませんでした。ミンスキーとパパートは、このような単純なネットワークでは、複雑な現実世界の現象を数学的にモデル化できないことを示しました。その結果、テクノロジーとしてのニューラル ネットワークへの関心は長年にわたって失われ、70 年代から 80 年代前半にかけて、客観的に見てニューラル ネットワークにはほとんど注目が払われませんでした。ディープ ニューラル ネットワークをトレーニングするための実用的な方法であるバックプロパゲーションの概念を紹介する論文が発表されたことで、1986 年に関心が新たになりました。バックプロパゲーションのおかげで、ディープ ニューラル ネットワークはより計算しやすくなりましたが、それでも動作するには膨大なコンピューティング リソースが必要でした。そして、1990 年代と 2000 年代の研究では、複雑なニューラル ネットワークでは効率の点で望ましい結果が得られないことがよくわかりました。その結果、ニューラル ネットワークは一時的に誇大宣伝の波から外れましたが、2000 年代の 20 年間にようやく戻ってきました。これは主に、ディープ ニューラル ネットワークが以前よりも効率的に動作できるようになったグラフィックス チップの計算能力の向上によるものです。科学全体におけるこのような周期性の現象はよく説明されていますマサチューセッツ工科大学のトマソ・ポッジオ教授は次のように述べています。「科学の考え方はウイルスと同じように広まるという説明があります。たとえば、インフルエンザ ウイルスには 5 ～ 6 つの主要な株があり、それぞれが約 25 年に 1 回再発します。人々は感染して免疫を獲得し、その後 25 年間は感染から守られます。そして新しい世代がやって来て、再び同じウイルス株に感染します。科学では、人々はアイデアに夢中になり、疲れ果てるまでそれに取り組み、アイデア疲労という形で免疫を獲得します。そして、そのアイデアが別の世代の科学者たちに戻ってきます。」ニューラル ネットワークと人工知能テクノロジーがまだかなり新しく未開発のテクノロジーであるという事実を考えると、それをめぐる誇大宣伝はすぐに再び衰え始め、さらに数十年後に再び盛り上がる可能性があります。

ニューラルネットワークはどのように学習するのでしょうか?

通常、情報は 2 つの方法でニューラル ネットワークを通過します。ネットワークが学習中であるか、学習後にすでに実行されている場合、情報のパターンは入力ユニットを介してネットワークに入力され、隠れユニットの層が起動され、出力ユニットに入力されます。この全体的な構造はフィードフォワード ネットワークと呼ばれます。すべてのユニットが同時に動作するわけではありません。各ユニットは、左側のユニットから受信データを受信し、そのデータに、通過する接続の重みを乗算します。各ユニットはこの方法で受信したすべてのデータを合計し、最も単純なタイプのネットワークでは、合計が特定のしきい値を超えると、ユニットは接続されている他のユニット (右側のユニット) をアクティブ化します。ニューラル ネットワークの学習を可能にする重要なポイントの 1 つはフィードバックです。子供が何が良くて何が悪いのかを教えてくれる大人に育てられる必要があるのと同じように、ニューラル ネットワークにはフィードバックと指導が必要です。彼らは、バックプロパゲーションと呼ばれるトレーニング手法を使用します。この方法では、ネットワークは生成する出力と生成すべき出力を比較し、これら 2 つの要素の差を使用して、出力ユニットから中間ユニットを経て入力ユニットまで、ネットワーク内のユニット間の接続の重みを変更します。つまりその逆です。時間の経過とともに、バックプロパゲーションによってネットワークが強制的に学習され、実際の出力と推定された出力の差が正確に一致する点まで減少します。

ニューラル ネットワークはどのように機能し、どこで使用されますか?

最後に、このようなニューラル ネットワークがどのように機能するかの例を見てみましょう。ニューラル ネットワークにトレーニングに必要なデータのサンプルが十分にあると、ユーザーはネットワークがこれまで処理したことのないまったく新しいデータをニューラル ネットワークに供給し、そこから望ましい結果を得ることができる段階に達します。たとえば、セキュリティ カメラの視野内のどこかに武器が現れたときにそれを検出するようにニューラル ネットワークをトレーニングしたとします。ピストルやライフルなど、さまざまな種類の武器の何百、何千、何万もの画像をネットワークに表示して、ネットワークをトレーニングします。ある時点で、あなたはこれまで彼女に見せたことのない新しいタイプの武器、たとえば銃の画像をアップロードします。その結果、ネットワークは、一般的な形状、ハンドルとバットの存在、引き金の存在など、多くの基本的な基準に基づいてこのオブジェクトを武器として識別することに成功しました。つまり、ニューラル ネットワークは、多数の「学習した」パターンに基づいて画像内の武器を決定します。同時に、もちろん、これは、ニューラル ネットワークが新しいデータを参照して、人間のように独立して意思決定を行えることを意味するものではありません。すべての情報をバイナリ コードの形式で受け取ります。各入力ユニット (ネットワークへの情報) は、オンまたはオフの 2 つの位置にのみ設定できます。したがって、同じ例を使用して、武器を見つけるためにニューラル ネットワークをトレーニングすると、その情報は、基本的な「はい/いいえ」の質問に答える一連の入力ユニットを通過します。たとえば、オブジェクトにはトリガーがありますか?; 銃口はありますか？そのアイテムは金属でできていますか?; 形状はピストルと一致しますか？したがって、銃の場合、ネットワークの応答は「はい、はい、はい、いいえ」、またはバイナリ コードで「1110」になります。もちろん、実際のシステムではそのような質問はもっとたくさんあるでしょうが、本質は同じです。ニューラル ネットワークはバイナリ コードの形式でデータを受け取り、その助けを借りて、必要な情報と不必要な情報を区別する方法を学習します。ニューラル ネットワークの基本メカニズムを理解すれば、このテクノロジーが今日のさまざまな問題を解決するためにどのように使用されているかを容易に想像できます。たとえば、典型的な例は、銀行詐欺を防ぐためのニューラル ネットワークの使用です。システムは、何らかの理由で疑わしいと思われる送金を独自に見つけて即座にブロックする方法を学習します。あるいは、たとえば、車や飛行機の基本的な自動操縦にニューラル ネットワークを使用します。入力ユニットがさまざまな制御システムから情報を受け取り、出力ユニットが所定のコースに従って操縦モードを調整する場合です。

結論

ニューラル ネットワークは、全体的には比較的単純なテクノロジであり、コンピュータとコンピュータ システムを一歩前進させ、人間に近づけるテクノロジーであることがわかりました。一方で、ニューラル ネットワークがまだ人間の脳ほど複雑でも効率的でもないことも明らかです。ですから、私たちは皆、脳に高度なニューラルネットワークが組み込まれて生まれてきたことに感謝し、この自然の富を、たとえば学習や自己改善のためにもっと頻繁に活用しましょう。