ヘブ型学習って何?

Prafful Mishra

2019/03/30 – 3 min read

最も単純なニューラルネットワーク(しきいニューロン)は学習機能がなく、それが大きな欠点になっています。 ドナルド・O・ヘブは「行動の組織化」という本の中で、ニューラルネットワークのニューロン間の重みを更新する機構を提案した。 この重みの更新方法によって、ニューロンは学習することができ、ヘブ学習と名付けられた。

  • ニューロン間の重みの変化は、ニューロンに対する活性化値の積に比例する。
    • 学習が行われると、弱い接続のニューロンの同時または繰り返し活性化によって重みの強さとパターンが徐々に変化し、より強い接続へと導かれる

    ニューロンの弱い接続への繰り返し刺激によってその強化が徐々に行われる。

    新しい重みは、方程式によって計算されます。

    Inhibitory Connections

    これも刺激に対して反対の応答を持つ種類の結合である。 この場合、繰り返しの刺激や同時刺激によって接続強度が低下する。

    100

    こうした神経ネットワークに関する詳しい情報は、これを読んで検討すると良いだろう。

    Implementation of Hebbian Learning in a Perceptron

    Frank Rosenblatt は1950年に、閾値ニューロンは環境から学習したり採用したり、分類や認識などの能力を開発できないので、認知のモデルには使えないと推論しています。

    パーセプトロンは、次のような 3 層の生物学的視覚神経モデルからインスピレーションを得ています。

    • 入力層は網膜の感覚細胞と同じで、後続の層のニューロンへのランダム接続を持っています。
    • 応答層は、競合的な抑制信号のために相互に接続された閾値ニューロンを有する。

    応答層ニューロンは出力を出すために抑制信号を送って互いに競合している。 連合層と応答層には原点に閾値関数が設定されている。 これは、これらの層間の学習の基礎を形成する。 知覚の目標は、各入力パターンに対して正しい応答ニューロンを活性化することである。

    結論

    ヘビアン学習は、生物学的な神経の重み調整メカニズムに触発されている。 学習能力のないニューロンを、外部刺激に応答して認知できるようにする方法である。 この考え方は、現在でも神経学習の基礎となっている

    Leave a Reply