30 mars 2019 – 3 min de lecture
Le réseau neuronal le plus simple (neurone à seuil) n’a pas la capacité d’apprendre, ce qui constitue son principal inconvénient. Dans le livre « The Organisation of Behaviour », Donald O. Hebb a proposé un mécanisme de mise à jour des poids entre les neurones d’un réseau neuronal. Cette méthode de mise à jour des poids a permis aux neurones d’apprendre et a été nommée apprentissage hébbien.
Trois points majeurs ont été énoncés dans le cadre de ce mécanisme d’apprentissage :
L’information est stockée dans les connexions entre les neurones dans les réseaux neuronaux, sous la forme de poids.
La variation des poids entre les neurones est proportionnelle au produit des valeurs d’activation des neurones.
Au fur et à mesure de l’apprentissage, l’activation simultanée ou répétée de neurones faiblement connectés modifie de manière incrémentielle la force et le modèle des poids, conduisant à des connexions plus fortes.
Le stimulus répété de connexions faibles entre neurones conduit à leur renforcement incrémentiel.
Les nouveaux poids sont calculés par l’équation :
Connexions inhibitrices
C’est un autre type de connexion, qui ont une réponse opposée à un stimulus. Ici, la force de la connexion diminue avec des stimuli répétés ou simultanés.
Pour des informations détaillées sur ces réseaux neuronaux, il faut envisager de lire ceci.
Implémentation de l’apprentissage hébbien dans un perceptron
Frank Rosenblatt en 1950, en déduit que le neurone à seuil ne peut pas être utilisé pour modéliser la cognition car il ne peut pas apprendre ou adopter de l’environnement ou développer des capacités de classification, de reconnaissance ou des capacités similaires.
Un perceptron s’inspire d’un modèle neuronal visuel biologique avec trois couches illustrées comme suit :
La couche d’entrée est synonyme de cellules sensorielles dans la rétine, avec des connexions aléatoires aux neurones de la couche suivante.
Les couches d’association ont des neurones à seuil avec des connexions bidirectionnelles à la couche de réponse.
La couche de réponse possède des neurones à seuil qui sont interconnectés entre eux pour une signalisation inhibitrice compétitive.
Les neurones de la couche de réponse sont en compétition entre eux en envoyant des signaux inhibiteurs pour produire une sortie. Des fonctions de seuil sont fixées à l’origine pour les couches d’association et de réponse. Ceci constitue la base de l’apprentissage entre ces couches. Le but de la perception est d’activer les neurones de réponse corrects pour chaque modèle d’entrée.
Conclusion
L’apprentissage hébbien est inspiré du mécanisme biologique d’ajustement du poids des neurones. Il décrit la méthode pour convertir un neurone une incapacité à apprendre et lui permet de développer la cognition avec la réponse aux stimuli externes. Ces concepts sont encore aujourd’hui la base de l’apprentissage neuronal.
Leave a Reply