En bref, vous ne pouvez pas faire de rétro-propagation si vous n'avez pas de fonction objectif. Vous ne pouvez pas avoir de fonction objective si vous n'avez pas de mesure entre une valeur prédite et une valeur étiquetée (données réelles ou d'apprentissage). Donc, pour parvenir à un "apprentissage non supervisé", vous devrez peut-être abandonner la possibilité de calculer un gradient.
Quelles sont les limites de la rétropropagation ?
Inconvénients de l'algorithme de rétropropagation:
Il s'appuie sur les entrées pour résoudre un problème spécifique. Sensible aux données complexes/bruyantes. Il a besoin des dérivées des fonctions d'activation pour la conception du réseau.
Comment réparer la rétro-propagation ?
Processus de rétropropagation dans un réseau de neurones profond
- Valeurs d'entrée. X1=0,05. …
- Poids initial. W1=0,15 w5=0,40. …
- Valeurs de biais. b1=0.35 b2=0.60.
- Valeurs cibles. T1=0,01. …
- Passe avant. Pour trouver la valeur de H1, nous multiplions d'abord la valeur d'entrée à partir des poids comme. …
- Passage arrière au niveau de la sortie. …
- Passe arrière au calque caché.
La rétropropagation est-elle efficace ?
La rétropropagation est efficace, ce qui permet de former des réseaux multicouches contenant de nombreux neurones tout en mettant à jour les poids pour minimiser les pertes.
Quel problème la rétropropagation résout-elle lorsque l'on travaille avec des réseaux de neurones ?
En ajustant un réseau de neurones, la rétropropagation calcule le gradient dela fonction de perte par rapport aux poids du réseau pour un seul exemple d'entrée-sortie, et le fait efficacement, contrairement à un calcul direct naïf du gradient par rapport à chaque poids individuellement.
