Hallo und willkommen zurück zu dem Kurs über das Beurteilen, den wir heute mit der Weiterverbreitung beenden.
In Ordnung, also wissen wir so ziemlich alles, was wir über
alles wissen müssen, was in Ihrem alles passiert, was wir wissen, dass es einen Prozess namens Weiterleitung gibt, bei
dem Informationen in die Eingabeebene eingegeben und dann weitergeleitet werden, um unsere weißen Hüte zu erhalten Unsere Ausgabewerte und dann
vergleichen wir diese mit den tatsächlichen Werten, die wir in unserem Trainingssatz haben.
Und dann berechnen wir die Fehler, dann werden die Fehler wieder in entgegengesetzter Richtung durch das
Netzwerk übertragen, sodass wir das Netzwerk durch Anpassen der Gewichte trainieren können.
Es ist daher wichtig, sich daran zu erinnern, dass die Rückwärtsausbreitung ein fortschrittlicher Algorithmus
ist, der von sehr interessanten und hochentwickelten Mathematiken gesteuert wird, die es uns ermöglichen, die Gewichte anzupassen.
Alle werden gleichzeitig alle Gewichte gleichzeitig eingestellt.
Wenn wir dies manuell tun oder wenn wir einen ganz anderen Algorithmus entwickeln würden als Even, wenn wir
den Fehler berechnet hätten, dann würden wir versuchen zu verstehen, welchen Einfluss jede der
Gewichte auf den Fehler hat, den wir irgendwie haben müssen stellen Sie die Gewichte unabhängig voneinander oder einzeln ein.
Der große Vorteil der Backwardation ist der Schlüssel, den Sie sich merken sollten:
Während des Fortpflanzungsprozesses ist dies nur auf die Struktur des Algorithmus zurückzuführen.
Sie können alle Einstellungen gleichzeitig vornehmen, so dass Sie grundsätzlich wissen, für welchen Teil des Fehlers jedes
Ihrer Gewichte im neuronalen Netzwerk verantwortlich ist.
Nun, das ist das grundlegende Grundprinzip der Rückwärtsausbreitung.
Deshalb hat es in den achtziger Jahren so schnell angezogen, dass dies ein großer Durchbruch war.
Und wenn Sie mehr darüber erfahren möchten und wie genau die Mathematik im Hintergrund funktioniert, dann ist ein
guter Artikel, den wir bereits erwähnt haben, die neuronalen Netzwerke, und Deep Learning ist tatsächlich ein
Buch von Michael Nielsen.
Sie werden feststellen, dass die Mathematik ausgeschrieben ist, und Sie werden verstehen, wie genau dies möglich ist.
Aber jetzt für unsere Zwecke, wenn es aus Sicht der Intuition wichtig ist, sich daran zu erinnern,
dass dies die Backwardation ist.
Es passt alle Gewichte gleichzeitig an.
Und jetzt werden wir einfach alles Schritt für Schritt durchgehen, was beim Training
eines neuronalen Netzwerks passiert.
In Ordnung, also Schritt eins, haben wir die Gewichte zufällig auf kleine Zahlen nahe Null, aber nicht Null, initialisiert.
Wir haben uns nicht wirklich auf die Initialisierung von Gewichtungen in den Intuitions-Tutorials konzentriert, aber
dann müssen wir irgendwo anfangen und sie werden mit zufälligen Werten nahe Null initialisiert.
Von dort aus werden die Gewichte so eingestellt, bis der Fehler
minimiert ist.
So wird die Kostenfunktion minimiert.
Dann Schritt zwei Eingabe der ersten Beobachtung alle Ihre Datensätze in der ersten Zeile in der Eingabe.
Jede Funktion ist eine Eingabe.
Nimm also die Kämme und lege sie getrennt in die Eingangsknoten, um sie von links nach rechts zu verbreiten.
Die Neuronen werden auf eine Art und Weise aktiviert, die sie in unserer Vision auswählen.
Die Aktivierung der Neuronen wird durch die Gewichte begrenzt, deren Gewichte im Wesentlichen bestimmen, wie wichtig die Aktivierung jeder Neuronen ist. Anschließend
wird die Aktivierung so lange fortgesetzt, bis das Ergebnis ein Ergebnis ist.
In diesem Fall.
Du propagierst also grundsätzlich von links nach rechts.
Du gehst den ganzen Weg, bis du ankommst und deinen Hut hast.
Vergleichen Sie dann das Ergebnis mit dem tatsächlichen Ergebnis.
Messen Sie den generierten Fehler und machen Sie dann die Rückwärtsbewegung von rechts nach
links.
Aktualisieren Sie die Gewichte entsprechend, wie viel sie für den Fehler verantwortlich sind.
Wiederum können Sie berechnen, dass die Lernrate aufgrund der Art und Weise, wie der rückwärts propagierte
Störungsalgorithmus strukturiert ist, davon abhängt, um wie viel wir die Lernrate als Lernparameter
aktualisieren, die Sie in Ihrem neuronalen Netzwerk steuern können.
Schritt 6 Wiederholen Sie die Schritte 1 2 5 und aktualisieren Sie die Gewichte nach jeder Beobachtung.
Dies wird als Verstärkungslernen bezeichnet und in unserem Fall war dies ein stochastischer Gradientenabfall oder wiederholen Sie die Schritte 1
bis 5.
Aber so ist es nur nach einer Reihe von Beobachtungen oder Batch-Lernen, es ist entweder ein
voller Gradientenabstieg oder ein grüner Nissan-Abzeichen oder ein Mini-Gradientenabstieg und Schritt sieben, wenn
der gesamte Zug ein künstliches neuronales Netzwerk durchlaufen hat, wodurch eine Epoche mehr Epochen macht.
Also, machen Sie das einfach weiter und tun Sie das und tun Sie es und
um Ihrem neuronalen Netzwerk zu ermöglichen, immer besser zu trainieren und sich ständig anzupassen, während Sie die Kostenfunktion minimieren.
Also los geht's.
Dies sind die Schritte, die Sie unternehmen müssen, um Ihre künstlichen neuronalen Netzwerke aufzubauen und zu trainieren.
Und das sind die Schritte, die Sie unternehmen werden, bis ich in den praktischen Übungen zu Mittag gegessen habe.
Ich wünsche Ihnen viel Glück und ich freue mich darauf, Sie das nächste Mal zu sehen.
Bis dahin viel Spaß beim Lernen.