Ein brandneues neuronales Netz ist vor jedem Training tatsächlich nutzlos — seine internen Zahlen (seine Gewichte) beginnen zufällig, also sind auch seine Vermutungen zufällig. Backpropagation ist der Prozess, der diesen Zufall in Fähigkeit verwandelt. Es ist weder magisch noch mysteriös — es ist eine präzise, reproduzierbare Berechnung, Millionen Male ausgeführt.
Der Vorwärtsdurchgang: eine Vermutung erzeugen
Jede Vorhersage beginnt mit einem „Vorwärtsdurchgang“: Die Eingabedaten durchlaufen das Netz Schicht für Schicht, wobei jede Verbindung das Signal mit ihrem aktuellen Gewicht multipliziert, bis die letzte Schicht eine Ausgabe erzeugt. Zu Beginn des Trainings, mit zufälligen Gewichten, ist diese Ausgabe fast bedeutungslos. Aber es ist eine echte, spezifische Vermutung, und genau das macht den nächsten Schritt möglich: Sie können sie mit dem vergleichen, was die Antwort tatsächlich hätte sein sollen.
Präzise messen, wie falsch die Vermutung war
Dieser Vergleich erzeugt eine Zahl — den Verlust —, die misst, wie weit die Ausgabe des Netzes von der richtigen Antwort entfernt war. Ein kleiner Verlust bedeutet eine gute Vermutung; ein großer Verlust bedeutet eine schlechte Vermutung. Der Verlust ist nicht nur eine Note — er ist der Ausgangspunkt für den nächsten Schritt.
Der Rückwärtsdurchgang: Schuld zuweisen
Das ist der Schritt, der dem Algorithmus seinen Namen gibt. Mithilfe von Differentialrechnung (der Kettenregel, Schicht für Schicht angewandt) wird der Fehler rückwärts durch das Netz zurückverfolgt — von der Ausgabe, zurück durch jede versteckte Schicht, bis zur Eingabe — und berechnet präzise, wie viel jedes einzelne Gewicht zum endgültigen Fehler beigetragen hat.
Information fließt vorwärts, um eine Vermutung zu erzeugen; das Fehlersignal fließt dann rückwärts durch dieselben Verbindungen und teilt jedem Gewicht präzise seinen Beitrag zum Fehler mit.
Neues Gewicht = altes Gewicht − (Lernrate × Beitrag dieses Gewichts zum Fehler)
Die „Lernrate“ steuert, wie groß jede Änderung ist — zu groß, und das Training wird instabil; zu klein, und das Training zieht sich hin. Wiederholen Sie diesen Zyklus oft genug über genug Beispiele, und die anfänglich zufälligen Gewichte ordnen sich schrittweise zu etwas neu, das tatsächlich ein echtes Muster in den Daten erfasst.
Es tatsächlich geschehen sehen
Über Backpropagation zu lesen bringt nur so weit — die Version unten ist das echte TensorFlow Playground von Google, live eingebettet, genau wie es auf playground.tensorflow.org funktioniert. Drücken Sie Play und beobachten Sie, wie ein echtes Netz, ausgehend von zufälligen Gewichten, schrittweise eine Entscheidungsgrenze durch wiederholte Vorwärts-/Rückwärtsdurchgang-Zyklen formt.
This is the real thing, not a screenshot — click ▶ (top left of the embed) to actually train this network and watch the decision boundary reshape itself as backpropagation runs. Built by the TensorFlow team at Google; open it full-screen here.
Warum das über das Bestehen einer Prüfung hinaus zählt
Jedes große Sprachmodell, jeder Bildklassifikator, jedes Empfehlungssystem, mit dem Sie interagieren, wurde genau durch dieselbe Schleife geformt, eine fast unvorstellbare Anzahl von Malen ausgeführt. Wenn die Mathematik hinter KI etwas ist, das Sie präzise verstehen möchten, statt sie als Blackbox zu akzeptieren, ist genau dafür unsere Hochschul-Nachhilfe da, und Sie können den vollständigen Lernweg hier sehen.
Häufig gestellte Fragen
Lernt das wirklich so wie das menschliche Gehirn?
Nein — „neuronales Netz“ entlehnt eine vage Skizze von Name und Struktur, aber Backpropagation selbst ist eine mathematische Optimierungstechnik ohne bekanntes biologisches Äquivalent. Echte Neuronen senden kein Fehlersignal auf diese Weise durch ihre eigenen Verbindungen zurück, wie es dieser Algorithmus tut. Der Name ist eine Inspiration, kein Anspruch auf biologische Genauigkeit.
Warum nennt man es „Gradientenabstieg“?
Stellen Sie sich den Fehler als eine Landschaft aus Hügeln und Tälern vor, wo jeder mögliche Satz von Gewichten ein Ort ist und die Höhe darstellt, wie falsch das Netz gerade liegt. „Den Gradienten hinabsteigen“ bedeutet, sich immer in die Richtung zu bewegen, die von Ihrer aktuellen Position am steilsten abwärts führt — genau das, was die berechnete Anpassung für jedes Gewicht tut, wiederholt tausende oder Millionen Male.
Warum braucht es manchmal so viel Aufwand, ein Netz richtig zu trainieren?
Jeder Durchgang bewegt die Gewichte nur um einen kleinen Betrag, absichtlich — ein großer Schritt riskiert, eine gute Lösung zu überspringen und die Dinge zu verschlimmern. Echte Netze wiederholen diese kleine Anpassung über den gesamten Trainingssatz mehrfach (jeder vollständige Durchgang heißt „Epoche“), weshalb das Training eines ernsthaften Modells Stunden, Tage oder Wochen Rechenzeit dauern kann.
Bewertungen und Rezensionen von Lesern
Bewerten Sie diesen Artikel in mehreren Kategorien — Ihre Rückmeldung hilft anderen Lesern und uns bei der Verbesserung.
War dieser Artikel hilfreich für Sie?
Sagen Sie uns, was Sie denken — eine Korrektur, eine unbeantwortete Frage, oder ein Thema, das Sie als Nächstes behandelt sehen möchten.
Über den Autor
Sudershan Soni
Gründer und leitender Tutor bei Mostak Services — Tutor für Mathematik, Naturwissenschaften, Informatik und MINT mit Master-Abschluss und über 20 Jahren Berufserfahrung, unterrichtet Schüler von der 11+-Prüfung und GCSE bis zum A-Level und darüber hinaus, online weltweit.
Vollständiges Profil lesen