Obwohl die Informationsverarbeitungsfähigkeiten einzelner Neuronen sehr beschränkt sind, lassen sie sich, wenn viele dieser Einheiten miteinander verknüpft sind, zum Lösen komplexer Aufgaben einsetzen (vgl. [3], S. 17). Dabei spielt das Verbindungsmuster eine entscheidende Rolle: Es gibt an, welche Einheiten miteinander verbunden sind und in welcher Richtung Signale übertragen werden können. Ich gehe im Folgenden nur auf Netze ohne Rückkopplung, so genannte Feedforward-Netze, ein. Bei solchen Netzen existiert kein Pfad, der von einem Neuron direkt oder über andere Neuronen wieder zu diesem Neuron zurückführt. Zudem beschränke ich mich auf ebenenweise verbundene Netze. Diese sind in mehrere Schichten eingeteilt, wobei es nur Verbindungen von einer Schicht zur nächsten gibt (vgl. [8], S. 78).

Schichten von Neuronen

Grundsätzlich lassen sich drei verschiedene Typen von Zellen bezüglich ihrer Position im Netz unterscheiden: Eingabe-, Ausgabe- und verborgene Zellen. Die Neuronen der Eingabe-schicht verteilen die Eingabewerte an die nächste Schicht, die in der Regel eine verborgene Schicht ist (vgl. [4], S. 196). Als Aktivierungsfunktion wird für Eingabeeinheiten meist die Identitätsfunktion verwendet, d.h. die Aktivierung entspricht der Netzeingabe, da hier noch keine Informationsverarbeitung stattfindet. Die Zellen der verborgenen mittleren Schicht(en) „dienen (…) der Informationsverarbeitung innerhalb des neuronalen Netzes“ ([8], S. 74). Die Neuronen der Ausgabeschicht übertragen schließlich das Ergebnis der Verarbeitung zurück nach außen (vgl. [3], S. 18).

Abbildung 4 : Neuronales Netz mit 3 Schichten

Verbindungsnetzwerk aus Gewichten

Das Verbindungsnetzwerk aus Gewichten, auch Konnektivitätsmuster genannt, beschreibt, welche Einheiten miteinander verknüpft sind sowie die Richtungen und Werte der gewichteten Verbindungen (vgl. [3], S. 18). In ebenenweise verbundenen Feedforward-Netzen ist in der Regel jedes Neuron einer Schicht i mit sämtlichen Neuronen der darauf folgenden Schicht j verbunden, wobei die Ausgaben eines Neurons der Schicht i als Eingaben für die Neuronen in Schicht j dienen. Abbildung 4 zeigt ein solches Netz.

Die Gewichte eines neuronalen Netzes legen fest, wofür das Netz eingesetzt werden kann: Die Werte der Gewichtungen aller Verknüpfungen stellen das verteilt gespeicherte Wissen des Netzes dar (vgl. [5], S. 36). Das Verbindungsmuster wird in der Regel durch einen zweistufigen Prozess festgelegt (vgl. [3], S. 18): Zunächst bestimmt man, welche Neuronen miteinander verbunden sind, anschließend erlernt das neuronale Netz die Werte der Gewichtungen während einer Trainingsphase. Weiterlesen

< Mathematisches Modell | Inhaltsverzeichnis | Lernverfahren >