Künstliche Neuronale Netze (KNN)
| Website: | OnCourse Universität Bremen |
| Kurs: | KI und Nachhaltigkeit |
| Buch: | Künstliche Neuronale Netze (KNN) |
| Gedruckt von: | Gast |
| Datum: | Dienstag, 13. Oktober 2026, 10:04 |
Beschreibung
In dieser Lernaktivität erfährst du mehr über künstliche neuronale Netze.
Einleitung
Während für viele einfachere Probleme mit strukturierten Datensätzen auch einfache Algorithmen im Einsatz sind, sind künstliche neuronale Netze die zurzeit populärste Gruppe von Algorithmen für eine Vielzahl von Problemen. Die Spannweite der Anwendungen, und damit auch der konkreten Architekturen, ist dabei sehr groß. Sie reicht von kleinen Modellen, die beispielsweise auf strukturierten Daten in Sekunden auf einem handelsüblichen Laptop trainiert werden, bis zu sehr großen Modellen wie GPT-4, die z. T. auf spezialisierter Hardware mit tausenden GPUs (Graphics Processing Unit) oder TPUs (Tensor Processing Units) für Tage und Wochen trainiert werden.
Aufbau eines KNN
Gemein ist diesen künstlichen neuronalen Netzen, dass sie lose vom Aufbau des Gehirns inspiriert sind und dessen Lernprozesse nachbilden sollen. Sie bestehen aus miteinander verbundenen Neuronen, die basierend auf einem Eingangssignal durch interne Berechnungen ein Ausgabesignal erzeugen. Innerhalb eines Neurons werden die Eingabesignale summiert. Mithilfe einer Aktivierungsfunktion wird dann ermittelt, welches Ausgabesignal weitergegeben wird.
Künstliche neuronale Netze bestehen aus einer Vielzahl an einzelnen Neuronen, die in Schichten angeordnet sind: Eingabeschicht, verborgene Schichten und Ausgabeschicht. Die Informationen fließen von der Eingabeschicht über die verborgenen Schichten zur Ausgabeschicht. Diese Verbindungen werden im Berechnungsprozess als Gewichte (Verbindungsintensität) dargestellt (siehe folgende Abbildung).
Quelle: eigene Darstellung nach Rohde et al. 2021
Unterschiede der modernen Architekturen
Hinweis
Die Gewichte spielen eine wichtige Rolle bei der Ausbreitung des Signals im Netz. Sie enthalten das Wissen des neuronalen Netzes über die Eingabe-Ausgabe-Beziehung.
Sowohl die Anzahl der versteckten Schichten als auch die Anzahl der Neuronen bestimmen die Komplexität des Modells und sind wichtige zu wählende Parameter bei der Entwicklung eines KNNs. Ziel des KNN-Trainings ist es, die Fehler zwischen den gewünschten Zielwerten und den vom Modell berechneten Werten zu minimieren.
Bei einfachen neuralen Netzen sind alle Neuronen einer Schicht vollständig mit den Neuronen der darauffolgenden Schicht verbunden. Die Informationen fließen dabei nur in eine Richtung. Moderne Architekturen, mit sehr vielen verborgenen Schichten (tiefe neuronale Netze), weichen hiervon ab, da sonst die Anzahl der zu trainierenden Parameter exponentiell ansteigen würde.Einige Beispiele für KNN
- Ein populärer Ansatz sind hier z. B. Convolutional Neural Nets (CNNs – faltende neuronale Netze), die spezielle Filter- und Pooling-Schichten verwenden. Sie eignen sich besonders für strukturierte Daten wie Bilder oder Zeitreihen. Sie erfassen deren räumliche oder zeitliche Abhängigkeiten und reduzieren dabei die Anzahl der Parameter des Netzes.
- Recurrent Neural Nets (RNNs – rekurrente neuronale Netze) nutzen zirkuläre Verbindungen, und sind so z. B. für die Verarbeitung von Zeitreihendaten oder sequenziellen Daten geeignet. Noch modernere Architekturen verwenden Mechanismen wie Attention (Aufmerksamkeit), um Netze mit vielen Parametern trainieren zu können.
- Oder sie versuchen geometrische Zusammenhänge, wie z. B. in Graphen, direkt in der Struktur abzubilden (Graph Neural Networks, Graf-Neuronale Netze). Diese verschiedenen Formen von maschinellen Lernprozessen zeigen die Komplexität des Betrachtungsgegenstands auf.