Optimale Anzahl der verborgenen Neuronen

Zusammenfassung

Ein Freiheitsgrad, auf dessen falsche Wahl die Performance des Netzes vor allem bei kleinen Stichproben empfindlich reagiert, ist die Zahl der verborgenen Neuronen. Dies wurde bereits in den Kapiteln 5.4.1 und 6.3.1 demonstriert. Wird das Netz überparametrisiert, besteht die Gefahr von Overfitting und damit einer schlechten Generalisierungsfàhigkeit. Stehen dem Netz zu wenig Gewichte im Trainingsprozess zur Verfügung, dann wird dies tendenziell zu großen Abweichungen zwischen dem wahren funktionalen Zusammenhang und dem geschätzten Zusammenhang führen und damit ebenfalls zu einer schlechten Prognose (vgl. Abbildung 7-1).