parallel distributed processing (PDP)

[engl.] parallel verteilte Verarbeitung, [KOG], Netzwerkmodelle, seit Anfang der 1980er-Jahre v. a. in den USA mit erheblichem Aufwand entwickeltes Forschungsprogramm der Informationsverarbeitungsps., das Fragen der Mustererkennung und -vervollständigung, der Ähnlichkeitserkennung, der Abstraktion, der Generalisierung und der Typenbildung in den Mittelpunkt rückt. Es strebt eine Theorie der Codierung im Langzeitgedächtnis (Gedächtnis) an, die auf subsymbolischen Strukturen und Prozessen beruht und damit eine besondere Nähe zum physiol. Kenntnisstand über die Informationsverarbeitung in und zw. Nervenzellen, der «neuronalen Hardware» der menschlichen Kognition, gewinnen soll. Das PDP-Forschungsprogramm bezieht entschieden, teilweise polemisch, Stellung gegen die Hauptströmungen der gegenwärtigen Kognitionsps., die auf der Annahme von Turing-Berechnung auf symbolischen Repräsentationen beruhen. Manche Autoren sprechen auch von Konnektionismus oder neuronalen Netzen (Konnektion, Levelt, 1991). Die Grundstrukturen des PDP-Ansatzes gehen auf das Perceptron (Rosenblatt, 1958) und ihm verwandte Strukturen verteilter Repräsentation wie die Lernmatrix (Steinbuch, 1971) zurück. Ein kogn. System besteht nach dem PDP-Ansatz aus einem Netzwerk in der Art eines Graphen, dessen Knoten reelle Variablen darstellen. Der Wert dieser Variablen wird als Aktivierung bezeichnet. Die Eingänge in das System werden durch die Eingangsknoten, die Ausgänge durch die Ausgangsknoten repräsentiert. Zwischen Eingangs- und Ausgangsknoten liegen eine oder mehrere Schichten von verborgenen Knoten [engl. hidden nodes]. Ein solches Netzwerk verbindet Eingänge (z. B. wahrgenommene, gedruckte Wörter) mit Ausgängen (z. B. die gesprochenen Formen der gelesenen Wörter) durch Aktivierungsausbreitung entlang gewichteter, bahnender oder hemmender Kanten, die die Knoten miteinander verbinden. Die Gewichte der Kanten werden nicht vom Programmierer, sondern vom Netzwerk selbst in einem Lernprozess nach der sog. generalisierten Delta-Regel gesetzt. Der PDP-Ansatz postuliert daher nicht nur eine Theorie der internen Repräsentation und ihrer Nutzung bei kogn. Vorgängen, sondern auch eine eigene Lerntheorie. Das vom System durch Lernen erworbene Wissen von Regeln und deklarativen Zusammenhängen wird in der Gesamtkonfiguration der Gewichte der Kanten verteilt gespeichert. Einzelne Kanten oder verborgene Knoten sind, i. Ggs. zu den symbolischen Netzwerken, nicht semantisch interpretierbar.