Zusammenfassung

0 0.2 0.4 0.6 0.8 1

100 120 140 160 180 200 220 240

P(l)

Anzahl exzitatorischer Neuronennex

l= 1 l= 2 l= 3 l= 4 l= 5 l= 6 l= 12 l= 20 l >500

0 0.2 0.4 0.6 0.8 1

100 120 140 160 180 200 220 240

P(l)

Anzahl exzitatorischer Neuronennex

l= 1 l= 2 l= 3 l= 4 l= 5 l= 6 l= 12 l= 20 l >500

(a) (b)

Abbildung 6.15.: WahrscheinlichkeitP(l), dass ein Attraktor aus insgesamtl Zust¨anden besteht f¨ur verschiedene Werte vonlals Funktion der Anzahl nexexzitatorischer Neuronen im Netzwerk.

(a) Kombinierte Dynamik aus synaptischem und Gap Junction Netzwerk. (b) Nur synaptischer Update. In (a) und (b) wurde f¨ur jeden Wert vonnexjeweils 5000 Konfigurationen des synaptischen Netzwerks generiert, in denen jeweils nex−90 zuf¨allig ausgew¨ahlte Neuronen mit unbekanntem Signalverhalten exzitatorisch gesetzt wurden. Die restlichen Neuronen wurden als inhibitorisch angenommen. Als Anfangsbedingung wurden in allen Simulationen alle Sensorneuronen ’aktiv’

gesetzt, also aufU(t= 0) = 1, alle ¨ubrigen aufU(t= 0) = 0.

0 0.2 0.4 0.6 0.8 1

100 120 140 160 180 200 220 240 P(tA)

Anzahl exzitatorischer Neuronennex

tA= 2 tA= 3 tA= 4 tA= 5 tA= 6 tA= 7 tA= 8 tA>500

0 0.2 0.4 0.6 0.8 1

100 120 140 160 180 200 220 240 P(tA)

Anzahl exzitatorischer Neuronennex

tA= 2 tA= 3 tA= 4 tA= 5 tA= 6 tA= 7 tA= 8 tA= 9 tA>500

(a) (b)

Abbildung 6.16.: WahrscheinlichkeitP(tA), dass ein Attraktor nachtAZeitschritten erreicht wurde f¨ur verschiedene Werte vontAals Funktion der Anzahlnexexzitatorischer Neuronen im Netzwerk.

(a) Kombinierte Dynamik aus synaptischem und Gap Junction Netzwerk. (b) Nur synaptischer Update. In (a) und (b) wurde f¨ur jeden Wert vonnexjeweils 5000 Konfigurationen des synaptischen Netzwerks generiert, in denen jeweils nex−90 zuf¨allig ausgew¨ahlte Neuronen mit unbekanntem Signalverhalten exzitatorisch gesetzt wurden. Die restlichen Neuronen wurden als inhibitorisch angenommen. Als Anfangsbedingung wurden in allen Simulationen alle Sensorneuronen ’aktiv’

gesetzt, also aufU(t= 0) = 1, alle ¨ubrigen aufU(t= 0) = 0.

Update Schema ein, in dem elektrische und chemische Signal¨ubertragung kombiniert wer-den, siehe Abb. 6.12. Eine große Schwierigkeit in der Modellierung des gesamten Netzwerks liegt darin, dass nur f¨ur ungef¨ahr die H¨alfte aller Neuronen Kenntnisse vorliegen, ob ihre chemischen Signale exzitatorisch oder inhibitorisch wirken. In einer ersten Ann¨aherung un-tersuchten wir daher globale Eigenschaften der dynamischen Attraktoren f¨ur verschiedene Werte der unbekannten Anzahl exzitatorischer Neuronen bei identischem Anfangssignal.

Die Ergebnisse unserer Simulationen in Abb. 6.13–6.16 zeigen, dass die elektrischen Signale des Gap Junction Netzwerks wichtige Auswirkungen auf die Eigenschaften der Attrakto-ren des Systems haben. Verglichen mit ausschließlich synaptischem Update werden sie in der kombinierten Dynamik einerseits regul¨arer, da es mehr Fixpunkte und Zyklen kurzer Periode gibt. Außerdem sind weniger Update Schritte notwendig, um in einen Attraktor zu gelangen, d.h. die Dynamik wird auchschneller.

Wie im einleitenden Kapitel 1 ausf¨uhrlich dargelegt wurde, lassen sich viele reale Systeme als komplexe Netzwerke interagierender Einheiten beschreiben. Ziel dieser Arbeit war es, zum Verst¨andnis beizutragen, wie sich die Struktur eines Netzwerks auf die Eigenschaften dynamischer Prozesse auswirkt, die auf ihm ablaufen.

In Kapitel 2 wurden dazu zun¨achst die betrachteten Modelle vorgestellt sowie einige grundlegende Definitionen und Methoden eingef¨uhrt. Insbesondere wurde in (2.1)–(2.3) die Gradverteilungskalenfreier Netzwerke definiert, und in Abschnitt 2.4 die Majorit¨ats-dynamik dargestellt, siehe Gleichung (2.19) und Abbildung 2.5.

Der Hauptteil der Arbeit beginnt mit Kapitel 3, in dem die Strukturkorrelierter skalen-freier Netzwerke beschrieben wird. Netzwerke, in denen ¨ahnliche Knoten besonders h¨aufig untereinander verbunden sind, werden dabei alsassortativ bezeichnet, sind Knoten eher mit andersartigen Knoten verbunden, nennt man esdissortativ, siehe auch Abbildung 3.1.

Hauptergebnis dieses Kapitels ist die Charakterisierung maximal korrelierter Netzwer-ke. Generell gibt es unterschiedliche Methoden, korrelierte Netzwerke zu erzeugen, siehe beispielsweise [41, 65, 80, 81]. Wie wir in Gleichung (3.12) und Abbildung 3.4 zeigen konnten, erzeugt der von uns verwendete Algorithmus aus [66] tats¨achlichmaximal assor-tative bzw. dissorassor-tative Konfigurationen f¨ur ein Netzwerk gegebener Gradverteilung. Die in dieser Arbeit vorgestellten Ergebnisse gelten somit allgemein und sind nicht auf diesen speziellen Algorithmus beschr¨ankt.

In maximalassortativenNetzwerken bilden sich Schichten von Knoten niedrigen Grades k ≤k_s aus, innerhalb derer Knoten fast ausschließlich mit Knoten gleichen Grades ver-bunden sind, siehe Abbildung 3.7. Nach Gl. (3.24) steigtksmit wachsender Netzwerkgr¨oße an, es bilden sich also immer mehr Schichten aus. Bei gegebener Netzwerkgr¨oße istk_s limi-tiert durch die Knoten hohen Grades. In skalenfreien Netzwerken sind diese Knoten nicht zahlreich genug, um alle ihre Kanten nur mit Knoten gleichen Grades zu verbinden. Sie m¨ussen daher einen Teil ihrer Kanten in Schichten niedrigeren Grades”exportieren“, wo-durch die entsprechenden Netzwerke f¨ur großekeinen dissortativen Charakter bekommen, siehe Abb. 3.8. F¨ur Netzwerke unterhalb einer bestimmten Gr¨oßeN_b ist dieser Effekt so dominant, dass sich dadurchkeine separaten Schichten ausbilden k¨onnen, siehe Gl. (3.22).

Auch in maximaldissortativen Netzwerken finden wir eine ausgepr¨agte Schichtstruktur, siehe Abb. 3.11. Im Gegensatz zu assortativen Netzwerken handelt es sich hier jedoch um Doppelschichten mit Knoten niedrigen Grades auf der einen Seite und Knoten hohen Grades auf der anderen Seite. Die Anzahl der Schichten eines gegebenen Netzwerks ist beschr¨ankt durch den mittleren Grad kme, um den herum sich die beiden H¨alften der innersten Doppelschicht treffen. Nach (3.59) w¨achstk_mezun¨achst mit der Netzwerkgr¨oße, nimmt f¨ur große Netzwerke aber schließlich einen konstanten Wert ein. In skalenfreien Netzwerken mit gegebenen k₀ und γ ist die maximale Zahl an Doppelschichten somit

begrenzt und w¨achst nicht monoton mitN, siehe Gl. (3.61).

Zus¨atzlich zu dieser anschaulichen Charakterisierung konnten wir f¨ur maximal assor-tative wie dissorassor-tative Netzwerke analytische Gleichungen f¨ur die Skalierung der entspre-chenden Pearson-Koeffizienten r_max und r_min mit der Netzwerkgr¨oße N herleiten, siehe (3.48), bzw. (3.82). In maximal assortativen Netzwerken mit γ . 2.5 sind die Hubs so dominant, dassr_maxstets negativ bleibt, siehe auch Abbildung 3.9. Gemessen am Vorzei-chen des Pearson-Koeffizienten k¨onnen diese Netzwerke also niemals assortativ werden.

Auch anhand der Skalierung vonr_minsehen wir, dass derPearson-Koeffizient als durchaus problematisch zu betrachten ist. Wie aus (3.82) hervorgeht, verschwindetrmin im Bereich 2< γ <3 f¨ur große Netzwerke, siehe auch Abbildung 3.12. Wie wir an der ausgepr¨agten Schichtstruktur und auch anhand vonK_nn gesehen haben, sind die betreffenden Netzwer-ke jedoch Netzwer-keineswegs als unkorreliert, sondern als eindeutig dissortativ anzusehen. Dieses Ergebnis ist von Bedeutung f¨ur Untersuchungen realer wie theoretischer Netzwerke mit skalenfreien Verteilungen, in denen oftmals der Pearson-Koeffizienten als alleiniges Maß f¨ur Assortativit¨at verwendet wird.

Nach diesen ausf¨uhrlichen ¨Uberlegungen zur Struktur skalenfreier Netzwerke, wurden in den folgenden Kapiteln die Eigenschaften dynamischer Prozesse betrachtet. In Kapi-tel 4 untersuchten wir zun¨achst die Majorit¨atsdynamik auf unkorrelierten skalenfreien Netzwerken. In diesem Fall hat die Dynamik nur zwei stabile Fixpunkte, die den voll-st¨andig geordneten Zust¨anden entsprechen, siehe Abbildung 4.1. In [35, 36] wurde anhand einer Meanfield-Theorie untersucht, wie schnell ungeordnete Muster in einen der bei-den Fixpunkte zerfallen. Das ¨uberraschende Ergebnis lautet, dass die Zerfallszeit t_d f¨ur 2 < γ < 2.5 im Grenzfall großer Netzwerke konstant bleibt, w¨ahrend t_d f¨ur γ ≥ 2.5 lo-garithmisch mit der Netzwerkgr¨oße divergiert, siehe (4.13) und (4.22). Dieses Ergebnis ist robust und gilt f¨ur einfache Netzwerke, Multinetzwerke, sowie f¨ur parallelen und asyn-chronen Update. In dieser Arbeit haben wir anhand umfangreicher Computersimulationen zun¨achst bereits vorhandene Ergebnisse aus [35, 36] f¨ur ungerichtete Netzwerke validiert und verbessert, siehe Abbildung 4.3. Anschließend wurden die Vorhersagen derMeanfield -Theorie f¨ur erweiterte Modelle gerichteter Netzwerke ¨uberpr¨uft. Dabei untersuchten wir zwei Typen gerichteter skalenfreier Netzwerke: (i) Netzwerke mit derselben Anzahl ein-und abgehender Kanten je Knoten, d.h. P(k_in|k_out) = δ(k_in−k_out). (ii) Netzwerke mit P(k_in|k_out) ∼ (k_in+k_out)^−γ−1. In beiden F¨allen finden wir hervorragende ¨ Ubereinstim-mung zur Theorie, sowohl bei einfachen Netzwerken, als auch bei Multinetzwerken, sowie f¨ur parallelen Update und asynchronen Update, siehe Abb. 4.4 und 4.6.

In Kapitel 5 gingen wir einen Schritt weiter und untersuchten die Eigenschaften der Majorit¨atsdynamik auf korrelierten Netzwerken. Im Gegensatz zu unkorrelierten Netz-werken zerfallen ungeordnete Muster nicht in einen der vollst¨andig geordneten Zust¨ande, sondern eine Vielzahl zus¨atzlicher Attraktoren entsteht, siehe Abbildung 5.1. Eine Analy-se der Eigenschaften der Attraktoren zeigt, dass sie eng mit der in Kapitel 3 dargestellten Schichtstruktur der Netzwerke verkn¨upft sind. Die Knoten einer einzelnen Schicht nehmen alle denselben Zustand ein, jedoch k¨onnen verschiedene Schichten unterschiedliche Zust¨an-de einnehmen. In assortativen Netzwerken entstehen dadurch zus¨atzliche Fixpunkte, siehe Abb. 5.3.

In dissortativen Netzwerken stellt sich die Situation aufgrund der Doppelschichtstruktur

stand ein und es entsteht ein Fixpunkt innerhalb der gesamten Doppelschicht. (ii) Die einzelnen Seiten nehmen unterschiedliche Zust¨ande ein, wodurch ein Blinker entsteht, bei dem die Zust¨ande beider Seiten in jedem Zeitschritt ihr Vorzeichen wechseln. Aus der kombinierten Dynamik vieler Doppelschichten ergibt sich f¨ur das gesamte Netzwerk eine Vielzahl m¨oglicher stabiler Zust¨anden, die entweder Fixpunkte oder Blinker sind.

Um zu kl¨aren, wieviele derartige Attraktoren es in einem Netzwerk gibt, wurden um-fangreiche Computersimulationen durchgef¨uhrt. Da in assortativen Netzwerken die Anzahl unabh¨angiger Schichten monoton mitN ansteigt, finden wir erwartungsgem¨aß auch eine wachsende Anzahl an Attraktoren, siehe Abbildung 5.9. Ganz anders stellt sich die Situa-tion bei dissortativen Netzwerken dar. Wie in Abbildung 5.11 zu sehen ist, wird die Anzahl der Attraktoren f¨ur alle Werte vonγ beimittleren Netzwerkgr¨oßen maximal und f¨allt f¨ur große Netzwerke wieder ab. Dieses Ergebnis ist zun¨achst sehr ¨uberraschend, da die Anzahl der verschiedenen strukturellen Schichten nach (3.61) f¨ur großeN einen konstanten Wert einnimmt und man daher nach (5.5) auch ein Plateau in der Zahl der Attraktoren erwar-ten w¨urde. Nach einer genauen Analyse der Struktur der Attraktoren in Abbildung 5.12 gibt es zwei Tendenzen, die f¨ur die Abnahme in der Zahl der Attraktoren verantwortlich sind: (i) Mit steigender Netzwerkgr¨oße synchronisieren benachbarte Schichten verst¨arkt und sind immer weniger dynamisch unabh¨angig. (ii) Innerhalb einzelner Doppelschichten treten Fixpunkte h¨aufiger auf, siehe auch Abbildung 5.15. Wir f¨uhren dies darauf zur¨uck, dass die Doppelschichten mit wachsender Knotenanzahl bei gleichbleibendem mittleren Grad zunehmend

”ausd¨unnen“, was weniger Frustrationen und eine insgesamt einfachere Dynamik zur Folge hat. Eine wichtige Rolle spielen in diesem Zusammenhang sicherlich auch die Knoten hohen Grades, ¨uber die benachbarte Schichten kleinen Grades mitein-ander verbunden sind. Eine genaue Kl¨arung dieser Effekte soll Gegenstand zuk¨unftiger Untersuchungen sein.

Weitere Ansatzpunkte f¨ur nachfolgende Arbeiten finden sich bereits in Anhang C, wo die Anzahl der Attraktoren f¨ur einige erweiterte Modelle untersucht wird. Das Maximum bei mittleren Netzwerkgr¨oßen stellt sich als robust heraus, insbesondere f¨ur gerichtete Netzwerke und Netzwerke mit unterschiedlich gewichteten Kanten. ¨Ahnliche Ergebnisse erwarten wir deswegen auch f¨ur andere Update Mechanismen. Alle Simulationen dieses Kapitels wurden mit parallelem Update durchgef¨uhrt. Vorl¨aufige Ergebnisse von Simula-tionen mit asynchronem Update deuten darauf hin, dass zwar die Blinker verschwinden, sich jedoch wieder dieselben Schichten von dynamisch unabh¨angigen Knoten ausbilden.

Neben der Anzahl der Attraktoren ist f¨ur viele Anwendungen auch relevant, wie schnell sie eingenommen werden, siehe Kapitel 4, und wie stabil sie sind. F¨ur korrelierte Netzwerke erwarten wir aufgrund ihrer heterogenen Schichtstruktur eine ¨Uberlagerung verschiedener Zeitskalen und unterschiedlich stabiler Attraktoren.

Abschließend wurden in Kapitel 6 einige erste Ergebnisse zur Dynamik des neuronalen Netzes des Wurms C. Elegans vorgestellt. F¨ur eine schematische Darstellung des Netz-werks siehe Abbildung 6.1. Insgesamt besteht das betrachtete somatische Teilsystem aus 282 Neuronen, die in drei Klassen eingeteilt werden k¨onnen: (i) Sensorneuronen, (ii) In-terneuronen und (iii) Motorneuronen. Die Kommunikation zwischen den Neuronen findet einerseits ¨uber etwa 9000 synaptische Verbindungen statt, an denen elektrische Signale

indirekt ¨uber chemische Botenstoffe ¨ubertragen werden und andererseits ¨uber etwa 800 Gap Junctions, ¨uber die elektrische Signale direkt ausgetauscht werden k¨onnen. In ei-ner ersten Analyse dieser beiden unterschiedlichen Verbindungen finden wir, dass sich die Aufteilung der Signal¨ubertragung in zwei unterschiedliche Mechanismen auch in der Netz-werkstruktur widerspiegelt, siehe Abb. 6.2: Zwei Neuronen sind nur sehr selten ¨uberbeide M¨oglichkeit miteinander verbunden, sondern entweder ¨uber Gap Junctions, oder ¨uber Synapsen. Das gesamte neuronale Netz des C. Elegans besteht somit aus zwei Subnetz-werken, die einerseits stark ineinander verflochten sind, da die meisten Neuronen sowohl Gap Junctions als auch Synapsen aufweisen. Andererseits sind sie gleichzeitig als weitge-hend getrennt aufzufassen, da sich ihre Verbindungen kaum ¨uberschneiden. Wie aus den Abbildungen 6.3–6.5 hervorgeht, weisen die beiden Subnetzwerke auch unterschiedliche strukturelle Merkmale auf: Die Gradverteilung des synaptischen Netzwerks hat teilweise exponentiellen Charakter, w¨ahrend das Netzwerk der Gap Junctions als eher skalenfrei interpretiert werden kann. Zudem ist ersteres eindeutig assortativ, w¨ahrend letzteres als schwach dissortativ anzusehen ist. ¨Ahnlich ist hingegen in beiden Netzwerken die Ver-teilungen der Verbindungen auf die verschiedenen Neuronenklassen, siehe Abbildung 6.6.

Die Informationsverarbeitung l¨asst sich in beiden Netzwerken als Dreischichtenmodell be-schreiben.

Da wichtige elektrophysiologische Details nicht genau gekl¨art oder teilweise sogar v¨ollig unbekannt sind, stellt sich Modellierung der Dynamik des gesamten neuronalen Netz-werks als schwierig heraus. Insbesondere liegen nur f¨ur ungef¨ahr die H¨alfte aller Neuronen Kenntnisse vor, ob ihre chemischen Signale exzitatorisch oder inhibitorisch wirken. Um dennoch einige grundlegende Aussagen ¨uber globale Aktivit¨atsmuster treffen zu k¨onnen, verwenden wir m¨oglichst einfache Modelle, die zumindest einige wichtige Aspekte wie-dergeben sollen: F¨ur die chemische Signal¨ubertragung w¨ahlen wir nach den Ergebnissen aus [122–125] eine Dynamik mit diskreten Zust¨anden, die einfachste M¨oglichkeit ist ein McCulloch-Pitts-Neuron, siehe (6.2). Die ¨uber Gap Junctions vermittelten elektrischen Signale folgen hingegen der Dynamik eines Kabelmodells [95] mitkontinuierlichen Varia-blen, siehe (6.6)–(6.10). Da chemische und elektrische Signal¨ubertragung sowohl in ihren Zeitskalen, als auch aufgrund der Netzwerkstruktur als getrennt aufgefasst werden k¨onnen, f¨uhren wir ein kombiniertes Update Schema ein, das beide Prozesse separat betrachtet, siehe Abbildung 6.12. Anhand dieses Schemas untersuchten wir globale Eigenschaften der dynamischen Attraktoren f¨ur verschiedene Werte der unbekannten Anzahl exzitatorischer Neuronen bei identischem Anfangssignal. Wir finden, dass unabh¨angig von der genauen Verteilung der exzitatorischen Neuronen die Einbeziehung der Dynamik des Gap Junc-tion Netzwerks zu einer Beschleunigung der Dynamik f¨uhrt, da weniger Update Schritte notwendig sind, um in einen Attraktor zu gelangen, siehe Abb. 6.16. Diese Attraktoren sind zudem regul¨arer, da es sich ¨uberwiegend um Fixpunkte und Zyklen kurzer Periode handelt, w¨ahrend bei rein synaptischen Update Attraktoren mit langen Periodendauern dominieren, siehe Abbildung 6.15.

Unsere Arbeit am C. Elegans bietet eine ganze Reihe von Ansatzpunkten f¨ur weite-re Untersuchungen. Von zentraler Bedeutung ist sicherlich, die große Zahl unbekannter Parameter zu reduzieren. Unsere Ergebnisse liefern erste Hinweise darauf, in welchem Be-reich sich die unbekannte Anzahl exzitatorischer Neuronen befinden sollte. Weitere

Ein-Sobald die offenen Fragen zur Struktur des neuronalen Netzes besser beantworten wer-den k¨onnen, lassen sich auch die Aktivit¨atsmuster der Dynamik genauer charakterisieren.

Eine interessante Fragestellung besteht beispielsweise darin, wie sensibel die Sinneslei-stungen des Wurms sind, d.h. wie stark die Aktivit¨atsmuster variieren, die durch ¨ahnliche Eingangssignale auf den Sensorneuronen generiert werden. Oder allgemeiner: Wieviele verschiedene Muster kann der Wurm ¨uberhaupt generieren?

Anhand neuester Methoden ist es m¨oglich, die Aktivit¨atsmuster des Nervensystems in vivo direkt zu beobachten und dabei einzelne Neuronen zu manipulieren [134]. Damit sind viele theoretische Ergebnisse direkt dem Experiment zug¨anglich. Wir sind ¨uberzeugt, dass aus dieser Interaktion in der n¨achsten Zeit viele interessante Erkenntnisse entstehen werden.

Erzeugung gerichteter Netzwerke