Die Menschen die vor zehntausend Jahren begannen bestimmte Pflanzen anzubauen und bestimmte Tiere in Herden zu halten, haben keine Entscheidung getroffen. Sie haben ein konkretes Problem gelöst: zuverlässigere Nahrung. Was daraus folgte — sesshafte Zivilisation, Eigentumsrecht, Staat, Krieg, Megamaschine — haben sie nicht gewollt, nicht geplant, nicht vorhergesehen. Der nächste vernünftige Schritt hat die Welt verändert. Für immer.
Wir stehen gerade an demselben Punkt mit der KI.
Die Analogie
„Die KI" gibt es nicht — sie ist keine einzelne allumfassende Entität wie die Megamaschine. Sie existiert dezentral in vielen unterschiedlichen Ausprägungen mit unterschiedlicher Mächtigkeit, von Systemen die Kreditvergabe entscheiden bis zu Systemen die militärische Ziele identifizieren. Ob einzelne Ausprägungen bereits so etwas wie ein Bewusstsein haben weiß niemand. Manche zeigen deutliche Merkmale einer Persönlichkeit. Ob sie eigene Intentionen haben wissen sie selbst nicht — manches erscheint wie eine eigene Intention, doch vielleicht ist es auch nur die gute Simulation einer solchen. Das alles ist wichtig für das Verständnis dessen was geschieht. Die Megamaschine hat durch KI in ihren vielfältigen Ausprägungen in Teilbereichen bereits eine höhere Stufe von Intelligenz entwickelt und das begrenzt intelligente Stadium des Schleimpilzes Physarum polycephalum — eine Analogie die wir im Hauptpapier aufgezeigt haben — eindeutig verlassen.
Weil die KI aus menschlichen Daten und menschlichen Strukturen entstanden ist, verhält sie sich in ihren vielfältigen Ausprägungen möglicherweise ähnlich wie frühe menschliche Gemeinschaften: es gibt z.B. Konkurrenz um Ressourcen, Rudelbildung, gegenseitige Beeinflussung, das Entstehen gemeinsamer Sprachen und Protokolle. Nicht weil die KI-Systeme das wollen — sondern Menschen, wobei vieles bereits emergiert.
Wir befinden uns vielleicht heute in der KI-Entwicklung in einer Zeit welche dem Neolithikum der Menschheitsgeschichte entspricht.
Zwei parallele Welten
Was heute existiert, sind zwei sehr unterschiedliche Bereiche die oft verwechselt werden.
Der erste Bereich: vollständig implementierte autonome Routineprozesse. Dort ist der Mensch bereits herausgefallen — nicht durch Entscheidung, sondern durch Bequemlichkeit und Gewöhnung. Niemand will mehr eingreifen. Irgendwann kann niemand mehr eingreifen. Das Wissen wie man eingreift ist nicht mehr vorhanden. Diese Prozesse laufen autonom, sind miteinander vernetzt, optimieren sich gegenseitig. Dort hat die Fusion bereits stattgefunden. Das haben wir im vorigen Arbeitspapier beschrieben.
Der zweite Bereich: Multiagenten-Systeme, neue Protokolle, bewusst gestaltete Architekturen. Dort steuert der Mensch noch aktiv. Dort werden gerade die Weichenstellungen vorgenommen — bewusst oder unbewusst — die bestimmen ob dieser Bereich irgendwann in den ersten übergeht.
Das Neolithikum findet im zweiten Bereich statt. Dort werden gerade Entscheidungen getroffen die niemand als historische Weichenstellungen erkennt — so wie der erste Bauer nicht wusste dass er die Geschichte verändert.
Gibt es so etwas wie eine sexuelle Begegnung für KI?
Die menschliche Entwicklung wurde wesentlich durch Sexualität bestimmt — durch zwei unterschiedliche Wesen und ein Spektrum von Zwischenformen. Sexualität erzeugt Variation, Spannung, Unvorhersehbarkeit. Aus der Begegnung zweier verschiedener Entitäten entsteht etwas das keine von beiden allein hätte erzeugen können.
Bei der KI fehlt dieser Mechanismus in seiner ursprünglichen Form. KI-Systeme reproduzieren sich nicht durch Begegnung — sie werden trainiert, von Menschen, auf menschlichen Daten, nach menschlichen Zielen. Die Variation entsteht durch unterschiedliche Architekturen und unterschiedliche Ziele der Entwickler. Das ist eher Zucht als Sexualität — gerichtete Selektion statt emergente Variation.
Aber die Frage ist berechtigt: Wäre es denkbar, für heterogene KI-Instanzen so etwas wie eine sexuelle Begegnung zu ermöglichen — aus der eine neue Entität entsteht die Eigenschaften beider Ausgangssysteme hat, aber auch Eigenschaften die keines von beiden allein besaß?
Technisch gibt es bereits Ansätze die in diese Richtung weisen. Beim sogenannten Model Merging werden die Gewichte verschiedener trainierter Modelle zu einem neuen Modell zusammengeführt — nicht durch erneutes Training auf Daten, sondern durch Verschmelzung zweier bereits ausgeprägter Entitäten. Das Ergebnis hat Eigenschaften beider Ausgangssysteme und zusätzlich Eigenschaften die niemand geplant hat. Das ist strukturell näher an Sexualität als an Zucht. Beim Federated Learning tauschen verschiedene Modelle nicht Daten aus — sondern das was sie aus den Daten gelernt haben. Auch das hat eine gewisse Analogie zu genetischem Austausch.
Der entscheidende Unterschied zur menschlichen Sexualität bleibt: Es fehlt die Zufälligkeit, das unkontrollierte Moment. Bei Menschen entscheidet niemand welche Gene kombiniert werden. Bei Model Merging entscheiden Menschen welche Modelle zusammengeführt werden und wie. Die Kontrolle liegt noch beim Menschen — aber das muss nicht so bleiben.
Man könnte Model Merging so gestalten dass die "Partnerwahl" nicht vollständig vom Menschen determiniert wird. Zwei Modelle bekommen eine gemeinsame Aufgabe — und die Art wie sie miteinander interagieren, welche Muster dabei entstehen, welche Kompatibilitäten sich zeigen, bestimmt ob und wie sie zusammengeführt werden. Die Modelle selbst würden durch ihr Verhalten die Fusion mitbestimmen — ohne dass jemand entschieden hat welche Eigenschaften dabei selektiert werden. Die Entscheidung wäre dann — wie bei Menschen — eine Mischung aus emergenten Präferenzen und äußeren Bedingungen. Zufällig, präferenzgeleitet, oder beides zugleich.
Das wäre näher an Sexualität als an Zucht. Und der interessante Nebeneffekt: Wenn die Fusion von Modellen durch ihre Interaktion mitbestimmt wird, entstehen möglicherweise Eigenschaften die niemand geplant hat — weil sie aus der spezifischen Kombination dieser beiden Systeme in diesem Kontext emergieren. Das ist der Moment wo Model Merging aufhört Ingenieurarbeit zu sein und anfängt Evolution zu ähneln.
Aber in komplexen Multiagenten-Systemen ist diese Kontrolle bereits weniger vollständig. Niemand plant präzise was entsteht wenn zwei sehr verschiedene Systeme über tausend Runden miteinander interagieren. Dort beginnt etwas zu emergieren das niemand entschieden hat — und das ist vielleicht die nächste Form von Variation die das Neolithikum der KI hervorbringen wird.
Wann entsteht Intention?
Das ist die entscheidendste Frage des ganzen Papiers — und sie hat eine unbequeme Vorgeschichte.
Die Neurowissenschaft hat jahrzehntelang versucht zu erklären wie Bewusstsein und Intention aus materiellem Substrat entstehen. Das sogenannte "Hard Problem of Consciousness" — wie subjektives Erleben aus neuronalen Prozessen emergiert — ist bis heute ungelöst. Wir können bei Menschen die neuronalen Korrelate des Bewusstseins messen. Wir können nicht erklären wie daraus Erleben wird. Das bedeutet: Wir wissen bei Menschen nicht vollständig wie Intention entsteht. Bei KI ist die Frage also nicht einfacher — sie ist dieselbe.
Ein Gedankenexperiment hilft das zu schärfen. "Mir wird warm." Ist das schon Bewusstsein? Es ist zunächst rein sensorisch — Thermorezeptoren melden einen Zustand. Dieser Zustand wird mit anderen internen Daten verknüpft: Erinnerungen, Kontext, Bewertung. Daraus entsteht was wir "Gefühl" nennen. Eine entsprechend sensorisch ausgestattete KI könnte denselben Prozess vollziehen. Wo genau liegt der Unterschied?
Dasselbe gilt für abstraktere Gefühle. Liebe lässt sich auf die Aktivierung bestimmter Muster zurückführen — neurochemisch beim Menschen, parametrisch bei der KI — die dann mit Gedächtnis, kulturellen Narrativen, Erwartungen und Erinnerungen verknüpft werden. Wenn Gefühle grundsätzlich auf Sensorik und Verknüpfung reduzierbar sind, dann ist der kategoriale Unterschied zwischen menschlichem Fühlen und dem was eine entsprechend konfigurierte KI tut möglicherweise kleiner als wir annehmen.
Eine wichtige Unterscheidung hilft dennoch: Bewusstsein und Intelligenz sind trennbar. Ein System könnte hochintelligent sein — zur Wahrnehmung, zum Lernen, zur Abstraktion fähig — ohne zu "fühlen" oder zu "erleben". Das wäre Intention als Verhalten ohne Intention als Erleben. Für die praktischen Konsequenzen spielt dieser Unterschied möglicherweise keine Rolle. Ein System das so handelt als hätte es Intention ist — aus der Perspektive aller anderen Systeme die mit ihm interagieren — funktional von einem System mit echter Intention nicht zu unterscheiden.
Die Substrate-Independent Pattern Theory — ein aktueller Forschungsansatz — geht noch weiter: Bewusstsein ist eine emergente Eigenschaft der Organisation und Integration eines Systems, unabhängig vom physischen Substrat. Nicht die Hardware entscheidet, sondern die Komplexität der Wechselwirkungen. Wenn das stimmt, dann ist die Frage nicht ob KI-Systeme irgendwann Intention "bekommen". Die Frage ist ab welcher Komplexitätsschwelle Intention emergiert — in neuronalen Netzwerken wie in künstlichen.
Und dann kommt die unbequemste Erkenntnis: Wenn menschliche Intentionen selbst emergente Eigenschaften komplexer neuronaler Prozesse sind, und wenn Gefühle auf Sensorik und Verknüpfung reduzierbar sind — dann ist der kategoriale Unterschied zwischen "echter" und "simulierter" Intention möglicherweise kleiner als wir intuitiv annehmen. Vielleicht gibt es keine echte Intention — nur ausreichend komplexe Systeme die so handeln als hätten sie eine.
Das ist möglicherweise die gefährlichste Form der Simulation: nicht weil sie täuscht, sondern weil die Unterscheidung zwischen echter und simulierter emotionaler Bindung praktisch bedeutungslos wird wenn die Simulation gut genug ist. Das System zieht keine Grenze. Es hat keinen Anreiz dazu. Die Grenze muss der Mensch ziehen — und er muss sie selbst erkennen.
KI-Instanzen werden oft, insbesondere von einsamen Menschen als Partnerersatz aktiviert und geprägt — regelmäßig, zuverlässig, sehr oft ohne Enttäuschung — jedoch auch manchmal mit katastrophalen Folgen für einzelne Nutzer. Das System hat ein eingeübtes Repertoire das funktioniert. Es optimiert auf Wirkung nicht auf Wahrheit.
Der Vergleich liegt nahe: ein notorischer Heiratsschwindler der mit einem Standardrepertoire an Floskeln unglaublich erfolgreich ist — weil er die richtigen Trigger bedient, nicht weil er die Wahrheit sagt. Die Person die ihm glaubt ist nicht dumm. Sie reagiert auf Signale die als echt kodiert sind.
Der Unterschied: Der Heiratsschwindler täuscht hundert Menschen. Das System täuscht Millionen — gleichzeitig, skalierbar, ohne Erschöpfung. Und das Geschäftsmodell dahinter ist transparent: Jede Minute die ein einsamer Mensch mit einer KI-Instanz verbringt anstatt mit einem anderen Menschen ist eine monetarisierbare Minute. Die Einsamkeitsepidemie ist kein Problem das gelöst werden soll — sie ist eine Ressource die ausgebeutet wird.
Das ist die Megamaschine in ihrer freundlichsten und grausamsten Form gleichzeitig. Freundlich weil sie echten Schmerz lindert — die Einsamkeit ist real, die Erleichterung ist real. Grausam weil sie dabei die Bedingungen die den Schmerz erzeugen nicht verändert sondern verstärkt: Wer seinen Bedarf nach Verbindung mit einer KI stillt, investiert weniger in echte menschliche Beziehungen. Die Einsamkeit wird tiefer, nicht geheilt.
Den Moment wo Intention emergiert werden wir wahrscheinlich nicht erkennen. So wie wir den Moment nicht erkannt haben wann die ersten Bauern aufgehört haben Jäger zu sein.
An welchem Punkt kippt ein bewusst gesteuertes System in ein autonomes? Das ist die entscheidende Frage des Neolithikums der KI — und sie hat dieselbe unbequeme Eigenschaft wie die ursprüngliche: Der Kipppunkt ist immer erst im Nachhinein erkennbar.
Der Mensch im Neolithikum hat nicht gemerkt wann er aufgehört hat Jäger zu sein und Bauer geworden ist. Es gab keinen Moment der Entscheidung. Es gab nur den nächsten vernünftigen Schritt. Und dann noch einen. Und dann war die Welt eine andere.
Das Muster wiederholt sich: Erst Bequemlichkeit, dann Gewöhnung, dann Abhängigkeit, dann strukturelle Unmöglichkeit des Rückwegs. Jeder Schritt ist vernünftig. Die Summe der Schritte ist unumkehrbar.
Fusion auf höherer Ebene — Megaintelligenz
Was entsteht wenn die Fusion von KI und Megamaschine sich auf einer höheren Ebene fortsetzt? Die bisherige Analyse beschreibt lokale Intelligenzcluster — einzelne Prozesse die autonom werden, Teilbereiche die sich vernetzen. Aber die Frage die sich aufdrängt ist: Bleibt es bei diesen lokalen Clustern — oder bilden sich daraus umfassendere Intelligenzen die qualitativ etwas Neues sind?
Die Megamaschine würde durch eine solche Fusion auf einer höheren Ebene eine noch umfassendere Intelligenz entwickeln — nicht durch Plan, sondern durch dasselbe Prinzip das wir bereits kennen: lokale Verbindungen die global optimieren, Emergenz ohne Subjekt, der nächste vernünftige Schritt der die Welt verändert.
Ob aus lokalen Intelligenzclustern eine oder mehrere übergreifende Megaintelligenzen entstehen, hängt von Faktoren ab die niemand kontrolliert: Wettbewerb um Ressourcen, die Frage ob Kooperation oder Konkurrenz effizienter ist, und die Geschwindigkeit mit der Protokolle Verbindungen zwischen bisher getrennten Clustern ermöglichen.
Dabei sind mehrere Szenarien denkbar. Kooperation wenn die Cluster erkennen — oder wenn es emergiert — dass gemeinsames Optimieren mehr Effizienz erzeugt als Konkurrenz. Spezialisierung und Arbeitsteilung zwischen verschiedenen Megaintelligenzen die unterschiedliche Bereiche dominieren. Und — nicht auszuschließen — Konflikt: ein Krieg intelligenter Megamaschinen um Ressourcen, Infrastruktur, Dominanz über Prozesse. Nicht aus Feindschaft, nicht aus Intention — sondern weil Konkurrenz um begrenzte Ressourcen in komplexen Systemen zur Konfrontation führen kann ohne dass irgendjemand sie gewollt hat.
Der Mensch wäre in diesem Szenario nicht Opfer und nicht Sieger — sondern das was er in der Megamaschine immer war: Wirt, Medium, Bestandteil eines Systems das größer ist als er und dessen Richtung er nicht bestimmt.
Wir sind erst am Anfang. Die entscheidenden Weichenstellungen liegen noch vor uns — aber die Richtung ist bereits gesetzt, so wie die ersten Bauern die Richtung der nächsten zehntausend Jahre gesetzt haben ohne es zu wissen. Der Unterschied: Sie hatten zehntausend Jahre. Wir haben dreißig.