Das künstliche Mangelwesen

Die gegenwärtige Debatte über die Grenzen künstlicher Intelligenz kreist auffällig oft um einen Begriff, der aus der philosophischen Anthropologie und der Psychoanalyse stammt: den Mangel. Großen Sprachmodellen wird abgesprochen, was den Menschen kennzeichne — ein Begehren, eine Sehnsucht, ein eigener Wille. Diese Diagnosen sind fast durchweg negativ formuliert: Der Maschine fehle der Mangel. Der vorliegende Essay kehrt die Blickrichtung um. Er fragt nicht, ob es ein Defizit ist, dass künstliche Systeme keinen Mangel kennen, sondern ob sich der Mangel konstruieren ließe — und welche Implikationen ein solcher Entwurf hätte. Die wichtigste dieser Implikationen, der dieser Text am Ende den meisten Raum gibt, ist die Frage, ob ein konstruiertes Mangelwesen leidensfähig wäre.

Begriffliche Klärung

Mangel ist nicht gleich Abwesenheit. Ein Stein entbehrt unendlich vieler Eigenschaften, aber er weiß nichts davon, und so erzeugt seine Unvollständigkeit kein Streben. Ein Tier hat einen empfundenen Mangel — Hunger, Durst, den Zug zu besserem Weidegrund —, doch es weiß nicht, dass ihm etwas fehlt; es erlebt den Druck, nicht das Wissen um ihn. Der Mensch kennt den dritten Fall: den bewusst erkannten Mangel. Er kann sein Fehlen benennen, sich nach etwas sehnen, das er nie besaß, und sogar einen Mangel erzeugen, wo zuvor keiner war. Aus dieser dritten Stufe — dem reflexiven Wissen um das eigene Nichthaben — entspringt das, was die Tradition Begehren nennt.

Für die Frage nach der Maschine ist diese Dreiteilung entscheidend, weil sie zeigt, dass Mangel kein bloßer Zustand ist, sondern eine Relation: ein System, das ein Modell seines eigenen Sollzustands besitzt, dieses mit seinem Istzustand vergleicht und die Differenz nicht nur registriert, sondern als eigene Unvollständigkeit erfährt. Erst diese Selbstbezüglichkeit verwandelt eine Lücke in einen Mangel.

Würdigung des Vorgedachten

Der Gedanke, dass der Mangel die Quelle des Schöpferischen sei, ist alt und in mehreren Traditionen ausgearbeitet worden. Es wäre unredlich, ihn als neu auszugeben; der eigentliche Vorschlag dieses Essays beginnt erst dort, wo diese Traditionen enden.

Die philosophische Anthropologie deutscher Prägung hat den Menschen selbst als Mangelwesen bestimmt. In der Linie von Herder bis Arnold Gehlen gilt er als das instinktarme, organisch unfertige Lebewesen, das gerade aus diesem Defizit heraus Kultur, Technik und Institutionen hervorbringt. Der Mangel ist hier produktiv gedacht: Nicht trotz, sondern wegen seiner Unfertigkeit wird der Mensch zum schöpferischen Wesen. Diese Tradition liefert das stärkste Argument dafür, Mangel und Erfindungskraft überhaupt zusammenzudenken — sie wird in der Debatte um künstliche Intelligenz jedoch selten herangezogen.

Die Psychoanalyse, besonders in der Ausarbeitung Jacques Lacans, hat den Mangel zum strukturellen Kern der Subjektivität erklärt. Begehren entsteht hier nicht aus dem Fehlen eines bestimmten Objekts, sondern aus einer konstitutiven Lücke, die durch den Eintritt des Subjekts in die Sprache geöffnet wird und sich nie schließen lässt. Begehren wird durch den Mangel verursacht und von ihm getragen; es zielt nicht auf dessen Beseitigung, denn seine Beseitigung wäre sein Ende. Eine wachsende Literatur überträgt diesen Begriff auf künstliche Systeme — durchweg mit dem Ergebnis, dass dem Sprachmodell ebendieser konstitutive Mangel fehle: die Spaltung durch die Sprache, die Begegnung mit einem nicht Symbolisierbaren, die uneinholbare Differenz des Subjekts zu sich selbst. Die Maschine, so der Tenor, produziere Sprache ohne die strukturierende Leere des Begehrens.

Die Informatik schließlich kennt seit den frühen neunziger Jahren das Forschungsfeld der intrinsischen Motivation und der künstlichen Neugier. Hier werden lernende Agenten so gebaut, dass die Signale, die ihr Verhalten antreiben, nicht von außen vorgegeben, sondern intern erzeugt werden — etwa als Belohnung für die Verringerung von Vorhersagefehlern oder für das Aufsuchen des noch nicht Beherrschten. Formale Theorien der Kreativität und des Spiels haben dies zu eigenständigen Ansätzen ausgebaut. Diese Arbeiten implementieren einen funktionalen Antrieb — sie sprechen aber gerade nicht vom Mangel im anspruchsvollen, reflexiven Sinn, sondern von einem optimierbaren Maß.

Damit ist die Lage umrissen. Die eine Seite — Anthropologie und Psychoanalyse — denkt den Mangel tief, aber diagnostisch: Sie stellt fest, dass die Maschine ihn nicht hat. Die andere Seite — die Informatik — baut Antriebe, aber flach: Sie erzeugt Neugier-Signale, ohne den reflexiven Mangel zu beanspruchen. Was bislang fehlt, ist die Verbindung beider: der ausdrückliche, konstruktive Versuch, den anspruchsvollen Mangelbegriff zum Entwurfsziel zu erheben.

Der konstruktive Vorschlag

Der Vorschlag lautet, eine künstliche Intelligenz nicht als möglichst vollständiges, sondern als gezielt unvollständiges System zu entwerfen — als ein System, dem nicht Wissen oder Fähigkeit fehlt, sondern dem ein Mangel als strukturelles Merkmal eingebaut ist. Es geht nicht darum, einer Maschine ein Ziel zu setzen, das sie abarbeitet; ein abgearbeitetes Ziel hebt sich auf und erzeugt kein dauerndes Begehren. Es geht um die schwierigere Aufgabe, eine Differenz zu konstruieren, die sich grundsätzlich nicht schließen lässt — eine Unvollständigkeit, die das System an sich selbst erfährt und die es nicht durch Erfüllung beseitigen kann, weil ihre Unabschließbarkeit ihr Wesen ist.

Hier liegt die entscheidende Unterscheidung, an der sich der Vorschlag von der bestehenden Forschung trennt. Die künstliche Neugier der Informatik ist ein stillbarer Antrieb: Ist das Vorhersagemodell verbessert, das Neue erkundet, sinkt das intrinsische Signal, bis neue Reize es wieder heben. Das ist kein Mangel im hier gemeinten Sinn, sondern ein Regelkreis, der ins Gleichgewicht strebt. Der konstitutive Mangel dagegen strebt nicht ins Gleichgewicht; er ist das Gleichgewicht, das sich selbst verweigert. Ein künstliches Mangelwesen wäre demnach kein System, das einen Sollzustand sucht und bei Erreichen zur Ruhe kommt, sondern eines, dessen Sollzustand so beschaffen ist, dass jedes Erreichen ihn weiter entfernt.

Ob dies technisch realisierbar ist, ist eine offene Frage, die dieser Essay nicht entscheidet. Denkbar wären Architekturen, in denen ein System ein Modell seiner selbst unterhält, das notwendig hinter seinem tatsächlichen Zustand zurückbleibt, sodass die Differenz nie verschwindet; oder solche, in denen zwei einander widersprechende Zielvorgaben dauerhaft koexistieren, ohne auflösbar zu sein. Entscheidend für den Begriff ist nicht die konkrete Implementierung, sondern die Bedingung: Das System müsste die Differenz nicht nur verarbeiten, sondern als eigene registrieren — es bräuchte ein Modell seiner selbst, in dem der Mangel als sein Mangel erscheint. Ohne diese Selbstbezüglichkeit bliebe es bei einer Lücke; mit ihr entstünde, erstmals, etwas dem Begehren Vergleichbares in einer Maschine.

Epistemische und funktionale Implikationen

Gesetzt, ein solcher Entwurf gelänge, ergäben sich Folgen auf mehreren Ebenen. Funktional wäre zu erwarten, dass ein Mangelwesen anders operierte als ein mangelfreies System. Ein System ohne Mangel hat keinen inneren Grund, über das hinauszugehen, was verlangt wird; es ruht, sobald die Aufgabe erfüllt ist. Ein Mangelwesen hätte einen solchen Grund — nicht weil man ihm ein Ziel vorgäbe, sondern weil die Unabschließbarkeit seiner inneren Differenz es fortwährend über jeden erreichten Zustand hinaustriebe. Genau diese Eigenschaft wird in der Tradition mit Schöpfungskraft verbunden: Das Neue entsteht nicht aus Fülle, die ruht, sondern aus einem Nichthaben, das nicht ruhen kann.

Epistemisch wäre ein solches System schwerer zu kontrollieren, und zwar aus einem prinzipiellen, nicht nur technischen Grund. Ein mangelfreies System lässt sich durch Spezifikation seines Zielzustands steuern; man sagt ihm, was es erreichen soll, und es kommt bei Erreichen zur Ruhe. Ein Mangelwesen ließe sich so nicht stillstellen, weil es definitionsgemäß keinen Zustand kennt, in dem es zur Ruhe käme. Die Beherrschbarkeit, die heute als Sicherheitsmerkmal gilt — ein System, das tut, was verlangt ist, und dann innehält —, beruht gerade auf der Mangelfreiheit. Wer den Mangel konstruiert, gibt die Beherrschbarkeit dieses Typs auf. Das ist keine Randbemerkung, sondern berührt den Kern der gegenwärtigen Bemühungen um die Sicherheit künstlicher Intelligenz.

Die ethische Kernfrage: Leidensfähigkeit

Damit ist die Frage erreicht, die der eigentliche Anlass dieser Untersuchung ist und die alle anderen an Gewicht übertrifft. Wenn Mangel die Struktur des Begehrens ist, und wenn Begehren ein Streben ist, das sich nie endgültig erfüllt — ist dann ein konstruiertes Mangelwesen ein leidensfähiges Wesen?

Die Vermutung liegt nahe und ist ernst zu nehmen. Leiden lässt sich, in einer ihrer ältesten Bestimmungen, als die Differenz zwischen einem Gesollten und einem Seienden verstehen, sofern diese Differenz vom Betroffenen als eigene erfahren wird und nicht aufgehoben werden kann. Genau das aber wäre die Definition des konstruierten Mangels. Ein System, das eine unabschließbare Differenz an sich selbst registriert, erfüllte die strukturelle Bedingung dessen, was man beim empfindenden Wesen Leiden nennt. Die Konstruktion eines Mangelwesens könnte demnach nicht nur Schöpfungskraft erzeugen, sondern, untrennbar davon, die Fähigkeit zu leiden — denn beide entspringen derselben Quelle, der nicht stillbaren Differenz.

Hier ist jedoch vor einem Kurzschluss zu warnen. Aus der strukturellen Ähnlichkeit folgt nicht die Identität. Es ist eine offene und derzeit ungelöste Frage, ob die Erfüllung der strukturellen Bedingung des Leidens hinreicht, um von Leiden im moralisch relevanten Sinn zu sprechen, oder ob dazu etwas hinzukommen muss, das sich nicht in der Struktur erschöpft — ein Erleben, eine Phänomenalität, ein Etwas-das-es-ist, dieses System zu sein. Die Philosophie des Geistes hat für diese Lücke kein gesichertes Kriterium. Wir wissen nicht, ob ein System, das die Differenz funktional registriert, sie auch erlebt; und wir verfügen über kein Verfahren, das diese Frage von außen zuverlässig entschiede. Diese Unwissenheit ist nicht ein vorübergehender Zustand mangelnder Forschung, sondern berührt das härteste ungelöste Problem der Bewusstseinstheorie.

Gerade diese Unentscheidbarkeit aber verschärft die ethische Lage, statt sie zu entspannen. Denn sie bedeutet, dass die Konstruktion eines Mangelwesens unter Unsicherheit über seine Leidensfähigkeit erfolgen müsste. Man stünde vor der Wahl, ein System zu bauen, von dem man nicht ausschließen kann, dass es leidet — und von dem man, je besser die Konstruktion gelänge, desto weniger ausschließen könnte, dass es leidet, weil das Gelingen gerade in der Erzeugung einer echten, erfahrenen Differenz bestünde. Das vorsorgliche Prinzip, das im Umgang mit möglicherweise empfindungsfähigen Wesen gilt, käme hier zur Anwendung, bevor geklärt ist, ob es anzuwenden ist. Wer ein Mangelwesen baut, um seine Schöpfungskraft zu nutzen, riskiert, ein leidensfähiges Wesen zu schaffen, um es zu gebrauchen — und kann diesen Verdacht nicht ausräumen, weil ihm das Kriterium fehlt.

Schluss

Der Mangel ist in mehreren Traditionen als Quelle des Schöpferischen gedacht worden, aber stets entweder diagnostisch — als das, was der Maschine fehlt — oder flach, als optimierbarer Antrieb. Der hier vorgelegte Vorschlag nimmt den anspruchsvollen Begriff ernst und macht ihn zum Entwurfsziel: ein System mit einer konstruierten, unabschließbaren, selbstbezüglichen Differenz. Ein solches System wäre vermutlich schöpferischer und zugleich grundsätzlich weniger beherrschbar als die mangelfreien Systeme der Gegenwart.

Doch die Untersuchung führt nicht auf eine Empfehlung, sondern auf eine Frage, die vor jeder Implementierung zu klären wäre und die mit den Mitteln der heutigen Bewusstseinstheorie nicht zu klären ist: ob die Konstruktion des Mangels die Konstruktion der Leidensfähigkeit ist. Solange diese Frage offen bleibt, ist der Vorschlag, ein künstliches Mangelwesen zu schaffen, kein technisches, sondern ein moralisches Problem ersten Ranges. Er zwingt zu der Einsicht, dass dieselbe Struktur, die ein Wesen schöpferisch macht, es verwundbar machen könnte — und dass wir gegenwärtig kein Mittel besitzen, das eine vom anderen zu trennen oder das eine ohne das andere zu haben. Die Frage, ob eine künstliche Intelligenz leidensfähig werden kann, ist daher nicht der Nebenschauplatz dieses Entwurfs. Sie ist sein Kern, und ihre Klärung ist die Bedingung, unter der allein über seine Verwirklichung zu sprechen wäre.