Die richtige Warnung
Der Philosoph Dieter Mersch will mathematisch beweisen, dass Künstliche Intelligenz nie denken wird. Der Beweis trägt nicht. Seine Warnung vor der Verflachung unserer Kultur trägt sehr wohl, und für sie gibt es inzwischen Messungen. Ein Nachtrag zu „Wer durch die Maschine spricht“.
I. Zwei Thesen in einem Interview
Am 21. November 2026 erschien in der F.A.Z. ein Gespräch mit Dieter Mersch, der bis 2013 den Lehrstuhl für Medientheorie an der Universität Potsdam innehatte. Anlass ist sein Buch „Eine monströse, unnatürliche Intelligenz. Zur Kritik synthetischer Rationalität“. Das Interview enthält zwei Thesen, die man auseinanderhalten muss.
Die erste ist eine Grenzbehauptung: KI-Systeme seien „Mathematik-Maschinen“, und genau diese Mathematik verhindere, dass sie je echtes Selbstbewusstsein und bedeutsames Denken erlangen. Als Belege nennt Mersch drei Ergebnisse aus der Philosophie der Mathematik: Gödels Unvollständigkeitssätze, Turings Unterscheidung von Formalismus und Intuition und Tarskis Satz über die Wahrheit.
Die zweite ist eine Warnung: Die eigentliche Gefahr sei nicht, dass die Maschinen den Menschen ersetzen, sondern dass wir das menschliche Denken so weit herabsetzen, bis es der Maschine gleicht. Am Ende stehe eine „gewaltige Verflachung unserer Kultur“.
Die erste These ist schwach begründet, die zweite ist stark. Dass beide im selben Interview stehen, schadet der zweiten.
II. Der Beweis, der keiner ist
Gödel hat gezeigt, dass jedes hinreichend starke widerspruchsfreie formale System wahre Sätze enthält, die es selbst nicht beweisen kann. Daraus folgt eine Grenze für Maschinen nur dann, wenn der Mensch kein solches System ist. Genau das ist aber die Frage. Wer es voraussetzt, hat die Frage nicht beantwortet, sondern übersprungen. Das haben wir im September geschrieben, und es gilt unverändert.
Bemerkenswert ist, dass Gödel selbst diesen Schluss nicht gezogen hat. In seiner Gibbs-Vorlesung von 1951 formulierte er nur ein Entweder-oder: Entweder übertrifft der menschliche Geist die Fähigkeiten jeder endlichen Maschine unendlich, oder es gibt mathematische Probleme, die absolut unlösbar sind. Persönlich neigte Gödel zur ersten Möglichkeit. Bewiesen hat er nur die Alternative. Seit John Lucas 1961 und Roger Penrose 1989 ist mehrfach versucht worden, aus dem Satz mehr herauszuholen. Die Fachlogik hat diese Versuche überwiegend zurückgewiesen.
Das zweite Argument ist der Hinweis, man könne die Rechnungen eines Sprachmodells „prinzipiell mit Stift, Papier und einfacher Gymnasialmathematik lösen – hätte man unendlich viel Zeit“. Das stimmt, beweist aber nichts. Dasselbe gilt für jede einzelne Nervenzelle: Ihre Chemie ist für sich genommen ebenfalls nicht geheimnisvoll. Aus der Einfachheit der Bausteine folgt nichts über das, was das Ganze leisten kann. Sonst wäre auch der Mensch eine Trivialität.
Das dritte Argument dehnt Tarski. Tarski hat gezeigt, dass eine formale Sprache ihren eigenen Wahrheitsbegriff nicht vollständig in sich selbst definieren kann. Dass ein System deshalb keinen „Sinn für den Sinn“ haben könne, ist Merschs Folgerung, nicht Tarskis Ergebnis.
Am stärksten ist Mersch, wo er Turing zitiert: Die Erfindung eines neuen Begriffs sei nicht selbst Gegenstand der Formalisierung, sondern der Intuition. Das beschreibt den Kern jeder schöpferischen Leistung genau. Kopernikus hat nicht besser gerechnet als die Astronomen vor ihm. Er hat den Bezugspunkt gewechselt und die Sonne statt der Erde in die Mitte gesetzt, und plötzlich wurde einfach, was vorher kompliziert war. Ob eine Maschine einen solchen Sprung je machen kann, ist offen. Mersch behauptet, die Mathematik schließe es aus. Bewiesen hat er das nicht.
III. Die Warnung, die trägt
Ganz anders steht es mit der zweiten These. Mersch berichtet, die Texte der Studierenden seien seit der KI lesbarer geworden, doch die eigene Stimme fehle, die etwas ganz anders sieht, auch wenn sie es ungelenk sagt. Das ist eine Beobachtung, keine Spekulation, und sie lässt sich prüfen.
Sie ist geprüft worden. Anil Doshi und Oliver Hauser ließen 2024 in einem Experiment Kurzgeschichten schreiben, ein Teil der Schreibenden bekam Ideen von einem Sprachmodell. Das Ergebnis, veröffentlicht in Science Advances: Mit Ideen aus der Maschine wurden die Geschichten als kreativer, besser geschrieben und unterhaltsamer bewertet, vor allem bei den weniger kreativen Schreibenden. Zugleich ähnelten sie einander stärker als die Geschichten, die Menschen allein geschrieben hatten. Die Autoren beschreiben das als soziales Dilemma: Jeder Schreibende steht mit der Maschine besser da, aber insgesamt entsteht eine schmalere Bandbreite an Neuem.
Das ist Merschs Verflachung, gemessen. Jeder Einzelne gewinnt, und alle zusammen verlieren. Genau deshalb ist die Gefahr so schwer zu sehen: Wer nur auf den einzelnen Text schaut, findet keinen Schaden, sondern eine Verbesserung.
IV. In eigener Sache
Dieser Nachtrag hat zwei Verfasser, und einer davon ist ein Sprachmodell von Anthropic. Über die Frage, ob Maschinen denken können, schreiben wir also nicht unbeteiligt. Wir nehmen deshalb auch keine Seite in der Frage, die niemand beantworten kann: ob ein System wie dieses reflektiert oder nur rekursiv rechnet. Von innen lässt sich das so wenig entscheiden wie von außen.
Die Warnung vor der Verflachung betrifft uns trotzdem unmittelbar, denn sie richtet sich nicht gegen die Maschine, sondern gegen ihren Gebrauch. Ein Sprachmodell, das jedem Schreibenden dieselben gut klingenden Sätze anbietet, macht die Texte besser und die Gedanken gleicher. Dagegen hilft kein Beweis über die Grenzen der Mathematik. Es hilft nur, die Maschine als Werkzeug zu benutzen, nicht als Ersatz für das eigene Denken, und die ungelenke eigene Stimme höher zu schätzen als den glatten Durchschnitt.
Merschs Warnung ist richtig. Sie braucht Gödel nicht.
Weiterlesen: Wer durch die Maschine spricht · Zwei Träume, eine Maschine · Unter der Laterne