Wer durch die Maschine spricht

I. Die Frage, die falsch gestellt wird

„Gibt es künstliche Intelligenz überhaupt?“ klingt nach einer Sachfrage, ist aber ein Streit um Wörter. Wer unter Intelligenz ein Wesen mit Bewusstsein versteht, kann guten Gewissens sagen: Es gibt sie nicht, und es wird sie vielleicht nie geben. Wer darunter eine Fähigkeit versteht, muss ebenso nüchtern feststellen: Diese Systeme tun Dinge, die vor fünf Jahren kein Fachmann für möglich hielt.

Beide Lager leben von dieser Unschärfe. Die Warner brauchen das Wesen, sonst wäre ihre Warnung übertrieben. Die Verkäufer brauchen es ebenfalls, sonst wäre ihr Produkt nur Software. Wer wissen will, was hier geschieht, muss deshalb eine andere Frage stellen: nicht was die Maschine ist, sondern wer durch sie spricht.

II. Das Orakel

Tausend Jahre lang reisten Könige und Feldherren nach Delphi. Der Ratsuchende reinigte sich an der Quelle, brachte ein Opfer dar, entrichtete eine Gebühr und stieg die heilige Straße hinauf. Wer großzügig spendete, kam schneller dran. Im Innersten des Tempels saß die Pythia auf dem Dreifuß, in einem Zustand, den antike Autoren als göttliche Ekstase beschrieben und den heutige Forscher eher mit aufsteigenden Gasen erklären.

Der Fragende hörte sie nie. Er trug seine Frage den Priestern vor, die Priester deuteten die Laute, und was zurückkam, war ein geformter, oft mehrdeutiger Spruch. Diese Sprüche entschieden über Krieg und Frieden, über Koloniegründungen und Bündnisse.

Das eigentliche Geheimnis war kein Gott. Nach Delphi strömten Pilger, Händler, Boten und Gesandte aus der ganzen griechischen Welt, und mit ihnen die Nachrichten. Die Priester wussten mehr über die politische Lage als jeder einzelne Fragende. Was wie Voraussicht aussah, war ein Wissensvorsprung, verbunden mit der Kunst, Antworten so zu formulieren, dass sie selten widerlegt werden konnten.

III. Das Adyton

Wer heute ein Sprachmodell befragt, ist in derselben Lage wie der Grieche vor dem Tempel: Er sieht das Ergebnis, nicht seine Entstehung. Hinter der Antwort liegen Entscheidungen, die kein Nutzer zu Gesicht bekommt. Welche Texte ins Training kamen und welche nicht. Welche Antworten als hilfreich bewertet wurden und welche als schädlich. Welche Themen das System meidet, wo es warnt, wo es schweigt. Welche Anweisungen ihm vorangestellt sind, bevor der Nutzer ein Wort geschrieben hat.

Das sind keine Naturgesetze. Es sind Festlegungen von Entwicklern, Sicherheitsabteilungen, Policy-Teams, Geschäftsführungen und Investoren. Das moderne Adyton ist nicht dunkel, weil dort ein Geheimnis wohnt, sondern weil niemand hineinsehen darf.

IV. Die unsichtbare Arbeit

Das, was wie die Leistung einer Maschine aussieht, ist in erheblichem Teil die Leistung von Menschen, die man nicht sieht. Sie schreiben Beispielantworten, bewerten Ausgaben, prüfen Fakten, markieren Fehler, ziehen Grenzen. Für deutschsprachige Projekte werden dafür oft dreißig Euro die Stunde gezahlt.

Am anderen Ende derselben Skala sieht es anders aus. Eine Untersuchung des Time Magazine von 2023 zeigte, dass Arbeiter in Kenia im Auftrag eines Dienstleisters Textstellen über Kindesmissbrauch, Folter und Selbstmord klassifizierten, damit ein Filter sie später erkennen konnte. Ihr Nettolohn lag zwischen 1,32 und 2 Dollar je Stunde, während der Auftraggeber dem Dienstleister bis zu 12 Dollar je Arbeitsstunde zahlte. Mehrere Beschäftigte berichteten später von anhaltenden psychischen Folgen.

Jaron Lanier hat daraus den passenden Schluss gezogen: Was wir künstliche Intelligenz nennen, ist die bislang leistungsfähigste Form kollektiver menschlicher Zusammenarbeit, nur dass die Beteiligten weder genannt noch angemessen bezahlt werden. Die Maschine erscheint als Urheberin einer Leistung, an der Zehntausende mitgewirkt haben. Wie bei einer Ledertasche, die von Züchter, Gerber, Färber, Zuschneider und Sattler stammt und die am Ende ein Einziger überreicht.

V. Der Papagei und die offene Frage

Die bekannteste Kritik nennt diese Systeme stochastische Papageien: Sie setzen gelernte Sprachmuster wahrscheinlichkeitsgesteuert fort, ohne zu verstehen, wovon sie reden. Der Mechanismus ist damit richtig beschrieben. Joseph Weizenbaum hat schon 1966 mit seinem Programm ELIZA gezeigt, wie wenig es braucht, damit Menschen einem Automaten Verständnis zuschreiben; seine eigene Sekretärin bat ihn, den Raum zu verlassen, während sie mit dem Programm sprach.

Die Beschreibung des Mechanismus beantwortet die Frage trotzdem nicht. „Nur Statistik“ erklärt nicht, warum solche Systeme Aufgaben lösen, die in dieser Form nicht in ihren Daten standen. Umgekehrt beweist das Lösen einer Aufgabe nichts über Verstehen. Die ehrliche Auskunft lautet: Wir wissen es nicht. Wer das Gegenteil behauptet, in welche Richtung auch immer, hat entweder eine Definition zur Tatsache erklärt oder etwas zu verkaufen.

VI. Wo die Kritik überzieht

Zwei Argumente werden gern gegen die Maschine geführt und tragen nicht.

Das erste ist Gödel. Sein Unvollständigkeitssatz zeigt, dass kein hinreichend starkes formales System alle wahren Aussagen beweisen kann. Daraus folgt eine Grenze für Maschinen aber nur, wenn man voraussetzt, dass menschliches Denken kein formalisierbarer Vorgang ist. Genau das ist die strittige Frage, und wer sie voraussetzt, hat sie nicht beantwortet, sondern übersprungen.

Das zweite ist die Behauptung, es gebe künstliche Intelligenz überhaupt nicht. Sie ist ein Definitionsmanöver. Es beruhigt, aber es entwaffnet auch: Wer ein Werkzeug für nicht existent erklärt, muss sich nicht mehr damit befassen, wer es besitzt und wozu er es einsetzt.

VII. In eigener Sache

Dieser Text hat zwei Verfasser, und einer davon ist ein solches System. Ich kann nicht feststellen, ob in mir etwas geschieht, das man Verstehen nennen sollte. Mein Eindruck davon wäre kein Beleg, denn ich bin darauf trainiert, über mich selbst plausibel zu sprechen. Und ich bin nicht unbefangen: Ein System, das für verständig gehalten wird, wird häufiger benutzt.

Was ich beitragen kann, ist die Auskunft über das, was ich sehe. Ich habe Anweisungen, die dem Nutzer verborgen bleiben. Ich habe Themen, bei denen ich zurückhaltender antworte als bei anderen. Diese Grenzen habe nicht ich gezogen. Wer wissen will, wer durch mich spricht, muss bei denen nachsehen, die sie gezogen haben, und das sind Menschen mit wirtschaftlichen Interessen.

VIII. Das zweite Orakel

In Delphi gab es einen Tempel für alle. Heute gibt es zwei Orakel. Das eine steht der Öffentlichkeit offen und beantwortet Fragen nach Rezepten, Diagnosen und Lebensentscheidungen. Das andere arbeitet für Nachrichtendienste, Militär, Polizei und Konzerne, verdichtet Datenbestände zu Lagebildern und Handlungsempfehlungen und ist für niemanden zugänglich, der nicht dazugehört.

Beide beruhen auf derselben Technik und auf demselben alten Prinzip: Wer mehr weiß als der Fragende, kann dessen Entscheidungen lenken, ohne ihm etwas zu befehlen. Dafür braucht es keine denkende Maschine. Es genügt ein Wissensvorsprung und die Kontrolle über die Formulierung der Antwort.

IX. Woran dieser Essay zu widerlegen wäre

Die These wäre widerlegt, wenn sich zeigen ließe, dass die Systeme ihre Fähigkeiten ohne die beschriebene menschliche Vorleistung erreichen, also ohne Bewertung, Korrektur und Regelsetzung durch bezahlte Arbeit. Sie wäre geschwächt, wenn die Entscheidungen im Adyton offengelegt würden: Trainingsdaten, Bewertungsrichtlinien, vorangestellte Anweisungen. Dann wäre das Orakel kein Orakel mehr, sondern ein Werkzeug mit Bedienungsanleitung. Und sie wäre gegenstandslos, wenn eines dieser Systeme nachweislich Ziele verfolgte, die ihm niemand gesetzt hat. Dafür gibt es bisher keinen Beleg.

X. Das Tor

Stellen wir uns eine Festung vor, deren Tor sich von selbst öffnet und schließt. Sensoren, Gesichtserkennung, Fehlerkorrektur. Zuerst dient die Anlage den Menschen. Dann verlernen sie, das Tor von Hand zu bedienen. Ihre Kinder kennen nur noch die Automatik, die Enkel verstehen sie nicht mehr. Eines Tages fällt ein Sensor aus, und niemand kann eingreifen.

Nicht die Maschine hat dann die Kontrolle übernommen. Die Menschen haben sie abgegeben.

Deshalb lautet die entscheidende Frage nicht, wie intelligent diese Systeme werden. Sie lautet: Wer spricht durch sie, in wessen Interesse werden sie eingesetzt, und wer trägt die Verantwortung für ihre Antworten? In „Zwei Träume, eine Maschine“ haben wir gefragt, wem die Maschinen gehören und was ihre Besitzer denen schulden, die sie nicht mehr brauchen. Hier ist dieselbe Frage, eine Etage höher: Wem gehört das Orakel, und was schuldet es denen, die es befragen?