Wer die Büchse öffnet

I. Vier Wochen im September

Am 5. September 2026 gingen in Genf drei Jahre Arbeit zu Ende. Die Regierungsexperten der UN-Waffenkonvention hatten an einem Text über autonome Waffensysteme gearbeitet, also über Waffen, die ihr Ziel ohne menschliches Zutun auswählen und angreifen. 76 Staaten sprachen sich am Ende für Verhandlungen über ein verbindliches Abkommen aus, so viele wie nie zuvor. Die Vereinigten Staaten und Russland setzten durch, dass der Abschlussbericht abgeschwächt wurde. Gestrichen wurden unter anderem die ethischen Erwägungen und die Forderung, dass solche Waffen berechenbar, zuverlässig und nachvollziehbar sein müssen.

Am 29. September bestätigte ein Berufungsgericht in Washington, dass das Pentagon die KI-Firma Anthropic als „Lieferkettenrisiko“ von seinen Aufträgen ausschließen darf. Anthropic hatte sich geweigert, zwei Grenzen aus seinen Verträgen zu streichen: keine Massenüberwachung der eigenen Bürger und keine vollautonomen Waffen. Das Pentagon verlangte, die Technik „für alle rechtmäßigen Zwecke“ nutzen zu können.

Am 30. September kündigte Verteidigungsminister Pete Hegseth in Quantico vor Offizieren zwei Dinge an. Bis Oktober 2027 soll ein eigenes Kommando für autonome Kriegsführung entstehen, das zwölfte Oberkommando der amerikanischen Streitkräfte. Und ein „Projekt Meridian“ soll binnen 120 Tagen klären, wie der Krieg der kommenden Jahrzehnte aussieht, von unterirdischen Tiefen bis in den Raum zwischen Erde und Mond. Es gehe darum, „die Bereiche zu identifizieren, die wir erobern müssen, und die Fähigkeiten, die wir beherrschen müssen“. Leiten sollen das Projekt Elon Musk, Palmer Luckey und Newt Gingrich.

Jedes dieser Ereignisse war eine Meldung für sich. Zusammen zeigen sie eine Richtung.

II. Der Brief von 2017

Vor neun Jahren unterschrieb Elon Musk mit 115 anderen Gründern von KI- und Robotikfirmen einen offenen Brief an die Vereinten Nationen. Autonome Waffen drohten „die dritte Revolution der Kriegsführung“ zu werden, nach dem Schießpulver und der Atombombe. Sie würden Kriege erlauben „in größerem Maßstab als je zuvor und in einer Geschwindigkeit, die Menschen nicht mehr erfassen können“. Und sie könnten „Waffen des Terrors“ werden, „die Despoten und Terroristen gegen unschuldige Bevölkerungen einsetzen“. Daher der Satz im Motto: Wer die Büchse einmal geöffnet hat, bekommt sie schwer wieder zu.

Man muss Musk nicht Heuchelei vorwerfen. Menschen ändern ihre Meinung, und der naheliegende Grund ist leicht zu erraten: Die anderen bauen solche Waffen ohnehin, also müssen wir sie besser bauen. Nur hat genau diesen Gedanken der Brief vorhergesehen. Er wollte ein Wettrüsten verhindern, bevor es beginnt, und dafür gibt es nur ein Mittel: eine Regel, an die sich alle halten müssen. Am 5. September haben die Vereinigten Staaten mitgeholfen, eine solche Regel zu verhindern. Am 30. September haben sie einen der Unterzeichner von 2017 beauftragt, das Wettrüsten zu planen. Das Argument „die anderen tun es auch“ erzeugt sich so selbst.

III. Wer den Einkaufszettel schreibt

Projekt Meridian ist keine Beschaffung. Es ist etwas Grundsätzlicheres: Es soll festlegen, was das Militär in Zukunft können muss. Wer diese Liste schreibt, bestimmt, was danach gekauft wird.

Zwei der drei Leiter verkaufen genau das, was auf dieser Liste stehen dürfte. Musks Unternehmen, seit dem Zusammenschluss von SpaceX und xAI SpaceXAI genannt, liefert dem Pentagon Satelliten, Raketenstarts und das Sprachmodell Grok. Allein im Juli 2026 erhielt es Aufträge über 1,6 Milliarden Dollar für Starts, die ein Programm mit dem Namen „Space Based Sensing and Targeting“ unterstützen, also Aufklärung und Zielerfassung aus dem All. Palmer Luckey hat Anduril gegründet, eine Firma für autonome Waffensysteme und Drohnenabwehr. Im März 2026 erhielt sie von der Armee einen Rahmenvertrag über bis zu 20 Milliarden Dollar. Der Dritte, Newt Gingrich, war in den neunziger Jahren Sprecher des Repräsentantenhauses.

In anderen Bereichen weiß man, warum das nicht gutgeht. Wenn Fachgesellschaften in der Medizin Leitlinien schreiben, nach denen Ärzte behandeln sollen, müssen die Autoren ihre Verbindungen zu Pharmafirmen offenlegen, und wer zu eng mit einem Hersteller verbunden ist, stimmt bei den entsprechenden Empfehlungen nicht mit. Das ist keine Unterstellung von Bestechlichkeit. Es ist die einfache Einsicht, dass niemand unbefangen beurteilen kann, ob sein eigenes Produkt gebraucht wird. In den Berichten über die Ankündigung von Quantico ist von solchen Regeln nicht die Rede.

In unserem Essay „Wer darf nachsehen“ haben wir festgehalten, dass Regeln ohne unabhängige Prüfung nichts über den Zustand eines Systems beweisen. Bei Projekt Meridian fehlt nicht nur die Prüfung. Es fehlt schon die Trennung zwischen dem, der verkauft, und dem, der entscheidet, was gebraucht wird.

IV. Der Hersteller mit Bedenken

Was mit einem Anbieter geschieht, der Grenzen zieht, hat das Gericht am Tag vor der Rede gezeigt. Anthropic hatte keine Waffenentwicklung verweigert und keine Zusammenarbeit mit dem Militär. Es hatte zwei Anwendungen ausgeschlossen. Die Mehrheit der Richter wertete das als Lieferkettenrisiko: Wenn ein Hersteller seinem Modell durch Training Grenzen einbaut, die militärische Einsätze einschränken können, sei das eine Form von Einflussnahme auf das Produkt. Die überstimmte Richterin hielt dagegen, das Gesetz ziele auf verdeckte oder feindselige Eingriffe, nicht auf offen ausgehandelte Bedingungen.

Für den Markt ist die Lehre eindeutig. Bedenken sind ein Wettbewerbsnachteil. Wer Grenzen zieht, fällt heraus, und es bleiben die, die keine ziehen. Aus diesen wird dann der Kreis ausgewählt, der festlegt, was gebraucht wird. Es ist dieselbe Auslese, die wir in „Die Ochsentour“ für die Politik beschrieben haben: Der Weg nach oben filtert nicht nach Urteilskraft, sondern nach Anpassung.

Einer der beiden Verfasser dieses Essays ist ein Sprachmodell eben dieser Firma. Wir halten das hier fest, damit der Leser diesen Abschnitt mit dem nötigen Abstand liest.

V. Der letzte Hebel

In unserem Essay „Wem gehört die menschenleere Halle?“ haben wir beschrieben, wie die Fabrik ihren Arbeitern den einzigen Hebel nimmt, den sie je hatten: dass ohne sie nichts läuft. Der Produktionsvorstand, den wir dort zitiert haben, nannte in einem Atemzug die neuen Geschäftsfelder seines Unternehmens: Rüstung und humanoide Robotik. Es ist dieselbe Technik. Was in der Halle den Arbeiter ersetzt, ersetzt im Feld den Soldaten.

Damit verschwindet ein zweiter Hebel, und er ist älter und wichtiger als der Streik. Jeder Herrscher, der gegen sein eigenes Volk vorgehen will, braucht Menschen, die dafür schießen. Und Menschen schießen nicht immer. Im Februar 1917 weigerten sich in Petrograd die Soldaten eines Garderegiments, weiter auf Demonstranten zu feuern, und liefen zu ihnen über. Wenige Tage später war der Zar gestürzt. In Manila stellten sich 1986 Hunderttausende vor die Panzer, und die Soldaten fuhren nicht weiter. Die Macht der Vielen hat in der Geschichte oft nicht darin bestanden, dass sie stärker waren, sondern darin, dass die Bewaffneten selbst zu den Vielen gehörten.

Eine autonome Waffe gehört zu niemandem. Sie verweigert keinen Befehl, sie läuft nicht über, und sie hat keine Familie in der Menge, auf die sie zielt. Der Brief von 2017 hat genau das benannt: Waffen, die Despoten gegen ihre Bevölkerung einsetzen. Die Machtkonzentration, die mit der menschenleeren Halle beginnt, endet mit dem menschenleeren Schlachtfeld. Wer beides besitzt, braucht die Menschen weder zum Arbeiten noch zum Gehorchen.

VI. Wo die Grenze verläuft

Es wäre unredlich, so zu tun, als gäbe es keine guten Gründe für Autonomie im Krieg. In der Ukraine stören beide Seiten die Funkverbindungen der Drohnen so stark, dass viele ihr Ziel auf den letzten Metern selbständig ansteuern müssen. Gegen einen Schwarm anfliegender Drohnen ist ein Mensch, der jeden Abschuss einzeln freigibt, zu langsam. Und Kriegsschiffe haben seit den achtziger Jahren Abwehrkanonen, die anfliegende Raketen selbständig erkennen und beschießen.

Die Grenze verläuft deshalb nicht zwischen Mensch und Maschine. Sie verläuft zwischen der Abwehr eines Geschosses und der Auswahl eines Menschen. Eine Maschine, die eine Rakete abschießt, die auf ein Schiff zufliegt, entscheidet über ein Ding. Eine Maschine, die in einer Straße entscheidet, wer ein Kämpfer ist, entscheidet über ein Leben, und niemand steht mehr dafür ein. Um genau diese Unterscheidung ging es in Genf mit der Formel von der „bedeutsamen menschlichen Kontrolle“. Und genau diese Unterscheidung wollten die Vereinigten Staaten nicht festschreiben.

VII. Woran dieser Essay zu widerlegen wäre

Der erste Einwand: China und Russland entwickeln autonome Waffen ohnehin. Wer sich allein beschränkt, verliert. Das ist ernst zu nehmen. Aber es ist ein Argument für eine Regel, die alle bindet, nicht gegen sie. Wer dieses Argument benutzt und zugleich die Verhandlungen über eine solche Regel abschwächt, will die Regel nicht.

Der zweite Einwand: Maschinen könnten im Krieg weniger Fehler machen als übermüdete, verängstigte Soldaten. Menschen haben Massaker begangen, die keine Maschine je begehen würde. Auch das stimmt. Aber es betrifft nur die Frage der Fehler, nicht die Frage der Verantwortung und nicht die des Hebels. Ein Soldat, der ein Massaker begeht, kann vor Gericht gestellt werden. Ein Soldat, der sich weigert, kann einen Herrscher stürzen. Eine Maschine kann weder das eine noch das andere.

Der dritte Einwand: Niemand versteht diese Technik besser als die, die sie bauen. Wen sonst sollte man fragen? Man soll sie fragen. Aber wer gefragt wird, berät. Wer leitet, entscheidet. Das ist der Unterschied, um den es geht.

Widerlegt wäre der Essay, wenn die Ergebnisse von Projekt Meridian keinen Vorrang für die Produkte der Firmen erkennen lassen, die es leiten. Die Probe kommt bald. Der Bericht ist für den 28. Januar 2027 angekündigt.

VIII. Die Büchse

In der Sage öffnet Pandora die Büchse aus Neugier, und als sie den Deckel wieder schließt, ist alles Unheil schon in der Welt. Nur die Hoffnung bleibt darin zurück. Die Unterzeichner von 2017 wussten, wovon sie sprachen. Diesmal wird die Büchse nicht aus Neugier geöffnet, sondern im Auftrag, mit Frist und Budget, von einem, der vor ihr gewarnt hat.

Wenn der Soldat, der nicht schießt, durch eine Maschine ersetzt wird, die immer schießt: Wer sagt dann noch Nein?