Warum OpenAI seinen Pentagon-Vertrag nach einer Welle von ChatGPT-Deinstallationen anpassen musste

Als Militärverträge Millionen von Nutzern in Rage brachten

Die tägliche Deinstallationsrate der ChatGPT-App schnellte um nahezu 300 Prozent in die Höhe – und die Führungsriege von OpenAI erkannte, dass die Zusammenarbeit mit dem Militär dem Unternehmen etwas Wertvolleres kosten könnte als jeden Vertrag: das Vertrauen seiner Nutzer. Die Vertragsanpassungen folgten innerhalb weniger Tage.

Die gesamte KI-Welt schaute zu, wie schnell das Thema militärischer KI-Einsatz den Zorn gewöhnlicher Menschen entfachen kann. OpenAI unterzeichnete zunächst einen Vertrag mit dem US-Verteidigungsministerium – und schrieb ihn dann in aller Eile um, während die Deinstallationsstatistiken in die Höhe schossen. Das Pentagon drängt Technologieunternehmen dazu, möglichst viele Türen zu öffnen, während einige von ihnen feste ethische Grenzen ziehen.

Experten warnen, dass private Konzerne ihre eigenen ethischen Grenzen für den militärischen KI-Einsatz nicht selbst festlegen sollten – das sei eine zu große Verantwortung ohne ausreichende Kontrolle. Forscher der Universität Oxford mahnen zudem, dass durch den Ausschluss der vorsichtigsten Akteure wie Anthropic die Sicherheit des gesamten Ökosystems geschwächt werde. Dieser Fall hat offenbart, wie schnell das Nutzervertrauen bröckelt, sobald ein Technologieunternehmen auf militärische Strukturen trifft.

Für den alltäglichen Nutzer ist dies ein entscheidender Moment: Es zeigt sich, ob die Unternehmen hinter ChatGPT, Claude oder anderen Assistenten auf Transparenz setzen oder dem Druck von Verteidigungsaufträgen nachgeben. Die heute in Washington und im Silicon Valley getroffenen Entscheidungen werden direkt bestimmen, wozu die Apps auf unseren Smartphones in einigen Jahren fähig sein werden.

Wie Anthropic das Pentagon ablehnte und auf einer schwarzen Liste landete

Die Geschichte beginnt bei Anthropic, dem Entwickler des Modells Claude. Das Pentagon legte dem Unternehmen ein Kooperationsangebot vor, das dem von OpenAI sehr ähnlich war. Das Verteidigungsministerium wollte ihre KI in Systeme einbinden, die riesige Datenmengen in Echtzeit verarbeiten – von Satellitenbildern bis hin zu Geheimdienstberichten – mit dem Ziel, Entscheidungsprozesse direkt auf dem Schlachtfeld zu beschleunigen.

Anthropic zog jedoch zwei unverhandelbare Grenzen. Erstens darf Claude die Entwicklung vollständig autonomer Waffensysteme nicht unterstützen – also solcher, bei denen eine Maschine selbst über den Einsatz tödlicher Gewalt entscheidet. Zweitens darf das Modell nicht an der Massenüberwachung der Zivilbevölkerung auf US-amerikanischem Staatsgebiet beteiligt sein.

Aus Sicht des Militärs waren diese Bedingungen inakzeptabel. Berichten zufolge setzte die Trump-Regierung Anthropic auf eine schwarze Liste und schloss das Unternehmen von staatlichen Aufträgen aus. Anthropic hatte sich den Ruf einer prinzipienfesten und unnachgiebigen Firma erarbeitet – bezahlte dafür aber mit dem Verlust eines potenziell sehr lukrativen Marktes.

Die Situation wird dadurch noch komplizierter, dass Claude Medienberichten zufolge trotz des formalen Ausschlusses gelegentlich in Operationen im Zusammenhang mit Spannungen zwischen den USA, Israel und dem Iran auftaucht. Das Pentagon lehnt jeden Kommentar dazu ab und lässt damit eine Reihe unbequemer Fragen unbeantwortet.

OpenAI unterzeichnete das, was Anthropic abgelehnt hatte

Nachdem Anthropic Nein gesagt hatte, war OpenAI an der Reihe. An einem Freitag fiel die Unterschrift unter einen Vertrag, der in der Praxis die Lücke füllte, die der ablehnende Konkurrent hinterlassen hatte. ChatGPT sollte in Verteidigungsanwendungen eingesetzt werden, und die Einzelheiten des Vertrags blieben teilweise geheim.

Sam Altman, der Chef von OpenAI, veröffentlichte am darauffolgenden Tag eine Erklärung, in der er behauptete, die ausgehandelten Schutzmaßnahmen seien strenger als jene, denen Anthropic zuzustimmen bereit gewesen wäre. Doch diese Mitteilung erweckte anstatt den Eindruck einer Unternehmensverteidigung den Anschein, OpenAI wolle aus der „Prinzipientreue“ des Konkurrenten Kapital schlagen.

Die Reaktion der Nutzer war unmittelbar und massiv. Daten der Analysefirma Sensor Tower zeigten, dass die durchschnittliche tägliche Deinstallationsrate der ChatGPT-App um 295 Prozent gegenüber dem üblichen Wert anstieg. Die sozialen Netzwerke füllten sich mit Vorwürfen des Verrats an den erklärten Unternehmenswerten und des Ausverkaufs an militärische Interessen.

• Anthropic lehnte eine Zusammenarbeit bei vollständig autonomen Waffensystemen ab
• Das Pentagon schloss Anthropic von staatlichen Ausschreibungen aus
• OpenAI unterzeichnete am Freitag einen Vertrag mit dem Verteidigungsministerium
• Sam Altman behauptete, die Schutzmaßnahmen seien strenger als bei Anthropic
• Die Deinstallationen von ChatGPT stiegen um 295 Prozent
• In sozialen Netzwerken verbreitete sich eine Kampagne unter dem Hashtag CancelChatGPT
• Die Claude-App sprang im App Store auf Platz eins
• OpenAI kündigte am Montag Vertragsänderungen an

Innerhalb weniger Tage wandelte sich ChatGPT im Bewusstsein vieler Menschen vom Symbol „verantwortungsvoller KI“ zu einem Werkzeug, das mit dem Militärapparat in Verbindung gebracht wurde. Altman übernahm am Montag öffentlich die Rolle des sich eingestehenden Schuldigen – er räumte offen ein, dass die Kommunikation überstürzt, unausgereift und die ganze Angelegenheit rein opportunistisch gewirkt habe. Gleichzeitig kündigte er eine Überarbeitung des Vertrags mit dem Verteidigungsministerium an.

Was OpenAI konkret zu ändern versprach

Unter dem Druck des wachsenden Boykotts und einer empörten Öffentlichkeit fügte OpenAI dem Vertrag mehrere sehr konkrete Klauseln hinzu. Die wesentlichen Änderungen betreffen zwei heikle Bereiche: die Überwachung amerikanischer Staatsbürger und den Zugang von Geheimdiensten zu den Modellen.

Eine der wichtigsten Anpassungen ist ein ausdrückliches Verbot, OpenAI-Systeme wissentlich zur Überwachung von US-Bürgern einzusetzen. Das Unternehmen sperrte außerdem den automatischen Zugang von Geheimdienstbehörden wie der NSA, ohne eine gesondert und transparent ausgehandelte Vertragsänderung. Zudem wird erklärt, dass KI Analysten als unterstützendes Werkzeug dienen soll – und nicht den Menschen bei Entscheidungen über den Einsatz von Gewalt ersetzen darf.

Das ist eine teilweise Annäherung an den Ansatz von Anthropic, doch der Unterschied bleibt grundlegend. Anthropic verzichtete lieber auf Aufträge, als seine Anforderungen aufzuweichen. OpenAI wählte den Weg, die Zusammenarbeit beizubehalten und dabei Einschränkungen hinzuzufügen.

Forscher der Universität Oxford weisen darauf hin, dass durch den Ausschluss des vorsichtigsten Akteurs – Anthropic – aus den Verhandlungen die Sicherheit der gesamten Branche geschwächt werde. Mariarosaria Taddeo von derselben Institution betont, dass private Unternehmen ethische Grenzen nicht im Alleingang festlegen sollten, da sie stets unter dem Druck von Gewinnen und Marktanteilen stehen.

Warum dem Militär künstliche Intelligenz so wichtig ist

Hinter der gesamten Geschichte stecken die weitreichenden Ambitionen moderner Streitkräfte. Plattformen wie die des Unternehmens Palantir verknüpfen bereits heute Daten aus verschiedensten Quellen – Sensoren, Drohnen, Satelliten, Geheimdienstberichte – und legen Kommandeuren fertige Handlungsempfehlungen vor.

Vertreter der Rüstungsindustrie zufolge ermöglichen solche Systeme eine deutlich schnellere Analyse von Satellitenbildern, eine automatische Klassifizierung von Geheimdienstberichten nach Dringlichkeit sowie eine frühzeitige Warnung vor Bedrohungen, bevor es zu einem direkten Angriff kommt. Militäroffiziere, die für KI-Projekte innerhalb der NATO verantwortlich sind, versichern, dass ein Mensch in der Entscheidungsschleife formal stets vorhanden bleibt.

Genau hier entsteht jedoch eine entscheidende Spannung. Generative KI macht Fehler – sie halluziniert und kann falsche Informationen mit vollständiger Gewissheit präsentieren. Im zivilen Umfeld bedeutet das im schlimmsten Fall eine peinliche Antwort im Chat. Auf dem Schlachtfeld könnte es den Tod unschuldiger Menschen bedeuten.

Je fortschrittlicher KI ist und je überzeugender sie wirkt, desto schwieriger wird es psychologisch, ihre Empfehlungen in Frage zu stellen – insbesondere unter Stress und Zeitdruck. Experten warnen, dass Unternehmen ohne einen festen Rechtsrahmen stets die finanzielle Sicherheit über ethische Garantien stellen werden.

Claude wächst, ChatGPT verliert Nutzer

Der Mediensturm brachte unmittelbare Marktverschiebungen mit sich. Nutzer, die ChatGPT löschten, suchten nach einer Alternative – und Claude, dessen Entwickler sich mit dem Pentagon offen angelegt hatte, erwies sich als naheliegende Wahl.

Daten aus dem App Store zeigen, dass die Anthropic-App am Samstag an die Spitze der Download-Charts sprang und sich dort mindestens bis Donnerstag hielt. Amerikanische Medien berichteten, dass Claude ChatGPT bei den Neuinstallationen überholte – ein Szenario, das noch wenige Wochen zuvor als höchst unwahrscheinlich gegolten hatte.

Im Internet lief zeitgleich eine organisierte Kampagne. Die Hashtags CancelChatGPT und QuitGPT riefen dazu auf, Produkte von OpenAI dauerhaft zu verlassen, solange das Unternehmen mit dem Verteidigungsministerium zusammenarbeitet. Einige Aktivisten betrachteten dies als Test dafür, ob Nutzerdruck das Verhalten von KI-Giganten tatsächlich verändern kann.

Die Image-Krise von OpenAI bescherte Anthropic in der Praxis eine kostenlose Marketingkampagne, die auf einem einzigen Slogan aufbaute: „Wir haben nicht nachgegeben.“ Die sozialen Netzwerke füllten sich mit Berichten von Menschen, die von ChatGPT zu Claude wechselten. Forscher beobachten, wie schnell eine ethische Entscheidung eines einzelnen Unternehmens den gesamten Markt umschichten kann.

Warum dieser Fall auch gewöhnliche Nutzer angehen sollte

Für den alltäglichen Nutzer von ChatGPT oder Claude mag diese militärische Angelegenheit wie ein weit entferntes Machtspiel im Hintergrund klingen. Tatsächlich aber werden die heute in Washington und im Silicon Valley getroffenen Entscheidungen direkt beeinflussen, wozu die Apps auf unseren Smartphones in ein paar Jahren fähig sein werden und wie sie sich verhalten.

Wenn Sprachmodelle auf Daten aus militärischen Operationen „trainiert“ werden, könnten sie bei strategischen Analysen besser werden – übernehmen dabei aber möglicherweise auch die für dieses Umfeld typischen Vorurteile. Und wenn private Unternehmen feststellen, dass Verteidigungsaufträge resistenter gegenüber Boykotten sind als Verbraucherabonnements, werden sie leichter finanzielle Sicherheit über ethische Einschränkungen stellen.

Für Nutzer in Deutschland ist dies eine gute Gelegenheit, sich anzuschauen, welche Bedingungen Unternehmen, die KI auch auf unserem Markt anbieten, in ihre Richtlinien schreiben. Definieren sie klar, mit wem sie zusammenarbeiten? Erklären sie Grenzen in Bezug auf Überwachung und militärische Anwendungen? Marktdruck ersetzt keine Gesetze – zeigt Konzernen aber, dass Reputation zu einer echten Währung geworden ist.

Immer deutlicher zeichnet sich die Spannung zwischen dem Tempo der Innovation auf der einen und dem Bedürfnis nach Stabilität und Sicherheit auf der anderen Seite ab. Generative Modelle entwickeln sich in schwindelerregendem Tempo, doch ihre Neigung zu Halluzinationen in militärischen, medizinischen oder finanziellen Anwendungen kann dramatische Folgen haben. Die Grenze zwischen „Assistent“ und „Mitentscheider“ beginnt zu verschwimmen – und genau jetzt wird ein grundlegender Streit darüber geführt, auf welcher Seite dieser Linie KI stehen bleiben sollte.