Warum OpenAI seinen Pentagon-Vertrag anpasste, nachdem Nutzer ChatGPT massenhaft löschten

Eine brisante Mischung: Künstliche Intelligenz und Militäraufträge

Innerhalb weniger Tage hat die gesamte KI-Branche offenbart, wie heikel das Thema militärischer KI-Einsatz wirklich ist. Die Deinstallationsrate von ChatGPT schnellte um fast 300 Prozent in die Höhe, als das Unternehmen einen umstrittenen Vertrag mit dem US-Verteidigungsministerium unterzeichnete.

Den Auslöser für den Skandal lieferte die Weigerung von Anthropic. Die Entwickler des Claude-Modells erhielten ein Kooperationsangebot vom Pentagon, entschieden sich jedoch, ihre eigenen ethischen Grenzen nicht zu überschreiten. Die Folge: eine Schwarze Liste, der Verlust lukrativer Verträge und eine überraschende Abwanderung von Nutzern zu Konkurrenzanwendungen.

Für Nutzer in Deutschland mag die ganze Angelegenheit wie ein weit entferntes amerikanisches Problem klingen. Tatsächlich aber beeinflussen Entscheidungen, die heute in Washington und im Silicon Valley getroffen werden, direkt, welche Funktionen unsere Apps in einigen Jahren bieten werden. Experten warnen, dass private Unternehmen nicht allein die ethischen Grenzen von Technologien festlegen sollten, deren Auswirkungen Menschen auf der ganzen Welt spüren werden.

Wie Anthropic das Pentagon ablehnte und auf der Schwarzen Liste landete

Die Geschichte beginnt mit einem Angebot an Anthropic, die Schöpfer des Claude-Modells. Das Pentagon wollte ihre künstliche Intelligenz in Systeme einbinden, die in der Lage sind, riesige Datenmengen in Echtzeit zu analysieren — Satellitenbilder, Geheimdienstberichte und Sensordaten direkt vom Schlachtfeld. Das Ziel war, die Entscheidungsfindung von Kommandeuren während Kampfoperationen erheblich zu beschleunigen.

Anthropic zog jedoch zwei klare ethische Grenzen. Erstens darf das Claude-Modell nicht zur Entwicklung vollständig autonomer Waffensysteme eingesetzt werden, bei denen eine Maschine selbst über den Einsatz von Gewalt gegen Menschen entscheidet. Zweitens darf das System nicht zur Massenüberwachung gewöhnlicher Bürger auf US-amerikanischem Boden missbraucht werden.

Diese Bedingungen erwiesen sich aus Sicht der Militärvertreter als inakzeptabel. Die Trump-Administration soll Anthropic daraufhin auf eine Schwarze Liste von Einrichtungen ohne Zugang zu Regierungsaufträgen gesetzt haben. Das Unternehmen hatte sich den Ruf einer „kompromisslos ethischen“ Firma aufgebaut — verlor dabei aber einen potenziell einträglichen Markt.

Die Situation wird durch Berichte aus Pentagon-nahen Kreisen weiter verkompliziert, wonach das Claude-Modell trotzdem in Operationen im Zusammenhang mit dem Spannungsfeld zwischen den USA, Israel und dem Iran eingesetzt wird — obwohl das Unternehmen formell von Ausschreibungen ausgeschlossen ist. Das Verteidigungsministerium kommentiert diese Informationen nicht, sodass zahlreiche Fragen offen bleiben.

Was OpenAI unterzeichnete und warum es die Nutzer aufbrachte

Nachdem Anthropic eine Zusammenarbeit abgelehnt hatte, trat OpenAI auf den Plan. An einem Freitag wurde ein Vertrag unterzeichnet, der die entstandene Lücke nach dem Konkurrenten faktisch füllte. ChatGPT sollte in Verteidigungsanwendungen eingesetzt werden, wobei die Vertragsdetails teilweise geheim blieben.

Sam Altman, der Chef von OpenAI, veröffentlichte am folgenden Tag eine Erklärung, in der er behauptete, die ausgehandelten Sicherheitsvorkehrungen seien strenger als jene, auf die Anthropic bereit gewesen wäre einzugehen. Diese Mitteilung sollte den Ruf des Unternehmens schützen, wirkte in den Augen vieler Menschen jedoch wie ein Versuch, vom Prinzipientreuen des Rivalen zu profitieren.

Die Reaktion der Nutzer ließ nicht lange auf sich warten. Daten des Analyseunternehmens Sensor Tower zeigten, dass die durchschnittliche tägliche Deinstallationsrate der ChatGPT-App um 295 Prozent gegenüber dem normalen Niveau anstieg. In sozialen Netzwerken häuften sich Vorwürfe des Verrats deklarierter Werte und des Nachgebens gegenüber Militäraufträgen. In Online-Diskussionen mehrten sich Kommentare enttäuschter Entwickler und Wissenschaftler, die ChatGPT für Forschungszwecke genutzt hatten.

Am Montag trat Altman als „schuldbewusster Eingestehender“ auf. Er erklärte öffentlich, die Kommunikation sei übereilt und unüberlegt gewesen und die gesamte Angelegenheit habe rein opportunistisch gewirkt. Zudem kündigte er Änderungen am Vertrag mit dem Verteidigungsministerium an. Innerhalb weniger Tage hatte sich ChatGPT in den Augen vieler Menschen vom Symbol verantwortungsvoller KI in ein Werkzeug verwandelt, das mit dem Militärapparat assoziiert wird.

Welche konkreten Vertragsänderungen OpenAI versprach

Unter dem Druck der öffentlichen Meinung und eines wachsenden Boykotts arbeitete OpenAI mehrere sehr konkrete Klauseln in den Vertrag ein. Die wichtigsten betreffen die Überwachung US-amerikanischer Bürger und den Zugang der Geheimdienste zu den Modellen.

Zu den wesentlichen Änderungen gehören:

• ein ausdrückliches Verbot der wissentlichen Nutzung von OpenAI-Systemen zur Überwachung der US-Bevölkerung
• die Blockierung des automatischen Zugriffs für Geheimdienste wie die NSA ohne eine gesondert und explizit vereinbarte Vertragsänderung
• die Erklärung, dass künstliche Intelligenz Analysten unterstützen, aber nicht den Menschen bei Entscheidungen über Gewaltanwendung ersetzen soll
• die Forderung nach transparenter Berichterstattung über potenzielle Missbrauchsfälle der Systeme
• das Recht von OpenAI, die Dienstleistungen bei Verstößen gegen die vereinbarten Grenzen auszusetzen
• ein unabhängiges Audit der Technologienutzung alle sechs Monate
• eine Einschränkung des Zugangs zu den neuesten Modellen für Anwendungen mit letalem Potenzial

Dies stellt eine teilweise Annäherung an den Ansatz von Anthropic dar, doch der Unterschied bleibt offensichtlich. Anthropic verzichtete lieber auf Aufträge, als den Anforderungen des Pentagons nachzugeben. OpenAI wählte den Weg, Einschränkungen hinzuzufügen und gleichzeitig die Zusammenarbeit aufrechtzuerhalten. Analysten weisen darauf hin, dass diese zusätzlichen Garantien möglicherweise nicht ausreichen, wenn eine unabhängige Kontrolle ihrer tatsächlichen Einhaltung fehlt.

Warum das Militär so intensiv nach künstlicher Intelligenz strebt

Im Hintergrund des gesamten Geschehens steht eine umfassendere Vision moderner Streitkräfte. Plattformen wie jene des Unternehmens Palantir integrieren heute Daten aus vielen Quellen — Sensoren, Drohnen, Satelliten und Geheimdienstberichten — und präsentieren sie Kommandeuren in Form fertiger Empfehlungen.

Nach Angaben von Branchenvertretern ermöglichen solche Systeme eine schnellere Analyse Tausender Satellitenbilder als Dutzende Analysten, die Vorhersage feindlicher Truppenbewegungen anhand von Mustern aus vergangenen Konflikten sowie die Identifizierung von Zielen mit höherer Präzision als traditionelle Methoden. General Roger Cloutier vom US-Kommando in Europa erklärte kürzlich, die Integration von KI in Kampfsysteme sei ebenso bahnbrechend wie die Einführung der Dampfmaschine in die Industrie.

Genau hier entsteht eine zentrale Spannung. Generative künstliche Intelligenz ist fehleranfällig — sie neigt zu sogenannten „Halluzinationen“ und kann falsche Informationen mit überzeugender Sicherheit präsentieren. In zivilen Anwendungen endet das höchstens mit einer peinlichen Chat-Antwort. Auf dem Schlachtfeld könnte es den Tod unschuldiger Menschen bedeuten. Forscher warnen, dass der psychologische Druck auf Kommandeure, unter Zeitdruck KI-Empfehlungen zu akzeptieren, enorm sein kann.

Wie die ChatGPT-Krise Claude einen unerwarteten Boom bescherte

Der Mediensturm hatte einen unmittelbaren Markteffekt. Nutzer, die ChatGPT löschten, suchten nach einer Alternative — und die natürliche Wahl erwies sich als Claude, dessen Hersteller sich in offene Konfrontation mit dem Pentagon begeben hatte.

App-Store-Daten zeigen, dass die Anthropic-App am Samstag auf Platz eins der Download-Charts sprang und sich dort mindestens bis Donnerstag hielt. Amerikanische Medien berichteten, dass Claude ChatGPT bei der Anzahl der Neuinstallationen übertraf — etwas, das noch wenige Wochen zuvor äußerst unwahrscheinlich erschienen war. Marktanalysten schätzen, dass Anthropic innerhalb einer einzigen Woche so viele neue Nutzer gewann, wie das Unternehmen unter normalen Umständen drei Monate intensiven Marketings benötigt hätte.

Im Internet startete eine organisierte Druckkampagne gegen OpenAI. Die Hashtags #CancelChatGPT und #QuitGPT wurden populär und riefen dazu auf, die Produkte des Unternehmens für die Dauer der Zusammenarbeit mit dem Verteidigungsministerium dauerhaft zu verlassen. Einige Aktivistgruppen sehen dies als Test dafür, ob Nutzerdruck das Verhalten von KI-Giganten tatsächlich verändern kann.

Die Image-Krise von OpenAI baute für Anthropic in der Praxis eine kostenlose Marketingkampagne auf, die auf einer einzigen Botschaft beruhte: „Wir haben nicht nachgegeben.“ In Tech-Communities auf Reddit und Hacker News entbrannten Debatten über die Ethik der Nutzung von KI-Tools, und viele Entwickler kündigten öffentlich ihren Wechsel zu Claude für ihre Projekte an.

Sollten gewöhnliche Nutzer verfolgen, was KI-Firmen mit dem Militär unterzeichnen?

Für einen durchschnittlichen Nutzer von ChatGPT oder Claude mag dieses militärische Puzzle wie etwas sehr Weit entferntes klingen. Doch die Entscheidungen, die heute in Washington und im Silicon Valley getroffen werden, wirken sich direkt auf die Funktionen aus, die Apps auf unseren Smartphones in einigen Jahren bieten werden.

Wenn Sprachmodelle mit Daten aus Militäreinsätzen „trainiert“ werden, verstehen sie strategische Analysen möglicherweise besser, übernehmen dabei aber auch branchenspezifische Vorurteile. Wenn private Unternehmen feststellen, dass Verteidigungsverträge resistenter gegen Boykotts sind als Verbraucherabonnements, werden sie leichter finanzielle Sicherheit gegenüber ethischen Einschränkungen bevorzugen. Die Wissenschaftlerin Mariarosaria Taddeo von der Universität Oxford weist darauf hin, dass das Verdrängen des vorsichtigsten Akteurs — also Anthropic — die Sicherheit des gesamten Ökosystems schwächt.

Für Nutzer in Deutschland ist dies ein geeigneter Moment zu prüfen, welche Bedingungen KI-Unternehmen, die auch hierzulande tätig sind, in ihren Nutzungsbedingungen angeben. Definieren sie klar, mit wem sie zusammenarbeiten? Erklären sie Grenzen in Bezug auf Überwachung und militärische Anwendungen? Marktdruck ersetzt zwar keine Gesetzgebung, zeigt Unternehmen aber, dass Reputation zu einer echten Währung geworden ist.

Die Spannung zwischen dem Tempo der Innovation und dem Bedarf an Stabilität und Sicherheit tritt immer deutlicher zutage. Generative Modelle entwickeln sich rasend schnell, doch ihre Neigung zu Halluzinationen in militärischen, medizinischen oder finanziellen Anwendungen kann dramatische Folgen haben. Die Grenze zwischen „Assistent“ und „Mitentscheider“ verschwimmt — und genau jetzt wird darüber gestritten, auf welcher Seite dieser Linie künstliche Intelligenz anhalten sollte.