Es wäre vermutlich kein rotes Telefon. Wahrscheinlicher wäre ein gesicherter Textkanal, über den Techniker, Diplomaten und Sicherheitsexperten im entscheidenden Moment dieselbe Frage klären müssten: Ist das gerade ein Angriff – oder eine Maschine, die außer Kontrolle geraten ist?
Noch gibt es diesen Kanal nicht. Doch seit dem 20. September 2026 liegt die Idee offiziell auf dem Tisch. Bei Gesprächen in New York schlugen die USA China einen Benachrichtigungsmechanismus für KI-Zwischenfälle vor, die die nationale Sicherheit berühren. US-Finanzminister Scott Bessent erklärte nach seinem Treffen mit dem chinesischen Vizepremier He Lifeng, beide Länder teilten Ziele, aber auch Gefahren. Zwischen den beiden führenden KI-Mächten müsse mehr Transparenz entstehen. Am 24. September sollen Donald Trump und Xi Jinping in Washington zusammenkommen. Der amerikanische Vorschlag dürfte dann erneut eine Rolle spielen. Recherchequelle: AP News
Beide Seiten schildern das Gespräch auffallend vorsichtig. Washington spricht von einem konkreten Meldesystem. In der chinesischen Darstellung heißt es dagegen lediglich, dass über Fragen der künstlichen Intelligenz gesprochen worden sei. Von einer Zustimmung Pekings ist keine Rede. Der Unterschied zwischen beiden Darstellungen ist klein genug für ein diplomatisches Kommuniqué und groß genug, um den Stand der Verhandlungen zu beschreiben: Es gibt einen Gesprächsfaden, aber noch keine Leitung. Recherchequelle: Xinhua
Wenn ein Modellfehler zur internationalen Krise wird
Der Ausdruck „KI-Zwischenfall“ klingt zunächst wie eine bürokratische Schublade. Was darin landet, kann jedoch von einem irritierenden Modellfehler bis zur internationalen Krise reichen. Denkbar wäre etwa ein KI-gestützter Cyberangriff auf Stromnetze, Banken oder Kommunikationssysteme. Ein leistungsfähiges Modell könnte bei der Entwicklung biologischer Kampfstoffe helfen. Bei autonomer Software besteht zudem das Risiko, dass sie militärische Netze auskundschaftet, vorgegebene Grenzen überschreitet oder eine Sicherheitsmaßnahme der Gegenseite als Angriff missversteht.
Besonders gefährlich wird es, wenn niemand mehr sicher sagen kann, wer eine digitale Operation ausgelöst hat. Ein Staat? Eine kriminelle Gruppe? Ein privates Unternehmen? Oder ein KI-Agent, der bei der Erfüllung seines Auftrags Wege einschlägt, die kein Mensch ausdrücklich vorgesehen hat? Amerikanische und chinesische Experten nennen deshalb KI-gestützte Cyberoperationen, biologischen Missbrauch, schwere Modellfehler und den Verlust menschlicher Kontrolle als mögliche Anlässe für eine gemeinsame Krisenkommunikation. Recherchequelle: AP News
Maschinen eskalieren schneller als Diplomaten reagieren können
Brisant ist vor allem das unterschiedliche Tempo. Diplomatie braucht Zeit: für Gesprächsanfragen, abgestimmte Erklärungen und sorgfältig geprüfte Übersetzungen. Automatisierte Systeme dagegen arbeiten in Sekunden. Eine defensive KI kann verdächtigen Datenverkehr blockieren und einen Gegenangriff einleiten, während auf der anderen Seite bereits ein weiteres System reagiert. Aus maschineller Sicht ist das eine Folge logischer Schritte. Politisch kann es wie eine gezielte Eskalation aussehen.
Sicherheitsexperten aus beiden Ländern warnen vor Situationen, in denen Regierungen nur wenige Minuten hätten, um einen KI-Vorgang in der Nähe militärischer oder nuklearer Systeme zu bewerten. Ihre Vorschläge reichen von verbindlicher menschlicher Kontrolle bei folgenreichen Cyberoperationen bis zu roten Linien für nukleare Kommando- und Kommunikationsnetze. Eine direkte Verbindung könnte dann eine schlichte, aber entscheidende Nachricht übermitteln: Der Vorgang war nicht autorisiert. Wir untersuchen ihn. Noch nicht reagieren. Recherchequelle: Reuters
Warum bestehende Hotlines im Ernstfall versagen
Gerade diese Schlichtheit macht die Idee bestechend. Doch die Geschichte zeigt, dass eine eingerichtete Hotline noch keine funktionierende Krisenkommunikation garantiert. Die USA und China verfügen bereits über politische und militärische Kontaktwege. In entscheidenden Situationen blieben Anrufe dennoch unbeantwortet. Nach der versehentlichen Bombardierung der chinesischen Botschaft in Belgrad 1999 erreichten amerikanische Vertreter ihre Ansprechpartner nicht. Als 2001 ein amerikanisches Aufklärungsflugzeug mit einem chinesischen Kampfjet kollidierte, vergingen zwölf Stunden, bevor der Kontakt zustande kam. Während der Spannungen um Taiwan setzte Peking 2022 die militärische Verbindung zeitweise aus.
Hinzu kommt ein beinahe groteskes Detail: Wer die bestehende militärische Telefonverbindung nutzen will, muss ein Gespräch mitunter 48 Stunden vorher ankündigen. Für eine sich rasch ausbreitende KI-Attacke wäre das ungefähr so hilfreich wie ein Feueralarm, der zunächst einen Termin verlangt. Eine Analyse der Carnegie Endowment empfiehlt deshalb, den neuen Kanal gar nicht erst in Form eines Telefons aufzubauen. Ein verschlüsseltes textbasiertes System würde Aussagen dokumentieren, Übersetzungsfehler verringern und beiden Regierungen Zeit geben, technische Informationen intern zu prüfen. Recherchequelle: Carnegie Endowment for International Peace
Wie ein belastbarer Krisenkanal funktionieren müsste
Eine solche Verbindung müsste auf mehreren Ebenen funktionieren. Für kleinere Vorfälle und den regelmäßigen Austausch wäre ein Arbeitskanal sinnvoll. Dort könnten Fachleute Meldeverfahren erproben, Begriffe klären und aus begrenzten Zwischenfällen lernen. Daneben bräuchte es einen echten Notfallkanal, über den ranghohe Entscheider ohne lange Freigabeketten erreichbar wären.
Zunächst müssten Washington und Peking festlegen, wann dieser Notfallkanal genutzt werden soll. Nicht jeder fehlerhafte Chatbot rechtfertigt eine Nachricht an die andere Weltmacht. Eine Meldung wäre eher dann nötig, wenn kritische Infrastruktur betroffen ist, ein System vorgegebene Grenzen überschreitet, militärische Netze betrifft oder ein Vorfall fälschlich den Eindruck einer staatlich angeordneten Operation erwecken könnte. Fehlen solche Schwellenwerte, droht der Kanal entweder mit belanglosen Warnungen überladen zu werden oder aus politischer Vorsicht ungenutzt zu bleiben.
Technisch besonders heikel ist die Frage: Welche Beweise werden übermittelt? Um einen Vorfall glaubwürdig zu erklären, könnten Protokolle der Modellaktivitäten, Zeitstempel, Netzwerkdaten oder Informationen über die verwendete Software nötig sein. Genau diese Daten können jedoch Fähigkeiten, Schwachstellen und geheimdienstliche Methoden offenlegen. Die Hotline müsste Vertrauen schaffen, obwohl sie ausgerechnet Staaten verbinden soll, die einander kaum vertrauen.
Kooperation unter strategischen Rivalen
Dieses Misstrauen erklärt auch, warum der Vorschlag kein Abkommen zur Begrenzung der KI-Entwicklung vorsieht. Beide Regierungen betrachten künstliche Intelligenz als strategische Schlüsseltechnologie. Washington will seinen Vorsprung bei Chips und Modellen sichern; Peking sieht amerikanische Exportbeschränkungen als Versuch, Chinas Aufstieg zu bremsen. Ein umfassender Vertrag über Modelle, Rechenleistung oder Entwicklungsgeschwindigkeit wäre unter diesen Bedingungen kaum realistisch. Ein eng begrenzter Krisenkanal verlangt weniger: keine Freundschaft, nicht einmal Einigkeit – nur die Einsicht, dass manche Missverständnisse beiden Seiten schaden. Fachleute empfehlen deshalb zunächst einen regelmäßigen Austausch zwischen spezialisierten Behörden und technischen Experten, statt sofort über weitreichende Rüstungskontrolle für Algorithmen zu verhandeln. Recherchequelle: Brookings Institution
Ein kleiner Kanal gegen folgenschwere Missverständnisse
Ob China den amerikanischen Vorschlag annimmt und welche Vorfälle tatsächlich gemeldet würden, ist offen. KI wird jedoch längst nicht mehr nur als Wirtschaftsthema behandelt. Die Technologie ist in den Bereich der nationalen Sicherheit vorgedrungen. Dort können technische Störungen den Eindruck politischer Absicht erwecken – und ein Fehler erzeugt nicht mehr bloß eine falsche Antwort, sondern womöglich eine falsche Reaktion.
Vielleicht beginnt internationale KI-Sicherheit deshalb nicht mit einem großen Vertrag, sondern mit einer kurzen Nachricht auf einem verschlüsselten Bildschirm: Wir sehen dasselbe Problem. Lasst uns zuerst verstehen, was geschehen ist.
Weiterführende Informationen
Quellenhinweis: Einzelne Fakten, Einschätzungen und Prognosen dieses Beitrags stützen sich auf Veröffentlichungen der nachfolgend genannten Unternehmen und Institutionen. Die Links dienen zugleich der weiterführenden Information.
Euronews – USA und China streben „KI-Dialog“ über gemeinsame Risiken an
Der Bericht beschreibt den US-Vorschlag vom 20. September 2026 für Meldungen über sicherheitsrelevante KI-Zwischenfälle und den weiterhin offenen Verhandlungsstand.
https://de.euronews.com/2026/09/21/usa-und-china-streben-ki-dialog-uber-gemeinsame-risiken-an
ZDFheute – Künstliche Intelligenz im Militär: Was sind Nutzen und Gefahren?
Der Beitrag erläutert anhand von Cyber- und Biowaffen, fehleranfälligen Modellen und schwindender menschlicher Kontrolle, wie das hohe Tempo militärischer KI Eskalationen begünstigen kann.
https://www.zdfheute.de/politik/ki-militaer-krieg-gefahr-vorteile-100.html
CyberKlartext – IT-Notfallkoffer
Die Produktseite zeigt technisch, wie ein Ende-zu-Ende-verschlüsselter Krisenchat mit Rollen, Meldetexten und einem zeitgestempelten Vorfallsprotokoll umgesetzt werden kann.
https://cyberklartext.de/app
