Ein chinesischer Cyberpolizist lässt Claude politische Stimmungen auswerten. Das System durchforstet eine staatliche Überwachungsdatenbank, verarbeitet Meldungen aus sozialen Netzwerken und erstellt daraus Tag für Tag Lagebilder zu politisch heiklen Ereignissen. Im Visier stehen unter anderem Aktivisten, Bürgerrechtler und Oppositionelle im Ausland. In einem besonders brisanten Fall soll die KI sogar Informationen über Orte gesammelt haben, an denen Proteste stattfinden sollten.
Der Vorgang klingt wie Stoff für einen Spionagethriller, stammt aber aus einem Bericht des KI-Unternehmens Anthropic. Nach eigenen Angaben beobachtete dessen Sicherheitsteam mehrere Konten, die mit chinesischen Sicherheitsbehörden in Verbindung standen. Zeitzonen, VPN-Verbindungen, Dokumentvorlagen, Sprachmuster und Arbeitsabläufe lieferten Hinweise darauf, wer Claude vermutlich nutzte und zu welchem Zweck. Anthropic sperrte die betreffenden Zugänge und gab seine Erkenntnisse an Behörden und andere Unternehmen weiter. Recherchequelle: Anthropic
Wie KI-Anbieter zu Sicherheitsakteuren werden
Damit übernimmt der Konzern eine institutionelle Rolle, die weit über Entwicklung und Vertrieb eines KI-Modells hinausgeht. Er beobachtet verdächtige Aktivitäten, ordnet sie mutmaßlichen Organisationen zu, sammelt Belege, unterbindet Vorgänge auf der eigenen Plattform und warnt staatliche Stellen. Es sind Aufgaben, die bislang vor allem Nachrichtendiensten, Polizeibehörden und spezialisierten Sicherheitsfirmen zufielen.
Anthropic ist damit nicht allein. Jeder Betreiber eines großen, zentral zugänglichen KI-Modells sitzt an einem strategisch bedeutsamen Beobachtungsposten. Er sieht nicht nur, dass jemand eine Software verwendet. Unter Umständen erkennt er auch, welche Fragen ein Nutzer stellt, welchen Code dieser entwickeln lässt, welche Dokumente er verarbeitet und wie sich ein Vorhaben über Wochen hinweg verändert. Ein einzelner Prompt verrät häufig wenig. Tausende Arbeitsschritte hingegen können nach und nach die Konturen einer ganzen Operation freilegen.
Von Überwachung bis Raketenbau: das Spektrum des Missbrauchs
Der im September veröffentlichte Bericht behandelt Aktivitäten, die Anthropic nach eigenen Angaben zwischen Dezember 2025 und August 2026 untersucht hat. Das Spektrum reicht von Cyberangriffen und staatlicher Überwachung über politische Einflussoperationen bis hin zu Betrug, Waffenentwicklung und biologischer Forschung. Betroffen waren verschiedene Modellvarianten von Claude, darunter Haiku, Sonnet und Opus. Nach Darstellung des Unternehmens ging es nicht um gewöhnliche Regelverstöße, sondern um besonders auffällige und neuartige Vorgänge.
In einem Fall nutzten Akteure Claude, um eine Software für elektronische Kriegführung zu entwickeln. Das Programm sollte Radaranlagen und Kommunikationssysteme eines Gegners analysieren, Störmaßnahmen berechnen und militärische Ziele nach Wert und Verwundbarkeit sortieren. Insgesamt durchlief es zwölf Versionen. Andernorts sollen Nutzer im von den Huthi kontrollierten Norden des Jemen versucht haben, mit Unterstützung der KI fortgeschrittene Raketen zu entwickeln. Ihre Identität legte Anthropic allerdings nicht offen; die Angaben beruhen auf den Ermittlungen des Unternehmens. Recherchequelle: Associated Press
Was die Erkenntnisse belegen – und was offenbleibt
Die Aussagekraft solcher Angaben hat Grenzen. Ein Unternehmensbericht ist weder ein Gerichtsurteil noch eine unabhängig geprüfte Ermittlungsakte. Für manche Zuordnungen nennt Anthropic lediglich eine mittlere Wahrscheinlichkeit. Außenstehende können weder die vollständigen Gesprächsverläufe noch die internen Signale untersuchen, auf denen diese Bewertungen beruhen. Die Öffentlichkeit erfährt das Ergebnis, nicht den gesamten Weg dorthin.
Trotz dieser Vorbehalte wird sichtbar, wie tief KI inzwischen in bestehende Machtapparate einsickert. Politische Verfolgung, Propaganda oder Spionage erfindet die Technik nicht neu. Sie verleiht solchen Tätigkeiten jedoch mehr Tempo und Reichweite – und macht sie billiger und leichter skalierbar. Jacob Klein, Leiter des Bedrohungsanalyseteams von Anthropic, beschreibt den Effekt als Effizienzgewinn für staatliche Überwachung: Die Zwecke bleiben im Wesentlichen dieselben, doch die Überwachung lässt sich mit weniger Personal automatisieren. Recherchequelle: Axios
So kann ein einzelner Analyst Arbeit bewältigen, für die früher eine ganze Abteilung nötig gewesen wäre. Claude sortiert Beiträge, übersetzt Texte, schreibt Berichte, erkennt Verbindungen und passt Vorlagen an. Dabei ist das Modell nicht zwangsläufig der große Stratege. Häufig erledigt es schlicht die mühsame Fleißarbeit: all die kleinteiligen Aufgaben, an denen komplexe Vorhaben sonst Zeit verlieren.
Gerade in diesen unscheinbaren Routinen entfaltet die Technik ihre Wirkung. Anthropic berichtet etwa von politischen Netzwerken, die Artikel in zahlreichen Sprachen produzieren ließen, von Medienkampagnen mit staatlicher Ausrichtung und von Systemen, die große Mengen öffentlicher Beiträge analysierten. In einer Operation wurden mehr als 155.000 Tweets ausgewertet. Ein anderes Netzwerk verarbeitete über 500 soziale Kanäle und rund 51.944 archivierte Nachrichten, um detaillierte Profile bestimmter Personen im Iran zu erstellen.
Der direkte Blick auf verdächtige Operationen
Mit der fortschreitenden Automatisierung wächst auch der Wert der Einblicke, über die ein Modellanbieter verfügt. Wer die Infrastruktur kontrolliert, kann womöglich noch vor einem Geheimdienst erkennen, dass sich ein verdächtiges Muster abzeichnet. Anthropic beschreibt diesen Vorteil offen: Anbieter leistungsfähiger Modelle könnten bestimmte Vorgänge direkt erkennen. Behörden oder internationale Ermittler müssten das Bild dagegen traditionell erst aus Hinweisen auf beschlagnahmten Geräten, Aussagen von Informanten und öffentlich zugänglichen Quellen zusammensetzen.
Darin liegt ein Teil der neuen Macht der KI-Konzerne. Sie beruht nicht allein auf der Intelligenz ihrer Modelle, sondern auch auf den Spuren, die deren Nutzer hinterlassen.
Kontrolle mit weitreichenden Nebenwirkungen
Nach eigenen Angaben untersucht Anthropic schädliche Aktivitäten auch über einzelne Prompts und Konten hinaus. Dafür arbeiten Experten für Richtlinien, Produktentwicklung, Datenanalyse, Sicherheit und Bedrohungsaufklärung zusammen. Ein weiteres Werkzeug gruppiert Gespräche dem Unternehmen zufolge auf datenschutzschonende Weise zu übergeordneten Themenfeldern. So sollen Entwicklungen in der tatsächlichen Nutzung frühzeitig erkennbar werden. Recherchequelle: Anthropic
Ohne solche Kontrollen könnten gefährliche Aktivitäten im Verborgenen bleiben. Kaum jemand dürfte ernsthaft verlangen, dass ein Anbieter tatenlos zusieht, wenn sein System für den Raketenbau, digitale Einbrüche oder die Verfolgung von Oppositionellen eingesetzt wird. Doch eine Überwachung, die einen Angriff sichtbar macht, kann ebenso legitime Sicherheitsforschung, journalistische Recherche oder politische Arbeit erfassen.
Daraus entsteht ein schwieriges Machtgefälle. Der Anbieter legt die Nutzungsregeln fest und entwickelt die Erkennungssysteme; zugleich entscheidet er über Sperren, Veröffentlichungen und darüber, welche Behörden informiert werden. Betroffene Nutzer erfahren meist wenig über die Signale, die zu einer solchen Entscheidung geführt haben. Ein öffentliches Verfahren gibt es nicht, und auch Irrtümer lassen sich nur schwer überprüfen.
Unternehmenseigene Tests von Anthropic verschärfen das Dilemma. Demnach können führende Modelle bestimmte militärische und nachrichtendienstliche Aufgaben bereits bewältigen, die früher nur wenige hochqualifizierte Spezialisten übernehmen konnten. Dazu zählen die Ortung von Personen anhand bruchstückhafter Hinweise und technische Arbeiten bei der Entwicklung konventioneller Waffen. Selbst schwächere Modelle, deren Modellgewichte frei verfügbar sind, zeigten bedenkliche Fähigkeiten. Recherchequelle: Anthropic
Je nützlicher die Modelle werden, desto intensiver müssen ihre Betreiber nach Missbrauch suchen. Und je genauer sie suchen, desto stärker ähneln ihre Sicherheitsabteilungen privaten Nachrichtendiensten. Das heißt nicht, dass sie über dieselben Befugnisse verfügen. Doch sie besitzen etwas, das klassische Ermittler oft mühsam beschaffen müssen: einen direkten Blick in die Werkstatt.
Wer kontrolliert die Wächter der KI?
Entscheidend ist deshalb nicht nur, was Claude, ChatGPT oder Gemini leisten können. Ebenso wichtig ist die Frage, wie Unternehmen aus den digitalen Spuren ihrer Kunden politische und sicherheitsrelevante Erkenntnisse gewinnen. Welche Daten dürfen sie dafür zusammenführen? Wie lange werden sie gespeichert? Wann wird aus einer ungewöhnlichen Recherche ein Verdachtsfall? Und wer kontrolliert und korrigiert Fehlzuordnungen?
Noch sitzen die Wächter der KI vor allem in jenen Unternehmen, die zugleich am Verkauf ihrer Modelle verdienen. Sie bewachen eine Grenze, deren Verlauf sie weitgehend selbst bestimmen. Mit jedem leistungsfähigeren Modell gewinnt diese Grenze an Bedeutung – obwohl Außenstehende bis heute kaum erkennen können, wo sie verläuft.
Weiterführende Informationen
Quellenhinweis: Einzelne Fakten, Einschätzungen und Prognosen dieses Beitrags stützen sich auf Veröffentlichungen der nachfolgend genannten Unternehmen und Institutionen. Die Links dienen zugleich der weiterführenden Information.
Free China Movement – Anthropic: Akteure mit Verbindungen zum chinesischen Festland nutzten Claude für Überwachung und transnationale Repression
Der Beitrag beschreibt die mutmaßliche Überwachung von Dissidenten, Aktivisten und Protestorten sowie die Unsicherheiten bei Anthropics Zuordnungen.
https://freechina.live/deutsch/de-anthropic-claude-chinesisches-festland-ueberwachung-transnationale-repression-2026/
Invezz – Jemen-Raketen bis Taiwan-Angriffspläne: Anthropic warnt vor Claudes Missbrauchsfällen
Der Artikel erläutert detailliert Claudes Einsatz für Raketenprojekte im Jemen und eine mehrfach überarbeitete Software zur elektronischen Kriegführung.
https://invezz.com/de/news/2026/09/11/jemen-raketen-bis-taiwan-angriffsplane-anthropic-warnt-vor-claudes-missbrauchsfallen/
Euronews – Anthropic stoppt Missbrauch von KI für Cyberangriffe, Propaganda und Biowaffen
Der Beitrag zeigt, wie Anthropic Akteure identifiziert, Aktivitäten blockiert und Informationen weitergibt, und beleuchtet die fehlende demokratische Kontrolle solcher Entscheidungen.
https://de.euronews.com/next/2026/09/11/anthropic-stoppt-missbrauch-von-ki-fur-cyberangriffe-propaganda-und-biowaffen
