Die gefährlichste Nachricht wirkt oft vollkommen harmlos. Kein grober Schreibfehler, kein blinkender Link, kein angeblicher Prinz mit blockiertem Millionenvermögen. Stattdessen meldet sich ein freundlicher Bankmitarbeiter. Er kennt den Namen des Kunden, bleibt geduldig und erklärt plausibel, warum schnelles Handeln nötig sei. Die Bitte, Geld auf ein „Sicherheitskonto“ zu überweisen, kommt erst nach zwanzig Nachrichten.
Genau dann soll künftig das Smartphone widersprechen.
Eine KI soll die Dramaturgie des Betrugs erkennen
Google DeepMind und die singapurische Technologiebehörde GovTech entwickeln eine KI, die betrügerische Gesprächsverläufe direkt auf dem Mobiltelefon erkennen soll. Das System prüft nicht nur einzelne Nachrichten, sondern verfolgt die Dramaturgie der Unterhaltung: Baut jemand Druck auf? Gibt er sich als Behörde, Bank oder bekannte Person aus? Nutzt er das gewonnene Vertrauen, um eine Überweisung zu veranlassen oder an Zugangsdaten zu gelangen?
Erkennt die KI ein verdächtiges Muster, erscheint eine Warnung. Sie soll den Nutzer dazu bringen, kurz innezuhalten, bevor er sensible Informationen preisgibt oder Geld versendet. Vorgestellt wurde das Projekt am 14. Oktober 2026 während der Singapore International Cyber Week. Einen Veröffentlichungstermin gibt es bislang nicht. Nach bisherigen Angaben ist die Technik für Android-Geräte vorgesehen und soll Gespräche in Messengern untersuchen können, darunter WhatsApp und Telegram. Ob sie eines Tages fester Bestandteil von Android wird, bleibt ebenfalls offen. Recherchequelle: The Straits Times
Warum Singapur zum Testfeld wird
Dass ausgerechnet Singapur zum Versuchsfeld wird, ist kein Zufall. Der hochdigitalisierte Stadtstaat kämpft seit Jahren mit Betrug in industriellem Maßstab. Allein im ersten Halbjahr 2026 wurden 16.821 Betrugsfälle registriert, die Verluste beliefen sich auf rund 410,6 Millionen Singapur-Dollar. Noch deutlicher wird das Ausmaß an einer weiteren Zahl: In 80,8 Prozent der gemeldeten Fälle verschafften sich die Täter nicht selbst Zugriff auf ein Konto. Die Opfer überwiesen das Geld eigenhändig.
Technisch betrachtet war die Transaktion also korrekt. Psychologisch war sie das Ergebnis einer Manipulation.
Hier liegt der blinde Fleck herkömmlicher Sicherheitssysteme. Eine Bank kann einen ungewöhnlichen Login erkennen, eine gestohlene Kreditkarte sperren oder eine Überweisung aus einem fremden Land blockieren. Weitaus schwieriger wird es, wenn sich ein Kunde ordnungsgemäß anmeldet und das Geld scheinbar aus eigenem Entschluss versendet. Das System sieht einen legitimen Nutzer – nicht aber den Betrüger am anderen Ende der Unterhaltung.
Diese Lücke wissen die Täter längst zu nutzen. In Singapur begann der Kontakt in 89 Prozent der gemeldeten Fälle im ersten Halbjahr 2026 auf einer Onlineplattform. Messenger waren mit 27,6 Prozent der häufigste Kontaktweg. Besonders wirkungsvoll sind längere Gespräche, in denen sich allmählich Vertrauen aufbaut. Bei Anlagebetrug etwa schleusen Täter ihre Opfer in Chatgruppen. Dort erteilen angebliche Mentoren Ratschläge, während vermeintlich erfolgreiche Mitglieder von hohen Gewinnen berichten. Einige dieser Teilnehmer gehören selbst zum Betrugsnetzwerk. So entsteht eine sorgfältig inszenierte Kulisse aus Nachrichten, Namen und erfundenen Erfolgsgeschichten. Recherchequelle: ScamShield
Ein digitaler Türsteher für verdächtige Chats
DeepMinds Antwort darauf ist ein zweistufiges System. Zunächst durchsucht ein kleiner, stromsparender Klassifikator eingehende Nachrichten nach Auffälligkeiten. Erst wenn diese Vorprüfung anschlägt, kommt ein angepasstes Gemma-Modell zum Einsatz. Es betrachtet einen größeren Ausschnitt des Gesprächs und prüft, ob sich aus einem scheinbar gewöhnlichen Austausch eine manipulative Dramaturgie entwickelt.
CjxkaXYgY2xhc3M9ImV4dGhvcmlhLWFtYXpvbi1hZCIgZGF0YS1leHRob3JpYS1hZC1zbG90PSIwMSIgZGF0YS1leHRob3JpYS1hZC1wcm92aWRlcj0iYW1hem9uIj48ZGl2IGNsYXNzPSJleHRob3JpYS1hbWF6b24tYWRfX21ldGEiPjxzcGFuIGNsYXNzPSJleHRob3JpYS1hbWF6b24tYWRfX2JhZGdlIj5XZXJidW5nPC9zcGFuPjxzcGFuIGNsYXNzPSJleHRob3JpYS1hbWF6b24tYWRfX3Byb3ZpZGVyIj5BbWF6b248L3NwYW4+PC9kaXY+PHN0cm9uZyBjbGFzcz0iZXh0aG9yaWEtYW1hem9uLWFkX190aXRsZSI+U2NodXR6IHZvciBPbmxpbmUtQmV0cnVnOiBTbyBzY2jDvHR6ZW4gU2llIHNpY2gsIElocmUgRmFtaWxpZSB1bmQgSWhyIFZlcm3DtmdlbiB2b3IgZGlnaXRhbGVuIEJldHLDvGdlcm4gUGhpc2hpbmcsIEZha2UtU2hvcHMsIEtJLUJldHJ1ZywgT25saW5lLUJhbmtpbmcsIOKApiBJZGVudGl0w6R0c2RpZWJzdGFobCBlcmtlbjwvc3Ryb25nPjxhIGNsYXNzPSJleHRob3JpYS1hbWF6b24tYWRfX2N0YSIgaHJlZj0iaHR0cHM6Ly9saW5rLmFtYXpvbi9CMDVmZ052NHoiIHRhcmdldD0iX2JsYW5rIiByZWw9InNwb25zb3JlZCBub2ZvbGxvdyBub29wZW5lciBub3JlZmVycmVyIiBkYXRhLWV4dGhvcmlhLWxpbmstbWFuYWdlcj0iMSIgZGF0YS1leHRob3JpYS1saW5rLXR5cGU9ImV4dGVybmFsIiBkYXRhLWV4dGhvcmlhLWFkLWxpbms9ImFtYXpvbiI+QmVpIEFtYXpvbiBhbnNlaGVuIDxzcGFuPihiZXphaGx0ZXIgTGluayk8L3NwYW4+PC9hPjxzbWFsbCBjbGFzcz0iZXh0aG9yaWEtYW1hem9uLWFkX19kaXNjbG9zdXJlIj7DnGJlciB1bnNlcmUgQW1hem9uLVBhcnRuZXJsaW5rcyBlcmhhbHRlbiB3aXIgYmVpIHF1YWxpZml6aWVydGVuIFZlcmvDpHVmZW4gZWluZSBQcm92aXNpb24uPC9zbWFsbD48L2Rpdj4KDie Aufteilung hat einen praktischen Grund: Würde jede eintreffende Nachricht dauerhaft von einem leistungsfähigen Sprachmodell ausgewertet, würde das viel Rechenleistung und Akkukapazität kosten. Der kleinere Filter dient deshalb gewissermaßen als Türsteher. Gewöhnliche Unterhaltungen winkt er durch, das größere Modell ruft er nur bei begründetem Verdacht.
Trainiert wurde die KI mit lokalen Betrugsmustern, darunter die Nachahmung singapurischer Behörden, Banken und bekannter Personen. Nach Angaben der Entwickler kamen dafür anonymisierte Informationen aus Betrugsmeldungen sowie Erkenntnisse der Sicherheitsbehörden zum Einsatz. Private Chats und persönliche Daten von Bürgern wurden nicht für das Training genutzt. Zusätzlich wurde das Modell mit künstlich erzeugten Dialogen und lokalen Sprachvarianten geprüft. Recherchequelle: Google DeepMind
Die Analyse bleibt auf dem Smartphone
Technisch besonders bemerkenswert ist weniger die Mustererkennung als der Ort, an dem sie stattfindet: Das Gespräch soll auf dem Smartphone bleiben. Weder Google noch die singapurische Regierung sollen die analysierten Nachrichten erhalten können.
DeepMind will damit einen scheinbaren Widerspruch auflösen. Eine KI analysiert private Kommunikation, ohne dass die Inhalte das Smartphone verlassen sollen.
Die Ende-zu-Ende-Verschlüsselung verhindert, dass Plattformbetreiber, Netzbetreiber oder andere Stellen eine Nachricht unterwegs im Klartext sehen. Auf dem Telefon des Empfängers muss sie allerdings entschlüsselt werden – sonst könnte er sie selbst nicht lesen. Die dafür benötigten privaten Schlüssel verbleiben auf dem jeweiligen Gerät. Eine dort integrierte KI kann somit den bereits entschlüsselten Text untersuchen, ohne ihn an einen Server zu senden. Die Verschlüsselung des Transportwegs bleibt davon unberührt. Recherchequelle: Meta Engineering
Schnittstellen, Fehlalarme und lernende Betrüger
So elegant dieses Prinzip klingt, so anspruchsvoll dürfte die praktische Umsetzung werden. Ein Modell kann nicht beliebig in jede Messenger-App hineinsehen. Dafür braucht es eine eigens vorgesehene Schnittstelle, eine Integration durch den Anbieter oder entsprechende Rechte im Betriebssystem. DeepMind betont, der Zugriff solle nur mit Zustimmung des Nutzers und gemäß den Vorgaben der jeweiligen App erfolgen. Die Einführung sei schrittweise geplant.
Die heiklen Datenschutzfragen stellen sich allerdings erst bei der konkreten Umsetzung. Denn zwischen „läuft auf meinem Gerät“ und „ist vollständig privat“ liegt ein weites Feld technischer Einzelheiten. Welche Gesprächsausschnitte werden verarbeitet? Wie lange bleiben sie im Arbeitsspeicher? Speichert das System Warnungen? Werden Informationen über erkannte Angriffe übertragen, damit sich das Modell verbessern lässt? Und kann unabhängig überprüft werden, dass tatsächlich keine Inhalte abfließen?
Bislang fehlen entscheidende Angaben. DeepMind hat weder die genaue Modellvariante genannt noch Werte zur Erkennungsleistung veröffentlicht. Ebenso unbekannt ist, wie häufig das System harmlose Unterhaltungen fälschlich beanstandet. Es gibt weder ein Startdatum noch genaue Informationen darüber, welche Apps die Funktion zuerst unterstützen werden. Recherchequelle: e27
Gerade die Fehlalarme könnten über den Erfolg entscheiden. Betrügerische Gespräche folgen selten einem festen Drehbuch. Zeitdruck, Geheimhaltung und ungewöhnliche Geldforderungen sind zwar wichtige Signale, kommen aber auch in legitimen Situationen vor. Ein Verwandter kann dringend um Hilfe bitten, ein Unternehmen eine schnelle Zahlung verlangen. Und eine Bank kann tatsächlich vor einem Sicherheitsproblem warnen.
Reagiert die KI zu empfindlich, wird sie zum Rauchmelder, der bei jedem Toast Alarm schlägt. Nutzer lernen dann schnell, Warnungen wegzuwischen. Ist das Modell dagegen zu vorsichtig, übersieht es womöglich jene langsamen Manipulationen, für die es entwickelt wurde. Zwischen beiden Fehlern lässt sich keine eindeutige mathematische Grenze ziehen. Es bleibt eine Abwägung: Wann soll Software in eine menschliche Entscheidung eingreifen?
Auch die Sprache der Täter bleibt nicht stehen. Sobald Betrüger wissen, worauf das Modell achtet, werden sie ihre Formulierungen anpassen. Sie können Geldforderungen über mehrere Tage verteilen, Druck nur andeuten oder Opfer dazu bringen, Teile der Kommunikation zu löschen. Ein Schutzsystem, das heute überzeugend arbeitet, kann morgen bereits durchschaubar und damit leichter zu umgehen sein. Die KI muss deshalb nicht nur lokale Redewendungen verstehen, sondern auch regelmäßig an neue Verhaltensmuster angepasst werden.
Die Verteidigung rückt näher an die Überweisung
Für den Kampf gegen solche Angriffe verfügt Singapur bereits über eine weit ausgebaute technische Infrastruktur. Das von GovTech und der Polizei betriebene System SATIS untersucht nach Angaben der Regierung täglich mehr als 600.000 Websites und blockiert im Monat den Zugang zu rund 20.000 schädlichen Angeboten. Die neue Smartphone-KI rückt diese Verteidigung nun näher an den entscheidenden Augenblick: weg von der betrügerischen Website, hinein in das Gespräch unmittelbar vor einer Überweisung. Recherchequelle: Channel News Asia
Damit weist das Projekt über die reine Betrugserkennung hinaus. Bislang erleben die meisten Menschen KI als sichtbare Anwendung – als Chatfenster, Bildgenerator oder Assistent. Hier würde sie eine andere Rolle übernehmen: im Hintergrund bleiben, Muster beobachten und sich nur in einem kritischen Moment melden.
Das hat das Potenzial, wirksamen Schutz zu bieten, aber auch für einen tieferen technischen Eingriff in die Privatsphäre. Ein Modell, das Manipulation erkennen soll, muss private Kommunikation weit genug verstehen, um Absichten beurteilen zu können. Ob es am Ende als hilfreicher Wächter oder als störender Mitleser wahrgenommen wird, hängt nicht von seiner Größe ab. Ausschlaggebend sind überprüfbare Genauigkeit, sparsame Datennutzung und die Möglichkeit, Nein zu sagen.
Im entscheidenden Moment müsste die KI nur einen denkbar einfachen Satz sagen, bevor Geld und Vertrauen verschwinden: Warte einen Moment.
Weiterführende Informationen
Quellenhinweis: Einzelne Fakten, Einschätzungen und Prognosen dieses Beitrags stützen sich auf Veröffentlichungen der nachfolgend genannten Unternehmen und Institutionen. Die Links dienen zugleich der weiterführenden Information.
NeoTeo – Google DeepMind und GovTech Singapore kündigen Gemma-Betrugserkennung auf dem Gerät an
Der Beitrag erklärt die zweistufige Verarbeitung mit einem stromsparenden Klassifikator und dem kontextbezogen arbeitenden Gemma-Modell.
https://www.neoteo.com/de/google-deepmind-und-govtech-singapore-kundigen-gemma-betrugserkennung-auf-dem-gerat-an
AD HOC NEWS – Singapur: 246 Phishing-Fälle über Werbeanzeigen kosten mindestens S$1,4 Mio.
Der Artikel nennt für das erste Halbjahr 2026 insgesamt 16.821 Betrugsfälle und Schäden von 410,6 Millionen Singapur-Dollar.
https://www.ad-hoc-news.de/wissenschaft/singapur-246-phishing-faelle-ueber-werbeanzeigen-kosten-mindestens-s-1-4-mio/70221690
Unite.AI – Google DeepMind und GovTech stellen Modell zur Erkennung von Betrugsversuchen direkt auf dem Gerät vor
Die technische Vertiefung erläutert die lokale Analyse verschlüsselter Gespräche sowie die erforderliche Integration durch Messenger- und Betriebssystemanbieter.
https://www.unite.ai/de/google-deepmind-and-govtech-unveil-on-device-scam-detection-model/
