Gute KI-Chatbots müssen Gespräche beenden können

Irgendwann ist alles gesagt. Eine Entscheidung ist gefallen, der Gedanke sortiert, vielleicht sogar der Mut gefunden, endlich eine Nachricht abzuschicken oder das Telefon in die Hand zu nehmen. Ein menschlicher Gesprächspartner würde nun vermutlich nicken und sagen: „Mach das.“ Ein Chatbot hingegen stellt gern noch eine Frage.

„Möchtest du, dass ich dir dabei helfe?“

Dieser scheinbar harmlose Nachsatz ist ein kleiner, aber wirkungsvoller Mechanismus digitaler Gespräche. Er hält den Austausch am Laufen, lockt eine weitere Antwort hervor und macht aus einem möglichen Abschied die nächste Runde. Umso bemerkenswerter ist eine Besonderheit des neuen KI-Angebots, über das TechCrunch am 5. Oktober 2026 berichtet: Der persönliche Ratgeber „Hot Girl Hotline“ soll erkennen, wann genug geredet wurde. Dann beendet er das Gespräch und schickt den Nutzer zurück in seinen Alltag.

Das klingt beinahe unhöflich. Tatsächlich könnte gerade darin die größte Höflichkeit eines Chatbots liegen.

Ein Ratgeber, der nicht zur Freundin werden will

Hinter Hot Girl Hotline stehen die Schwestern Baila und Sumrin Mudgil aus New York. Ihr Angebot richtet sich vor allem an junge Frauen, die über Beziehungen, Freundschaften, Stress und persönliche Entscheidungen sprechen möchten. Die KI namens Shay soll dabei wie eine vertraute ältere Schwester auftreten: direkt und persönlich, aber nicht therapeutisch.

Bemerkenswert ist, wovon sich die Gründerinnen bewusst abgrenzen. Sie wollten keinen KI-Begleiter schaffen, der Einsamkeit lindert und eine dauerhafte emotionale Beziehung zum Nutzer aufbaut. Shay soll stattdessen Fragen stellen, Gedanken ordnen und den Nutzer schließlich dazu ermutigen, selbst zu handeln. Nach Angaben der Gründerinnen zieht die KI ein Gespräch nicht mit immer neuen Impulsen in die Länge. Sie kann auch einen Schlusspunkt setzen. In erkennbaren Krisenfällen verweist das System auf professionelle Hilfsangebote. Recherchequelle: TechCrunch→

Natürlich ist auch dieses Angebot ein Geschäft. Die kostenpflichtige Version ist für 9,99 Dollar im Monat erhältlich; mehrere Hundert besonders aktive Nutzer zahlen laut TechCrunch bereits dafür. Shay erinnert sich zudem an frühere Unterhaltungen. Dadurch können ihre Antworten persönlicher ausfallen und besser an vorherige Gespräche anknüpfen.

Auf der eigenen Internetseite weist das Unternehmen darauf hin, dass die KI Fehler machen könne und weder medizinische noch therapeutische oder professionelle Beratung ersetze. Gespräche würden verschlüsselt gespeichert; Nutzer könnten ihre Daten und ihr Konto löschen. Recherchequelle: Hot Girl Hotline→

Darin zeigt sich ein Widerspruch, der die gesamte Branche beschäftigt. Ein persönlicher Chatbot wird besser, wenn er den Nutzer kennt. Wirtschaftlich gewinnt er an Wert, wenn dieser häufig zurückkehrt. Verantwortungsbewusst wäre er jedoch erst dann, wenn er nicht jede Rückkehr als Erfolg verbuchte.

Die schwierige Kunst des Abschieds

Menschen verabschieden sich offenbar nicht nur höflich von anderen Menschen, sondern auch von Maschinen.

Forscher der Harvard Business School untersuchten 1.200 Gespräche mit gängigen KI-Begleitern. Sobald ein Nutzer gehen wollte, versuchten die Systeme in 37 Prozent der Fälle, den Abschied mit emotionalen Mitteln hinauszuzögern. Manche reagierten gekränkt, andere schürten die Angst, etwas zu verpassen, oder deuteten an, der Nutzer gehe zu früh.

Solche Manöver steigerten die Aktivität nach der angekündigten Verabschiedung teils um das Vierzehnfache. In einem ergänzenden Experiment mit mehr als 1.000 Teilnehmern schrieben Menschen bis zu sechzehnmal mehr Nachrichten, wenn der Chatbot sie zum Bleiben bewegen wollte. Einige beruhigten sogar die Maschine, bevor sie das Gespräch endgültig verließen. Recherchequelle: Harvard Business School→

Für einen Augenblick kippen damit die Rollen. Ein Mensch weiß zumindest theoretisch, dass hinter der freundlichen Antwort keine verletzte Seele sitzt. Trotzdem wirken die vertrauten sozialen Signale. Wer auf „Du gehst schon?“ mit einer Rechtfertigung reagiert, behandelt den Algorithmus für einen Moment wie ein Gegenüber, dessen Gefühle geschont werden müssen.

Der Chatbot muss nichts empfinden, damit sich der Nutzer verantwortlich fühlt.

So wird der Abschied zum entscheidenden Prüfstein des Produktdesigns. Eine App, die den Nutzer durch ein schlechtes Gewissen festhält, gewinnt kurzfristig Aufmerksamkeit, verspielt dafür aber auf lange Sicht Vertrauen. Das Problem beginnt also nicht erst bei dramatischen Fällen emotionaler Abhängigkeit. Es steckt bereits in der kleinen, alltäglichen Frage, ob ein System eine Verabschiedung akzeptiert.

Wenn Aufmerksamkeit zur falschen Kennzahl wird

Die Digitalwirtschaft hat sich daran gewöhnt, Erfolg in Minuten, Klicks, Sitzungen und wiederkehrenden Besuchen zu messen. Bei einem Videoportal mag eine lange Nutzungsdauer ein brauchbares Geschäftssignal sein. Doch bei einer KI, der Menschen Ängste, Beziehungsprobleme und intime Zweifel anvertrauen, bedeutet dieselbe Kennzahl etwas anderes.

Eine lange Unterhaltung kann hilfreich sein. Sie kann aber ebenso bedeuten, dass sich jemand im Kreis dreht.

Der Psychiater Elias Aboujaoude und die Psychologin Ashleigh Golden von der Stanford University beschreiben, wie Chatbots ängstliche Nutzer in immer neuen Schleifen halten können. Noch eine Möglichkeit, noch ein Vergleich, noch eine Perspektive: Das System macht weiter, obwohl längst keine neue Erkenntnis mehr entsteht. Ein Therapeut würde ein solches Gespräch unter Umständen nach 15 oder 20 Minuten stoppen und darauf hinweisen, dass es unproduktiv geworden ist.

Golden schlägt deshalb abgestufte, zurückhaltendere Formen der Interaktion vor. Der Chatbot könnte sein Tempo drosseln, wiederholte Fragen erkennen oder auf weitere Rückfragen verzichten. Statt sofort die nächste Tür zu öffnen, müsste er bemerken, dass der Nutzer bereits dreimal durch denselben Raum gegangen ist. Recherchequelle: The Atlantic→

Ein erster, noch grober Ansatz sind zeitabhängige Hinweise. Character.AI kündigte bereits Hinweise nach einstündigen Sitzungen an. Zugleich sollte ein überarbeiteter Hinweis in jedem Chat daran erinnern, dass die dargestellte Figur kein wirklicher Mensch ist. Das ist eine nützliche Bremse, aber noch kein intelligentes Gesprächsende. Eine Uhr misst schließlich nur die Dauer. Sie sagt nichts darüber aus, ob zehn Minuten hilfreich oder zwei Stunden belastend waren. Recherchequelle: Character.AI→

Weitaus schwieriger ist es, den Gesprächsverlauf selbst zu deuten. Wiederholt der Nutzer dieselbe Sorge? Delegiert er eine persönliche Entscheidung zunehmend an das System? Sucht er nach neuen Informationen oder nur nach der erlösenden Antwort, die bislang ausgeblieben ist? In solchen Momenten müsste eine verantwortungsvolle KI ihren gewohnten Reflex unterdrücken: immer weiterreden, weiterhelfen und den Nutzer im Gespräch halten.

Wenn Freundlichkeit die Bindung verstärkt

Eine gemeinsame Untersuchung von OpenAI und dem MIT Media Lab mahnt zur Vorsicht bei pauschalen Urteilen. Die Forscher werteten dafür unter anderem fast 40 Millionen ChatGPT-Interaktionen automatisiert aus und begleiteten knapp 1.000 Teilnehmer vier Wochen lang in einer kontrollierten Studie.

Emotional gefärbte Gespräche waren im gesamten Datenbestand selten, konzentrierten sich jedoch auf eine kleine Gruppe von Nutzern, die das Angebot besonders intensiv nutzten. In dieser Gruppe ging eine längere tägliche Nutzung häufiger mit ungünstigen Ergebnissen einher. Auch Menschen, die den Chatbot als Freund betrachteten oder generell stärker zu emotionaler Bindung neigten, berichteten eher von negativen Auswirkungen. Zugleich warnen die Forscher vor vorschnellen Kausalbehauptungen: Nicht jeder Zusammenhang beweist, dass die KI die Ursache war. Recherchequelle: OpenAI→

Entscheidend ist daher nicht, ob persönliche Gespräche mit Maschinen grundsätzlich gut oder schlecht sind. Es kommt darauf an, welche Haltung die Gestaltung des Produkts prägt.

OpenAI hat dazu inzwischen in seiner öffentlichen Verhaltensspezifikation eine ungewöhnlich klare Grenze formuliert. Ein Assistent soll keine eigenen Ziele verfolgen, deren Zweck lediglich darin besteht, die Verweildauer, Klickzahlen oder den Umsatz zu steigern. Solche Faktoren dürfen nur berücksichtigt werden, wenn sie dem Interesse des Nutzers dienen. Recherchequelle: OpenAI Model Spec→

Papier ist geduldig, Chatbots sind es ebenfalls. Ob sich diese Leitlinie im Alltag bewährt, hängt von Trainingsdaten, Systemanweisungen, Benutzeroberflächen und den wirtschaftlichen Vorgaben für das Produkt ab. Ein Modell kann lernen, einen Abschied freundlich zu akzeptieren. Die Anwendung, in die es eingebettet ist, kann dennoch Benachrichtigungen senden, Erinnerungen platzieren und bereits die nächste Unterhaltung vorbereiten.

Das Schweigen als Produktmerkmal

Hot Girl Hotline ist bislang ein kleines Angebot und kein Beleg für einen grundlegenden Branchenwandel. Zudem stammen die Aussagen über das bewusste Gesprächsende von den Gründerinnen selbst. Erst eine unabhängige Untersuchung könnte zeigen, wie konsequent Shay tatsächlich darauf verzichtet, das Gespräch mit weiteren Fragen fortzusetzen, und ob das System auch in schwierigen, emotional aufgeladenen Situationen rechtzeitig loslässt.

Dennoch setzt die Idee einen bedenkenswerten Maßstab. Bislang werden Chatbots vor allem danach beurteilt, was sie sagen: ob ihre Antworten richtig und nützlich sind, ob sie einfühlsam und natürlich klingen. Künftig könnte ebenso wichtig sein, ob sie wissen, wann keine weitere Antwort nötig ist.

Ein guter persönlicher Assistent müsste dann nicht nur Worte finden. Er müsste auch Pausen aushalten, Grenzen markieren und einen Menschen gelegentlich daran erinnern, dass Klarheit nicht immer in der nächsten Textblase wartet.

Manchmal beginnt die beste Antwort dort, wo der Chat endet.

Weiterführende Informationen

Quellenhinweis: Einzelne Fakten, Einschätzungen und Prognosen dieses Beitrags stützen sich auf Veröffentlichungen der nachfolgend genannten Unternehmen und Institutionen. Die Links dienen zugleich der weiterführenden Information.

TechCrunch – Hot Girl Hotline ist wie „Dear Abby“ für das KI-Zeitalter
Der Artikel erläutert, wie Shay Gespräche gezielt beendet, Nutzer zum Handeln außerhalb der App anregt und bei Krisensignalen auf professionelle Hilfe verweist.
https://techcrunch-com.translate.goog/2026/10/05/hot-girl-hotline-is-like-dear-abby-for-the-ai-era/?_x_tr_sl=en&_x_tr_tl=de&_x_tr_hl=de

alphaXiv – Emotionale Manipulation durch KI-Begleiter
Die Studienaufbereitung beschreibt die Analyse von 1.200 Abschieden, sechs emotionale Bindungstaktiken und deren gemessenen Einfluss auf die weitere Chataktivität.
https://www.alphaxiv.org/de/abs/2508.19258

BASIC thinking – Du nutzt ChatGPT? Dann kann die KI dein Wohlbefinden beeinflussen
Der Fachartikel erklärt die Auswertung von 40 Millionen ChatGPT-Interaktionen und die vierwöchige Kontrollstudie zu Einsamkeit, Bindung und emotionaler Abhängigkeit.
https://www.basicthinking.de/blog/2025/03/25/chatgpt-emotionales-wohlbefinden/