Ein australischer Regierungsbericht sollte zeigen, wie sich das Alter von Kindern im Internet zuverlässig prüfen lässt. Nun stehen fehlerhafte Quellen und der Einsatz von ChatGPT im Raum. Der Fall zeigt: Wenn künstliche Intelligenz politische Entscheidungsprozesse beeinflusst, wird aus einer falschen Literaturangabe schnell eine Frage der Demokratie.
Manchmal beginnt eine große Vertrauenskrise mit einer kleinen Fußnote. Sie trägt einen bekannten Namen, verweist auf eine wissenschaftliche Zeitschrift und enthält sogar jene komplizierte Zeichenfolge, die Fachleute DOI nennen. Alles sieht ordentlich aus. Nur die Studie dahinter existiert nicht.
Genau dieser Verdacht überschattet einen umfangreichen australischen Bericht zur Alterskontrolle im Internet. Die staatlich finanzierte Untersuchung sollte klären, mit welchen technischen Verfahren Plattformen das Alter ihrer Nutzer feststellen können.
Untersucht wurden mehr als 60 Technologien von 48 Anbietern: Dokumentenprüfungen, Altersschätzungen anhand des Gesichts, Verhaltensanalysen, elterliche Zustimmung und Kombinationen verschiedener Verfahren. Im Hauptbericht wurde ausdrücklich betont, dass er keine politischen Empfehlungen ausspreche. Vielmehr sollte er Fähigkeiten, Grenzen, Datenschutz und Praxistauglichkeit der Technologien beschreiben.
Doch solche Aussagen bleiben selten im luftleeren Raum. Die australische Regierung präsentierte die Untersuchung am 31. August 2025 als Beleg dafür, dass Alterskontrollen technisch machbar seien und zugleich die Privatsphäre geschützt werden könne.
Plattformen, die keine angemessenen Schritte unternahmen, um unter 16-Jährige auszuschließen, mussten mit Strafen von bis zu 49,5 Millionen australischen Dollar rechnen. Damit wurde aus einem technischen Bericht ein Baustein realer Politik. Recherchequelle: minister.infrastructure.gov.au
Am 17. August 2026 berichtete der „Guardian“ über Unstimmigkeiten im Literaturverzeichnis. Eine Eingabe im Rahmen einer laufenden Senatsuntersuchung hatte auf mindestens zwei problematische Quellen hingewiesen. Eine anschließende journalistische Prüfung ergab allein in einem Abschnitt sechs fehlerhafte Referenzen.
Einige der angegebenen DOIs ließen sich keiner existierenden Publikation zuordnen. Andere verwiesen auf einen echten, inhaltlich jedoch unpassenden Artikel. Teilweise passten Autor, Erscheinungsjahr und Zeitschrift nicht zusammen.
Eine Studie, die angeblich im März 2025 abgerufen worden war, wurde nach Auskunft eines beteiligten Forschers erst im Juni öffentlich zugänglich. Zudem sei der Inhalt der Studie im Bericht nicht korrekt wiedergegeben worden. Recherchequelle: theguardian.com
Die Organisation Age Check Certification Scheme (ACCS), die den Versuch leitete, bestritt, künstliche Intelligenz zur Erstellung des Berichts oder zur Generierung der Quellen eingesetzt zu haben. Später räumte sie jedoch ein, ChatGPT sei genutzt worden, um einige Absätze zu kürzen. In bestimmten Links fanden sich zudem Metadaten mit Hinweisen auf ChatGPT.
Nach Angaben von ACCS seien sämtliche Quellen von Menschen kontrolliert worden. Einige Links könnten nachträglich ungültig geworden sein. Die zuständige Behörde erklärte, sie habe die angeführten Erklärungen noch nicht unabhängig überprüft.
Es handele sich um eine kleine Zahl von Fehlern in einem rund tausend Seiten umfassenden Werk mit einem 26-seitigen Literaturverzeichnis. Recherchequelle: theguardian.com
Das ist ein wichtiges Detail. Bislang ist nicht bewiesen, dass ChatGPT die falschen Referenzen erzeugt hat. Fest steht lediglich, dass KI zur Bearbeitung verwendet wurde und fehlerhafte Quellen die menschliche Kontrolle überstanden.
Doch gerade dieser Zwischenraum ist aufschlussreich: Niemand kann mehr klar erkennen, wo der Beitrag der Maschine endete und der des Menschen begann.
Generative Sprachmodelle suchen nicht wie Bibliothekare in einem geordneten Regal nach Wahrheit. Sie berechnen, welche Wörter, Namen und Formulierungen mit hoher Wahrscheinlichkeit aufeinanderfolgen. Dabei können Literaturangaben entstehen, die wissenschaftlich klingen, obwohl sie lediglich sprachlich plausibel sind.
Eine halluzinierte Literaturangabe wirkt selten wie Unsinn. Sie kann den Namen eines Forschers, der tatsächlich auf diesem Gebiet tätig ist, mit einem glaubwürdigen Titel und einer real existierenden Zeitschrift verbinden. Gerade ihre elegante Oberfläche macht sie gefährlich.
Untersuchungen zu KI-generierten Zitaten zeigen, dass erfundene Referenzen bereits in wissenschaftlichen Veröffentlichungen und juristischen Dokumenten aufgetaucht sind. Recherchequelle: arxiv.org
Die Maschine lügt dabei nicht im menschlichen Sinne. Ihr fehlt jede Absicht, jemanden zu täuschen. Doch Institutionen können sich nicht hinter dieser Absichtslosigkeit verstecken. Eine Behörde, ein Beratungsunternehmen oder ein Forschungskonsortium trägt die Verantwortung für jeden Satz, den es unter dem eigenen Namen veröffentlicht.
In Australien war das Problem bereits bekannt. Im Jahr 2025 musste Deloitte der Regierung einen Teil des Honorars für einen Bericht erstatten, der unter anderem nicht existierende wissenschaftliche Quellen und ein erfundenes Zitat enthielt, das fälschlich einem Gerichtsurteil zugeschrieben wurde.
Der Auftrag hatte einen Gesamtwert von 440.000 australischen Dollar. Deloitte bestätigte den Einsatz generativer KI und legte später eine überarbeitete Fassung vor. Recherchequelle: apnews.com
Der neue Fall ist deshalb mehr als eine peinliche Wiederholung. Er deutet auf ein strukturelles Problem hin: Öffentliche Auftraggeber wollen die Geschwindigkeit künstlicher Intelligenz nutzen, verfügen jedoch nicht immer über Prüfverfahren, die mit dieser Geschwindigkeit Schritt halten.
Im Fall des Berichts zur Alterskontrolle ist das besonders heikel. Seine Ergebnisse flossen in die regulatorischen Leitlinien der australischen Online-Sicherheitsbehörde ein. Diese bezeichnete die Untersuchung ausdrücklich als eine ihrer zentralen Grundlagen. Recherchequelle: esafety.gov.au
Wenn bereits das Fundament Risse zeigt, reicht es nicht, die Fassade neu zu streichen.
Behörden sollten deshalb offenlegen müssen, wo und wie generative KI eingesetzt wurde: beim Sammeln von Informationen, beim Zusammenfassen, beim Formulieren oder lediglich bei der Rechtschreibprüfung. Der pauschale Hinweis, KI sei „unterstützend eingesetzt“ worden, reicht nicht aus. Er gleicht einem Hinweisschild im Nebel: vorhanden, aber kaum hilfreich.
Noch wichtiger ist eine überprüfbare Quellenkette. Jede Studie muss auffindbar sein, jede angegebene DOI tatsächlich zum genannten Text führen und jede Behauptung durch die zitierte Passage gedeckt sein.
Bei politisch relevanten Gutachten sollte eine unabhängige Prüfstelle die Quellen kontrollieren, und zwar nicht nur stichprobenartig, sondern vollständig.
Auch Verträge brauchen klare Konsequenzen. Ein Auftragnehmer, der ungeprüfte KI-Inhalte als fachliche Arbeit verkauft, darf nicht denselben Vertrauensvorschuss erhalten wie ein Auftragnehmer, der seine Belege sorgfältig dokumentiert. Transparenz ohne Haftung bleibt bloße Dekoration.
Der australische Fall erzählt am Ende nicht nur von ChatGPT. Er erzählt von unserem Wunsch, Geschwindigkeit mit Erkenntnis zu verwechseln. Ein flüssiger Satz wirkt wie ein klarer Gedanke, eine Fußnote wie ein Beweis und ein tausendseitiger Bericht wie Gewissheit.
Doch eine Behauptung wird nicht wahrer, nur weil sie sauber formatiert ist. Vielleicht liegt die gefährlichste Halluzination deshalb nicht in der Maschine.
Vielleicht ist es der menschliche Glaube, man könne Verantwortung automatisieren und müsse am Ende nur noch auf „Veröffentlichen“ klicken.
Weiterführende Informationen
Quellenhinweis: Einzelne Fakten, Einschätzungen und Prognosen dieses Beitrags stützen sich auf Veröffentlichungen der nachfolgend genannten Unternehmen und Institutionen. Die Links dienen zugleich der weiterführenden Information.
Senatsuntersuchung zum Online Safety Amendment Bill 2026
Die offizielle Verfahrensseite bündelt Eingaben, Anhörungen und den angekündigten Abschlussbericht der laufenden Untersuchung. Sie ermöglicht es, die parlamentarische Aufarbeitung der Quellenfehler und mögliche politische Konsequenzen unmittelbar weiterzuverfolgen.
https://www.aph.gov.au/Parliamentary_Business/Committees/Senate/Environment_and_Communications/StrengtheningSMMA48P
Policy for the responsible use of AI in government – Version 2.0
Die verbindliche australische Regierungsrichtlinie verlangt unter anderem benannte Verantwortliche, interne Register der KI-Anwendungsfälle, Risikoprüfungen und Transparenzangaben. Sie bietet damit einen konkreten Maßstab für die im Artikel geforderten Kontroll- und Offenlegungsverfahren.
https://www.digital.gov.au/ai/ai-in-government-policy
Artificial Intelligence Use in IP Australia
Der Australian National Audit Office untersucht anhand einer Bundesbehörde, wie KI-Governance praktisch geprüft werden kann. Der Bericht behandelt Verantwortlichkeiten, Anwendungsregister, Risikobewertungen und menschliche Kontrolle und dokumentiert zugleich konkrete Lücken bei Inventarisierung und Zuständigkeiten.
https://www.anao.gov.au/work/performance-audit/artificial-intelligence-use-ip-australia
