Ein Video beginnt. Eine Person spricht direkt in die Kamera. Gesicht, Stimme, Ausleuchtung und Bewegungen wirken täuschend echt. Vielleicht gibt es diesen Menschen wirklich. Vielleicht wurde nur die Stimme verändert. Vielleicht ist die gesamte Szene künstlich erzeugt.
Genau an dieser Grenze zwischen realer Aufnahme und künstlicher Erzeugung setzen die Transparenzpflichten aus Artikel 50 der europäischen KI-Verordnung an, die seit dem 2. August 2026 gelten. Sie betreffen unter anderem generative KI-Systeme, Deepfakes und bestimmte KI-generierte oder manipulierte Inhalte. Anbieter von KI-Systemen, die synthetische Audio-, Bild-, Video- oder Textinhalte erzeugen, müssen grundsätzlich dafür sorgen, dass die Ausgaben maschinenlesbar gekennzeichnet und als künstlich erzeugt oder manipuliert erkennbar sind. Für Betreiber gelten zusätzliche Offenlegungspflichten, etwa bei Deepfakes.
KI-Videos werden damit nicht verboten. Es beginnt etwas anderes: eine neue Kultur des offenen Umgangs mit ihrer Herkunft.
Warum Transparenz bei KI-Videos so wichtig ist
Mit diesen Vorschriften verfolgt der AI Act einen klaren Gedanken. Menschen sollen erkennen können, wann sie es mit künstlich erzeugten oder manipulierten Inhalten zu tun haben.
Das ist gerade bei Videos besonders wichtig.
Ein synthetisches Landschaftsbild wirkt für sich genommen meist harmlos. Ein scheinbar authentisches Video einer realen Person kann dagegen politische, wirtschaftliche oder persönliche Folgen haben. Stimme und Gesicht entfalten eine Überzeugungskraft, die ein geschriebener Satz oft nicht erreicht.
Deshalb behandelt Artikel 50 Deepfakes ausdrücklich.
Dabei geht es nicht darum, jede kreative Filmszene mit Warnhinweisen zu überziehen. Die Leitlinien der Europäischen Kommission berücksichtigen den jeweiligen Kontext. Spezialeffekte oder Inhalte aus einem offensichtlich fiktionalen Produktionskontext können anders beurteilt werden als Inhalte, die beim Publikum den Eindruck eines authentischen Ereignisses erwecken.
Entscheidend ist also, wie der Inhalt auf das Publikum wirkt.
Könnte das Publikum das Gezeigte angesichts seiner Gestaltung und seines Kontexts für eine authentische Aufnahme halten?
Unsichtbare Kennzeichnungen im digitalen Inhalt
Interessant ist, dass Transparenz nicht nur das betrifft, was ein Mensch unmittelbar sieht.
Anbieter bestimmter generativer KI-Systeme sollen KI-generierte oder manipulierte Inhalte in einem maschinenlesbaren Format markieren. In einem Bild oder Video kann also eine zweite, für Menschen nicht unmittelbar sichtbare Informationsebene eingebettet sein.
Eine solche technische Kennzeichnung kann Plattformen oder Prüfwerkzeugen helfen, zu erkennen, dass ein Inhalt mit KI erzeugt oder manipuliert wurde.
Das ist wichtig, weil sichtbare Hinweise verschwinden können. Ein Video wird zugeschnitten, neu komprimiert, als Ausschnitt weitergegeben oder auf einer anderen Plattform hochgeladen. Mit jeder Bearbeitung können Informationen verloren gehen.
Die Herausforderung besteht deshalb darin, Informationen über die künstliche Entstehung möglichst robust mit dem digitalen Inhalt zu verknüpfen.
Damit bekommt eine unscheinbare Frage plötzlich große Bedeutung: Kann ein Video verlässliche Hinweise auf seine künstliche Entstehung mit sich tragen?
Deepfakes brauchen sichtbare Klarheit
Bei Deepfakes reicht eine eingebettete technische Markierung allein nicht aus, um die Offenlegungspflicht des Betreibers zu erfüllen. Der Hinweis für das Publikum soll klar und unmittelbar wahrnehmbar sein. Wer das Video sieht, soll nicht erst mit Spezialsoftware nachforschen müssen, ob eine vermeintlich reale Aufnahme künstlich erzeugt wurde.
Das verändert vor allem den Umgang mit realistisch erzeugten Darstellungen von Personen.
Stellen wir uns einen Werbespot vor, in dem ein vollständig synthetischer Schauspieler eine erfundene Figur verkörpert. In einem anderen Szenario ist scheinbar ein bekannter Politiker zu sehen, der eine Aussage macht, die so niemals gefallen ist.
Technisch können beide Videos mit ähnlichen Verfahren erstellt worden sein. Gesellschaftlich liegen Welten dazwischen.
Die Kennzeichnung ist deshalb keine bloße Formalität. Sie wird selbst Teil der Aussage.
Der kurze Hinweis „KI-generiert“ kann darüber entscheiden, ob eine Szene als Fiktion verstanden wird oder als vermeintlicher Beweis.
Was Website- und Videobetreiber jetzt beachten sollten
Wer KI-Systeme beruflich für eine eigene Website, ein redaktionelles Angebot oder einen Videokanal einsetzt, sollte nun mit einem klar geregelten Arbeitsablauf arbeiten.
Bereits bei der Erstellung sollte dokumentiert werden, mit welchem System ein Video erstellt wurde. Zeigt es reale Personen oder bildet es sie künstlich nach? Wurden nur einzelne Elemente verändert, oder wurde die gesamte Szene künstlich erzeugt? Ist die Darstellung offensichtlich fiktional, oder könnte sie für eine echte Aufnahme gehalten werden?
Auch maschinenlesbare Kennzeichnungen und andere vom KI-System bereitgestellte Herkunftsinformationen sollten nicht achtlos entfernt werden.
Beim Exportieren, erneuten Kodieren und Hochladen können solche technischen Informationen verloren gehen.
Außerdem sollte eine sichtbare Kennzeichnung dort eingesetzt werden, wo sie gesetzlich erforderlich ist. Darüber hinaus kann sie auch als freiwilliges Zeichen transparenter Kommunikation sinnvoll sein.
Transparenz nimmt der Kreativität nichts
Die gute Nachricht: Transparenz zerstört ein kreatives Werk nicht.
Ein Fantasyfilm wird nicht weniger märchenhaft, weil das Publikum weiß, dass die Bilder des Films mit KI erzeugt oder bearbeitet wurden. Eine künstliche Landschaft verliert ihre Schönheit nicht, wenn ihre Herkunft offen genannt wird.
Bei digitalen Inhalten stand lange vor allem eine Frage im Mittelpunkt: Wie realistisch kann KI werden?
Vielleicht wird künftig eine zweite Frage wichtiger: Wie glaubwürdig gehen die Verantwortlichen mit dieser neuen Realität um?
Seit August 2026 gelten die neuen Regeln
Seit dem 2. August 2026 gelten die Transparenzpflichten nach Artikel 50 grundsätzlich. Für Anbieter von Systemen, die bereits vor dem 2. August 2026 in Verkehr gebracht wurden, gilt hinsichtlich der Kennzeichnungs- und Erkennungspflicht aus Artikel 50 Absatz 2 eine begrenzte Übergangsfrist bis zum 2. Dezember 2026. Die betroffenen Anbieter müssen diese Pflicht spätestens ab dem 2. Dezember 2026 erfüllen. Inhalte, die vor dem 2. August 2026 erzeugt wurden, müssen nach Angaben der Kommission nicht nachträglich gekennzeichnet werden. Eine freiwillige Kennzeichnung wird jedoch empfohlen, soweit sie möglich ist.
Damit ist Europa an einem bemerkenswerten Wendepunkt angelangt.
KI-Videos werden immer überzeugender. Gleichzeitig entsteht ein Regelwerk, das verhindern soll, dass gerade diese Überzeugungskraft dazu eingesetzt wird, Menschen unbemerkt zu manipulieren.
Vielleicht wird die wichtigste Eigenschaft eines digitalen Bildes deshalb bald nicht mehr seine perfekte Auflösung sein.
Sondern seine nachvollziehbare Herkunft.
Weiterführende Informationen
Quellenhinweis: Einzelne Fakten, Einschätzungen und Prognosen dieses Beitrags stützen sich auf Veröffentlichungen der nachfolgend genannten Unternehmen und Institutionen. Die Links dienen zugleich der weiterführenden Information.
Transparenzpflichten nach Artikel 50 des AI Act – Fragen und Antworten
Die EU-Kommission erläutert anhand konkreter Kriterien und Beispiele, wer als Anbieter oder Betreiber gilt, wann ein Inhalt als Deepfake einzustufen ist, welche Bearbeitungen ausgenommen sein können und wie eine wahrnehmbare Offenlegung erfolgen soll.
https://digital-strategy.ec.europa.eu/en/faqs/transparency-obligations-under-article-50-ai-act
EU-Symbole zur Kennzeichnung KI-generierter Inhalte
Die Kommission stellt frei verwendbare Symbole für vollständig KI-generierte und teilweise KI-veränderte Inhalte bereit und erklärt deren praktische Verwendung. Die Symbole sind optional und begründen allein noch keine rechtskonforme Kennzeichnung.
https://digital-strategy.ec.europa.eu/en/policies/eu-icons-labelling-ai-generated-content
Technische Studien zur Markierung und Erkennung KI-generierter Inhalte
Drei von der EU-Kommission beauftragte Studien untersuchen Markierungs- und Erkennungsverfahren für Audio, Text sowie Bilder und Videos. Sie vertiefen insbesondere Wirksamkeit, Robustheit, technische Grenzen und praktische Einsetzbarkeit maschinenlesbarer Herkunftsinformationen.
https://digital-strategy.ec.europa.eu/en/library/three-studies-technical-solutions-mark-and-detect-ai-generated-content
