Kennzeichnung von KI-Inhalten: Das schreibt der EU AI Act vor
KI-generierte Bilder, Videos, Stimmen und Texte sind inzwischen überall zu finden. Gleichzeitig wird es immer schwieriger zu erkennen, ob ein Inhalt tatsächlich aufgenommen, von einem Menschen erstellt oder vollständig durch künstliche Intelligenz erzeugt wurde.
Die Europäische Union reagiert darauf mit neuen Transparenzpflichten im EU AI Act.
Seit dem 2. August 2026 gelten die entsprechenden Vorschriften aus Artikel 50. Sie sollen dafür sorgen, dass Menschen erkennen können, wann sie mit einer KI interagieren oder wann bestimmte Inhalte künstlich erzeugt beziehungsweise manipuliert wurden.
Doch was bedeutet das konkret?
Muss jetzt jedes mit ChatGPT, Gemini oder einem anderen KI-Werkzeug erstellte Bild einen großen „KI“-Stempel bekommen?
Nein.
Die Regeln unterscheiden ziemlich genau zwischen verschiedenen Arten von Inhalten und auch danach, wer sie erstellt beziehungsweise veröffentlicht.
Nicht jedes KI-Bild braucht einen sichtbaren Hinweis
Das ist wahrscheinlich der wichtigste Punkt.
Der EU AI Act schreibt nicht vor, dass jedes KI-generierte Bild sichtbar mit „KI-generiert“ beschriftet werden muss.
Stattdessen gibt es zwei unterschiedliche Ebenen.
Zum einen müssen Anbieter generativer KI-Systeme ihre erzeugten Inhalte technisch kennzeichnen.
Zum anderen müssen bestimmte Personen und Unternehmen bei bestimmten Inhalten zusätzlich eine sichtbare beziehungsweise wahrnehmbare Kennzeichnung anbringen.
Das klingt kompliziert, wird aber verständlicher, wenn man beide Bereiche getrennt betrachtet.
KI-Anbieter müssen Inhalte technisch kennzeichnen
Die erste Pflicht richtet sich vor allem an Unternehmen, die generative KI-Systeme anbieten.
Dazu gehören beispielsweise Anbieter von Systemen, die:
Bilder erzeugen
Videos generieren
Stimmen synthetisieren
Texte erstellen
bestehende Inhalte mit KI verändern
Solche Systeme müssen ihre Ausgaben grundsätzlich mit einer maschinenlesbaren Kennzeichnung versehen, sodass erkannt werden kann, dass ein Inhalt künstlich erzeugt oder manipuliert wurde.
Das bedeutet nicht zwangsläufig, dass wir Menschen direkt einen sichtbaren Hinweis im Bild sehen.
Die Kennzeichnung kann technisch im Hintergrund erfolgen.
Denkbar sind beispielsweise:
Metadaten
digitale Herkunftsinformationen
technische Wasserzeichen
andere maschinenlesbare Verfahren
Entscheidend ist, dass geeignete Systeme später erkennen können, dass der Inhalt mit KI erzeugt oder verändert wurde.
Die EU verlangt dabei, dass solche Verfahren – soweit technisch möglich – wirksam, interoperabel, robust und zuverlässig sind.
Kleine KI-Korrekturen fallen nicht automatisch darunter
Auch hierbei gibt es Ausnahmen.
Wenn KI lediglich eine normale unterstützende Bearbeitungsfunktion übernimmt und den Inhalt oder seine Bedeutung nicht wesentlich verändert, greift die Kennzeichnungspflicht nicht zwangsläufig.
Das ist beispielsweise bei bestimmten klassischen Bearbeitungsfunktionen relevant.
Nicht jede:
automatische Bildkorrektur
Rauschreduzierung
Belichtungsanpassung
Rechtschreibkorrektur
kleine technische Nachbearbeitung
macht einen Inhalt deshalb plötzlich zu einem kennzeichnungspflichtigen KI-Werk.
Entscheidend ist, wie stark die KI tatsächlich in den Inhalt eingreift.
Deepfakes müssen klar gekennzeichnet werden
Wesentlich deutlicher wird der AI Act bei Deepfakes.
Als Deepfake gelten KI-generierte oder manipulierte Bild-, Audio- oder Videoinhalte, die real existierenden beziehungsweise realistisch erscheinenden Personen, Objekten, Orten oder Ereignissen ähneln und beim Betrachter fälschlicherweise den Eindruck erwecken können, authentisch zu sein.
Ein klassisches Beispiel wäre:
Ein täuschend echtes Video zeigt einen Politiker, der eine Aussage macht, die er tatsächlich niemals gemacht hat.
Oder eine künstlich erzeugte Stimme klingt so, als würde eine reale Person etwas sagen.
In solchen Fällen reicht die unsichtbare technische Kennzeichnung des KI-Anbieters nicht aus.
Wer einen solchen Inhalt professionell veröffentlicht, muss klar darauf hinweisen, dass das Material künstlich erzeugt oder manipuliert wurde.
Der Hinweis muss für Menschen verständlich und wahrnehmbar sein.
Eine ausschließlich unsichtbare Information in den Metadaten reicht bei einem Deepfake daher nicht.
Ein KI-Bild ist nicht automatisch ein Deepfake
Das ist ebenfalls ein wichtiger Unterschied.
Wenn ich eine KI bitte:
„Erstelle ein Bild von einem grünen Roboter auf dem Mond.“
ist das zwar ein KI-generiertes Bild.
Es ist deshalb aber noch lange kein Deepfake.
Ein Deepfake setzt voraus, dass ein Inhalt so gestaltet oder verändert wurde, dass etwas Existierendes beziehungsweise realistisch Existierendes irreführend als authentisch erscheinen könnte.
Eine offensichtlich künstliche Illustration, ein Fantasy-Motiv oder eine abstrakte Grafik fällt deshalb nicht automatisch in diese Kategorie.
Was ist mit Satire, Kunst und fiktiven Inhalten?
Auch dafür enthält der AI Act eine Sonderregel.
Bei offensichtlich:
künstlerischen
kreativen
satirischen
fiktionalen
Werken darf die Kennzeichnung so umgesetzt werden, dass sie das eigentliche Werk nicht unnötig beeinträchtigt.
Ein Filmemacher muss also nicht mitten in einer Filmszene ständig einen riesigen Hinweis mit:
„ACHTUNG: KI-GENERIERTER INHALT“
einblenden.
Die Information muss angemessen erfolgen, darf aber bei solchen Werken die Darstellung oder den Genuss des Inhalts berücksichtigen.
Auch KI-Texte können kennzeichnungspflichtig sein
Bei Texten gelten ebenfalls besondere Regeln.
Wer mit KI Texte erstellt oder verändert und diese veröffentlicht, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren, kann verpflichtet sein, den KI-Einsatz offenzulegen.
Die EU nennt darunter beispielsweise Themen aus den Bereichen:
Politik und demokratische Prozesse
öffentliche Verwaltung
Recht und Strafverfolgung
Grundrechte
öffentliche Sicherheit
öffentliche Gesundheit
Umwelt
Verbrauchersicherheit
Wirtschaft und Finanzen
Wissenschaft
gesellschaftliche und kulturelle Entwicklungen
Ein vollständig automatisch erstellter Nachrichtenartikel über eine politische Entscheidung wäre damit ein typisches Beispiel.
Aber auch hier gibt es eine wichtige Ausnahme
Ein KI-unterstützter Text muss nicht automatisch gekennzeichnet werden, wenn eine echte menschliche Überprüfung beziehungsweise redaktionelle Kontrolle stattfindet und eine Person oder Organisation die redaktionelle Verantwortung für den veröffentlichten Inhalt übernimmt.
Das ist gerade für Blogs und Redaktionen wichtig.
Wer KI beispielsweise als Hilfsmittel verwendet, anschließend aber:
den Text vollständig überprüft
Fakten kontrolliert
Formulierungen verändert
Quellen überprüft
Fehler korrigiert
und selbst die Verantwortung für die Veröffentlichung übernimmt
fällt nicht automatisch unter die sichtbare Kennzeichnungspflicht für KI-generierte Texte zu Themen von öffentlichem Interesse.
Eine reine Rechtschreibprüfung zählt allerdings nicht als ausreichende redaktionelle Kontrolle.
Was bedeutet das für Blogger?
Für Blogs ist diese Unterscheidung besonders interessant.
Wer sich von einer KI beispielsweise eine erste Textfassung erstellen lässt, diese anschließend recherchiert, kontrolliert, überarbeitet und selbst veröffentlicht, muss deshalb nicht automatisch jeden Beitrag mit:
„Dieser Text wurde mit künstlicher Intelligenz erstellt.“
kennzeichnen.
Entscheidend sind die konkrete Nutzung, der Inhalt und die tatsächliche menschliche beziehungsweise redaktionelle Kontrolle.
Anders kann es aussehen, wenn eine Webseite automatisch hunderte KI-Nachrichten zu gesellschaftlich oder politisch relevanten Themen veröffentlicht, ohne dass ein Mensch diese Inhalte vernünftig überprüft.
Genau solche Fälle sollen die neuen Transparenzregeln erfassen.
Und was gilt für Privatpersonen?
Hier gibt es eine weitere wichtige Einschränkung.
Wer KI ausschließlich privat und nicht beruflich verwendet, gilt nach den Leitlinien der EU grundsätzlich nicht als Betreiber im Sinne dieser Vorschriften.
Wer beispielsweise privat ein KI-Bild erstellt und auf seinem persönlichen Social-Media-Profil veröffentlicht, fällt deshalb nicht automatisch unter dieselben Betreiberpflichten wie ein Unternehmen.
Anders kann es aussehen, wenn die Aktivität geschäftlich oder beruflich erfolgt oder regelmäßig wirtschaftlichen Nutzen bringt.
Bei:
Unternehmen
professionellen Content-Erstellern
kommerziellen Webseiten
Agenturen
Selbstständigen
monetarisierten Angeboten
können die Pflichten entsprechend relevant werden.
Unabhängig davon können Plattformen wie Instagram, TikTok, YouTube oder andere Dienste natürlich eigene Kennzeichnungsregeln verlangen.
Die EU hat eigene KI-Symbole entwickelt
Damit Nutzer nicht überall mit komplett unterschiedlichen Hinweisen konfrontiert werden, hat die EU inzwischen sogar eigene Symbole für KI-generierte Inhalte entwickelt.
Es gibt unterschiedliche Varianten, mit denen beispielsweise erkennbar gemacht werden kann, ob ein Inhalt:
vollständig KI-generiert wurde
teilweise durch KI verändert wurde
oder grundsätzlich KI-Anteile enthält
Die Verwendung dieser EU-Symbole ist allerdings freiwillig.
Die Kennzeichnungspflichten des AI Acts sind verpflichtend – das konkrete EU-Icon dagegen nicht.
Wer ein anderes verständliches Kennzeichnungssystem verwendet und damit die gesetzlichen Anforderungen erfüllt, muss nicht zwangsläufig das EU-Symbol verwenden.
Sichtbare Kennzeichnung und technische Kennzeichnung sind zwei verschiedene Dinge
Diese Unterscheidung dürfte zukünftig besonders wichtig werden.
Ein Inhalt kann im Hintergrund eine maschinenlesbare KI-Kennzeichnung besitzen, ohne dass auf dem Bildschirm ein sichtbarer Hinweis erscheint.
Bei bestimmten Inhalten – insbesondere Deepfakes – ist dagegen zusätzlich eine für Menschen wahrnehmbare Offenlegung erforderlich.
Man könnte es vereinfacht so zusammenfassen:
Technische Kennzeichnung:
Damit Computer und Plattformen erkennen können, dass ein Inhalt durch KI entstanden ist.
Sichtbare Kennzeichnung:
Damit Menschen erkennen können, dass bestimmte Inhalte künstlich erzeugt oder manipuliert wurden.
Beides erfüllt unterschiedliche Aufgaben.
Auch Chatbots müssen sich als KI zu erkennen geben
Artikel 50 betrifft nicht ausschließlich Bilder, Videos und Texte.
Auch interaktive KI-Systeme müssen Menschen grundsätzlich darüber informieren, wenn sie mit einer KI kommunizieren.
Das betrifft beispielsweise:
Chatbots
KI-Agenten
virtuelle Assistenten
KI-Avatare
Eine Ausnahme besteht, wenn ohnehin völlig offensichtlich ist, dass es sich um ein KI-System handelt.
Ein Unternehmen sollte also grundsätzlich nicht einen KI-Chatbot so darstellen, dass Nutzer glauben, mit einem echten Mitarbeiter zu sprechen.
Seit dem 2. August 2026 gelten die Regeln
Die Transparenzpflichten aus Artikel 50 gelten seit dem 2. August 2026.
Für bestimmte generative KI-Systeme, die bereits vor diesem Datum auf den Markt gebracht wurden, gibt es allerdings eine Übergangsregel.
Bei diesen Systemen muss die technische Kennzeichnung nach Artikel 50 Absatz 2 teilweise erst ab dem 2. Dezember 2026 vollständig umgesetzt sein.
Auch bereits vor dem 2. August 2026 erzeugte Inhalte müssen nicht rückwirkend gekennzeichnet werden.
Die EU empfiehlt eine freiwillige Kennzeichnung allerdings dort, wo dies möglich ist.
Der Verhaltenskodex soll bei der Umsetzung helfen
Zusätzlich hat die Europäische Kommission einen Verhaltenskodex für die Transparenz KI-generierter Inhalte veröffentlicht.
Dieser Kodex ist freiwillig.
Die gesetzlichen Pflichten selbst sind es allerdings nicht.
Unternehmen können sich dem Kodex anschließen und dessen Vorgaben nutzen, um nachzuweisen, wie sie die Anforderungen des AI Acts umsetzen.
Der Kodex enthält unter anderem praktische Empfehlungen zu:
technischen Kennzeichnungen
Deepfake-Hinweisen
sichtbaren Labels
Platzierung von Hinweisen
Barrierefreiheit
KI-generierten Texten
Damit soll verhindert werden, dass jedes Unternehmen die Regeln komplett anders interpretiert.
Verstöße können teuer werden
Die Transparenzregeln sind keine unverbindliche Empfehlung.
Verstöße gegen die entsprechenden Vorschriften können mit erheblichen Geldbußen geahndet werden.
Nach Angaben der Europäischen Kommission sind Strafen von bis zu:
15 Millionen Euro
oder bei Unternehmen bis zu:
3 Prozent des weltweiten Jahresumsatzes
möglich.
Dabei sollen insbesondere bei kleineren Unternehmen Verhältnismäßigkeit und Unternehmensgröße berücksichtigt werden.
Was bedeutet das für normale Nutzer?
Für den durchschnittlichen Nutzer dürfte sich zunächst vor allem eines verändern:
KI-Inhalte sollen zukünftig leichter erkennbar werden.
Auf Plattformen könnten deshalb häufiger Hinweise auftauchen wie:
KI-generiert
Mit KI erstellt
Durch KI verändert
oder entsprechende Symbole.
Gleichzeitig können Plattformen maschinenlesbare Informationen auswerten und automatisch anzeigen, dass ein Bild oder Video mit einem KI-System erzeugt wurde.
Das bedeutet jedoch nicht, dass künftig jede kleine Photoshop-Korrektur, jeder KI-unterstützte Text oder jedes Fantasy-Bild einen Warnhinweis tragen muss.
Fazit
Die neuen Transparenzregeln des EU AI Acts sind deutlich differenzierter, als die Aussage „KI-Inhalte müssen jetzt gekennzeichnet werden“ zunächst vermuten lässt.
Seit dem 2. August 2026 müssen Anbieter generativer KI-Systeme dafür sorgen, dass bestimmte künstlich erzeugte oder manipulierte Inhalte technisch erkannt werden können.
Eine deutlich sichtbare Kennzeichnung wird dagegen vor allem bei Deepfakes und bestimmten automatisch erzeugten Texten zu Themen von öffentlichem Interesse relevant.
Für private Nutzer gelten zudem andere Maßstäbe als für Unternehmen oder professionelle Content-Ersteller.
Und auch wer KI beim Schreiben verwendet, muss nicht automatisch jeden Text mit einem KI-Hinweis versehen. Entscheidend ist unter anderem, ob eine echte menschliche beziehungsweise redaktionelle Kontrolle stattfindet.
Das Ziel der EU ist letztlich nicht, jeden KI-Einsatz mit einem großen Warnschild zu versehen.
Es geht darum, dort Transparenz zu schaffen, wo Menschen andernfalls kaum noch erkennen könnten, ob das, was sie sehen, hören oder lesen, tatsächlich echt ist.