Ab dem 2. August tritt die Kennzeichnungspflicht des „AI Act“ in Kraft. Dann muss markiert werden, ob veröffentlichte Texte, Bilder und Videos mit Assistenten wie ChatGPT, Claude, Gemini und Co. erstellt oder bearbeitet worden sind. Es existieren aber diverse Ausnahmen.
Klar ist zunächst: Wer davon ausgeht, dass Organisationen wie Medien und Behörden ab August kleinteilig aufschlüsseln müssen, inwieweit KI-Assistenten zum Einsatz kamen, wird enttäuscht. Die Regeln gelten vor allem für solche Inhalte, die automatisiert bearbeitet worden sind.
Für Texte heißt es etwa: Selbst ein komplett mit ChatGPT generierter Text muss nicht gekennzeichnet werden, wenn am Ende eine redaktionelle Kontrolle stattfindet und eine Person für den Inhalt verantwortlich ist.
Welche Vorgaben es für die KI-Kennzeichnungen gibt
Was genau vorgeschrieben ist, regelt der AI Act im Artikel 50, der die Transparenzpflichten für Anbieter und Betreiber der KI-Systeme enthält. Bei Texten greift die Markierungspflicht, wenn mit KI erstellte oder manipulierte Inhalte veröffentlicht werden, bei denen ein öffentliches Interesse besteht. Interne Mails oder reine Produkthinweise sind in der Regel also nicht betroffen, schreibt der Anwalt Carsten Ulbricht in einem FAQ. Wenn etwa der Blog eines Unternehmens aber politische, wirtschaftliche und sicherheitsrelevante Fragen berührt, hängt die Bewertung – wie so oft – vom Einzelfall ab.
Entscheidend ist aber die Kontrolle: Die Kennzeichnungspflicht betrifft KI-Inhalte, die ohne menschliche Prüfung veröffentlicht werden.
Vorgaben für Deepfake-Inhalte
Werden Bild-, Ton- oder Videoinhalte mit KI-Assistenten generiert oder manipuliert, können diese als Deepfake bewertet werden und müssen damit ebenfalls gekennzeichnet werden. Dabei geht es vor allem um Inhalte, die bestehenden Personen, Objekten, Orten oder Ereignissen ähneln und einer Person fälschlicherweise als authentisch oder wahrheitsgetreu erscheinen würden.
Klassische Bildbearbeitung, also etwa Zuschnitt sowie Helligkeits- und Farbkorrekturen mit KI-Tools, fällt laut Ulbricht nicht unter den AI Act. Nutzt man aber die Tools, um Personen zu entfernen, Gesichter auszutauschen oder Körperformen, Stimmen und Mimik anzupassen, sind Labels nötig. Es geht also um zentrale Änderungen, die den Charakter eines Bildes verändern. Nicht jede KI-Bildbearbeitung wird im Sinne des AI Act zum Deepfake. Die Grenzen können laut Ulbricht aber erneut verschwimmen, sodass es im Zweifel wieder auf den Einzelfall ankommt.
Erneut gibt es Ausnahmen. Diese betreffen Inhalte, die offensichtlich Teil eines künstlerischen, kreativen, satirischen oder fiktiven Werks sind. In dem Fall muss der KI-Einsatz auf eine Art und Weise mitgeteilt werden, die laut dem AI Act „die Darstellung oder den Genuss des Werks nicht beeinträchtigt“.
Wie die KI-Labels aussehen sollen
Die EU bietet Vorlagen für die KI-Symbole. Es gibt ein allgemeines KI-Icon sowie eins für vollständig per KI generierte Inhalte („AI Generated“) und eins für manipulierte Inhalte („AI Modified“). Die EU-Symbole sind keine Pflicht. Alternativen müssen aber ebenso deutlich sein.
Angezeigt werden müssen die Symbole, wenn Nutzer erstmals einen Inhalt wahrnehmen. Bei Bildern also sichtbar im Blickfeld oder als Overlay, bei Videos am Anfang und bei Audioinhalten ist ein verständlich hörbarer Hinweis erforderlich. Bei Texten soll das Label am Anfang oberhalb des Textes und in der Nähe der Überschrift stehen.
