Bilder und Videos, die mithilfe von KI-Tools erstellt werden, sehen inzwischen so täuschend echt aus, dass selbst Expert:innen sie kaum noch von echten Inhalten unterscheiden können. Wie der Spiegel berichtet, greift ab dem 2. August eine neue Kennzeichnungspflicht, die Nutzer:innen vor solchen manipulierten Inhalten schützen soll. Sie ist Teil des AI Acts der Europäischen Union, dem weltweit ersten umfassenden Gesetz zur Regulierung von KI.
Welche Regeln jetzt innerhalb der EU gelten
Seit Sonntag müssen viele KI-generierte Inhalte gekennzeichnet werden. Die Vorgaben gelten für Bilder, Videos und Texte, die einem professionellen Zweck dienen, also zum Beispiel bei Werbung im Internet, aber auch auf gedruckten Plakaten. Dasselbe gilt für Influencer:innen, die mit ihrem Content Geld verdienen – auch sie müssen die neue Kennzeichnungspflicht der EU einhalten. Verantwortlich für entsprechende Kennzeichnungsfunktionen sind KI-Anbieter wie OpenAI, Google oder Meta selbst.
Die Regeln zielen insbesondere auf Deepfakes ab. Wie ZDF Heute berichtet, ist die Gefahr im politischen Bereich und im Verbraucherschutz besonders hoch. So könnten Online-Shops etwa täuschend echte KI-Videos realer Personen einsetzen, ohne dass potenzielle Kund:innen die Manipulation erkennen. Laut einem EU-Leitfaden sollen Videos direkt zu Beginn gekennzeichnet werden – die Markierung soll entweder dauerhaft eingeblendet bleiben oder in regelmäßigen Abständen erscheinen.
Bei manipulierten Bildern werden interaktive Elemente empfohlen, etwa eine Einblendung, wenn Nutzer:innen mit der Maus über ein verfälschtes Gesicht fahren. Audioinhalte sollen zu Beginn einen gesprochenen Hinweis enthalten. Das gilt beispielsweise für KI-generierte Podcasts, aber auch für Chatbots am Telefon. Bei Texten sehen die Vorschläge der EU einen KI-Hinweis vor, der entweder über dem Text oder in der Nähe der Überschrift platziert ist.
Auch bei Ebay oder Vinted ist Vorsicht geboten
Für rein private Zwecke gelten diese Vorgaben nicht. Allerdings ist der Übergang vom Privaten ins Berufliche heute oft fließend. „Wer regelmäßig über Ebay oder Vinted verkauft und KI-Bilder als Produktfotos nutzt, ist erfasst“, erklärt Michael Terhaag, Fachanwalt für IT-Recht, gegenüber ZDF Heute. Auch für Vereine, die Plakate mit KI erstellen, gilt eine Kennzeichnungspflicht, so der Experte.
Laut dem Spiegel kann bei Verstößen eine hohe Strafe fällig werden. Im Fall von verbotenen KI-Praktiken sind mindestens 35 Millionen Euro oder sieben Prozent des weltweiten Jahresumsatzes möglich. Bei Missachtung von Transparenzpflichten oder mangelnden Sicherheitsvorkehrungen drohen Strafen ab 15 Millionen Euro oder drei Prozent des Jahresumsatzes. Für bestehende KI-Systeme gilt eine Übergangsfrist bis zum 2. Dezember 2026. Für neue Modelle greifen die EU-Vorgaben ab sofort.
