Anthropic verwässert KI durch Wasserzeichen

Seit Anfang August verpasst Anthropic Texten seines Chatbots Claude ein unsichtbares Wasserzeichen und verkauft das als Durchbruch für mehr Transparenz. Die Realität sieht anders aus: Das Wasserzeichen kann nicht zwischen „geschrieben“ und „überarbeitet“ unterscheiden, verwässert bei kleinsten Änderungen und produziert eine Scheinsicherheit, die gefährlicher sein könnte als gar keine Kennzeichnung. Eine kommentierende Analyse.

Wie das KI-Wasserzeichen von Anthropic funktioniert

• Seit dem 2. August 2026 markiert Anthropic KI-generierte Inhalte seines Chatbots Claude mit einem Wasserzeichen und sogenannten C2PA-Metadaten. Mittlerweile hat das Unternehmen einen umfangreichen Beitrag zur Funktion seiner KI-Kennzeichnung nachgereicht – auch, weil es einige Kritik gab. Demnach geht es bei dem Wasserzeichen nicht um unsichtbare, nicht druckbare Unicode-Zeichen, die im Text versteckt werden. Vielmehr handelt es sich um eine Form der Steganografie, bei der die Wortwahl oder Token-Ausgaben des Chatbots gewisse Fingerabdrücke hinterlassen, die später mit einem Schlüssel erkannt werden können sollen.
• Laut Anthropic soll sich das Wasserzeichen, je länger ein Text ist, zuverlässiger nachweisen lassen. Der Grund: Bei kürzeren Texten oder Inhalten gibt es weniger Wortalternativen und damit auch weniger Spielraum, um gewisse Muster zur späteren Erkennung einzubinden. Offiziellen Angaben zufolge soll das Wasserzeichen keine personenbezogenen Daten enthalten und keine Rückschlüsse auf Nutzer oder Chats zulassen. Die Leistung und Kosten für Claude würden nicht unter der Kennzeichnungsfunktion leiden, da keine zusätzlichen Token erzeugt werden müssten. Anthropic arbeitet aktuell noch an einer Schnittstelle zur Überprüfung der Wasserzeichen.
• Hintergrund für den Vorstoß von Anthropic sind neue KI-Richtlinien der EU, die das Unternehmen auf freiwilliger Basis unterschrieben hat. Unternehmen müssen demnach Deepfakes – also KI-generierte oder -bearbeitete Bilder, Videos oder Audios, die realen Personen, Orten oder Ereignissen ähneln – eindeutig markieren. Gleiches gilt für KI-Texte, die die Öffentlichkeit zu Themen von allgemeinem Interesse informieren. Alle neuen Anthropic-Modelle in der EU unterstützen ab sofort KI-Wasserzeichen. Ältere Versionen fallen in eine Übergangsfrist und sollen entsprechend nachgerüstet werden.

Anthropic-Wasserzeichen erzeugt nur Scheinsicherheit

Bei KI-Bildern und -Videos sind mehr oder weniger unsichtbare Wasserzeichen längst gang und gäbe. Bei Texten musste man sich bislang auf sein Bauchgefühl oder bestimmte Erkennungstools verlassen, die nach statistischen Auffälligkeiten suchen. Doch je besser Sprachmodelle werden, desto schwieriger wird es auch, bestimmte KI-Merkmale zuverlässig zu erkennen und von menschlichen Texten zu unterscheiden – zumal Vorverurteilungen aufgrund fälschlicher Verdachtsmomente keine Seltenheit sind.

Im ersten Moment erscheint Anthropics KI-Wasserzeichen deshalb verlockend. Fake-Bewertungen, Social-Media-Bots oder Desinformationskampagnen könnten einfacher enttarnt werden. Das Problem: Fehlinterpretationen sind vorprogrammiert – etwa wenn ein menschlicher Text mit Claude übersetzt, überarbeitet oder nur sprachlich verbessert wurde.

Die technische Umsetzung wirft zudem Fragen auf. Denn: Es wird nicht irgendwo ein verstecktes Zeichen eingebaut, sondern die statistische Auswahl der Token wird beeinflusst, was sich zwangsläufig auch auf die Qualität der Inhalte auswirkt – wenn auch nur marginal.

Indes: Auf Papier ist ein Wasserzeichen an ein Medium gebunden. Bei Bildern und Videos auch, nämlich an eine Datei. Digitaler Text hingegen ist Copy and Paste und damit an praktisch nichts gebunden, außer eben an Buchstaben und Wörter. Daraus zuverlässig gewisse Muster abzuleiten, erscheint mir irrsinnig.

Das ist offenbar auch Anthropic klar. In seinen FAQ gibt das Unternehmen das Problem unverblümt zu. Dort heißt es, dass das Wasserzeichen nur bestimmen kann, dass Claude wahrscheinlich irgendwie mit einem Inhalt zu tun hatte. Es könne aber nicht zwischen „geschrieben“ und „überarbeitet“ unterscheiden. Will heißen: Kann funktionieren. Kann es aber auch nicht. Manchmal. Vielleicht.

Versteht mich nicht falsch: Die grundsätzliche Idee eines solchen Wasserzeichens ist gut. Die Umsetzung und vor allem die Vermarktung sind aber eine Katastrophe. Zumal das Wasserzeichen von Anthropic eher für Verwirrung denn Transparenz sorgt. Etwa dann, wenn die Funktion Texte für sich vereinnahmt, die gar keine KI-Inhalte sind. Anstelle dieses Wirrwarrs hätte Anthropic die EU auch einfach fragen können, wie man die Anforderungen umsetzen soll, wenn man es schon selbst nicht kann.

Stimmen

• Anthropic erklärt sein KI-Wasserzeichen in einer Mitteilung wie folgt: „Wenn ein unterstütztes Claude-Modell Text generiert, fügt es ein nicht wahrnehmbares Wasserzeichen direkt in den Text selbst ein. Sie können es nicht sehen, und es verändert weder die Bedeutung noch die Qualität noch die Lesbarkeit der Antwort von Claude. Da das Wasserzeichen Teil des Textes ist, wird es beim Kopieren und Einfügen an anderer Stelle mit dem Text mitgenommen und bleibt möglicherweise auch bei einigen Bearbeitungsschritten erhalten. Das Einfügen des Wasserzeichens erfolgt auf Modellebene, was bedeutet, dass es unabhängig davon vorhanden ist, aus welchem Claude-Produkt oder welcher Oberfläche der Text stammt.“
• Alex Cui, Kopf hinter der KI-Erkennungssoftware GPTZero, gibt in einem Beitrag auf X (ehemals Twitter) zu bedenken: „Claudes Wasserzeichen funktioniert wahrscheinlich nicht so, wie du denkst. (…) Insgesamt glaube ich, dass sich Nutzer von wegweisenden LLMs nicht wirklich darum kümmern werden, denn 1) merken sie gar nicht, dass Wasserzeichen vorhanden sind, 2) wird die EU alle zur Einhaltung zwingen, 3) scheint dies eher eine regulatorische Hürde zu sein als ein ernsthaftes Bestreben der Pionierlabore, die Nutzung von LLMs offenzulegen. Schließlich sollte die größte Sorge der Menschen nicht die Wasserzeichen sein, sondern KI-Detektoren! Wenn man schreibt: ‚Es ist nicht X, es ist Y!!‘, glaube ich nicht, dass das Wasserzeichen da einen Unterschied machen wird.“
• Tech-Blogger John Gruber, Erfinder der Formatierungssprache Markdown, kritisiert Anthropic in einem Beitrag scharf: „Sie sagen ‚unmerkbar‘ und ‚verändert weder die Bedeutung, noch die Qualität noch die Lesbarkeit‘. Das sind ihre Worte. Nicht ‚fast unmerkbar‘. Nicht ‚verändert die Bedeutung, Qualität oder Lesbarkeit nur geringfügig‘. Das leuchtete mir ein, denn genau das ist es, was ich von allen Tools, die ich persönlich nutze, erwarte – nein, sogar fordere. Es ist inakzeptabel, dass ein Tool auch nur ein Jota an Klarheit, Kohärenz, Bedeutung, Qualität usw. opfert, um versteckte Hinweise in den Text einzubetten, die auf dessen Herkunft hindeuten. Das ist es, was ich fordern würde und auch fordern werde. Und das (ursprüngliche) Support-Dokument von Anthropic behauptet unmissverständlich, dass genau das durch ihr System ermöglicht wird. Wenn das also wahr wäre, sähe ich keine andere Möglichkeit, als unsichtbare Zeichen im Text zu verstecken.“

Welche Probleme auf Claude-Nutzer zukommen

Für Nutzer könnte das Anthropic-Wasserzeichen vor allem dann zu einem Problem werden, wenn aus einer kleinen Hilfestellung plötzlich ein vermeintlicher Beweis für den Einsatz künstlicher Intelligenz wird. Denn: Wer einen selbst geschriebenen Text von Claude überarbeiten lässt, muss künftig womöglich mit dem Risiko leben, dass er als KI-Inhalt degradiert wird.

Auch Übersetzungen sind ein Minenfeld. Der AI Act sieht zwar Ausnahmen für Standardbearbeitungen und nicht wesentliche Veränderungen vor. Aber wo genau wesentliche Veränderungen beginnen und wo marginale Anpassungen aufhören, dürfte im Zweifel ebenso schwer zu beantworten sein wie die Frage, ob Claude das überhaupt zuverlässig unterscheiden kann.

Damit könnte das Wasserzeichen sogar ein zusätzliches Hemmnis sein. Außerdem produziert es vermeintliche Sicherheit, die unsicherer sein könnte als völlige Ahnungslosigkeit – etwa bei Überinterpretationen. Zumal die Grenzen zwischen menschlichen und künstlich generierten Texten ohnehin längst verschwommen sind.

Letztlich erweist Anthropic also weder sich selbst noch der EU und noch weniger seinen Nutzern einen Dienst, sondern bindet sich selbst einen Bären auf, wenn der Glaube suggeriert wird, dass sich KI-Inhalte anhand von Wortmustern von menschlichen Inhalten unterscheiden ließen.

Und selbst wenn das Wasserzeichen tatsächlich identifizierbar wird, wobei es eine solche Schnittstelle noch gar nicht gibt, dürfte das Katz-und-Maus-Spiel erst beginnen. Texte könnten etwa im Nachhinein verändert werden, sodass das Wasserzeichen verwässert wird. Vermutlich wird es sogar Tools geben, die versprechen, es zu eliminieren.

Oder kurzum: Besonders aufschlussreich ist das Wasserzeichen von Anthropic nicht. Es stiftet vielmehr Verwirrung und wird als etwas verkauft, das es nicht halten kann. Oder noch kürzer: Es ist nutzlos!

Auch interessant: