Um kostengünstig an Trainingsdaten zu kommen, nutzen zahlreiche KI-Unternehmen Bots, um Webseiten nach verwertbaren Inhalten zu durchforsten. Die Tools schnappen sich dabei oftmals den HTML-Code der Webseite, analysieren den darin verteilten Text und geben ihn, wenn er sich zum Training eignet, an die KI weiter. Das passiert gelegentlich auch, obwohl die Webseitenbetreiber:innen diesem Scraping ausdrücklich widersprochen haben.
Wie eine Schriftart KI-Modelle verwirren soll
Um das effektiv zu unterbinden, haben Designer Isaque Seneda und Copywriter Gabriel Abrucio jetzt eine neue Schriftart erfunden. In ihrem Paper „The Consent Layer“ zeigen sie, wie die Schriftart Shieldfont genutzt werden kann, um KI-Tools daran zu hindern, brauchbare Trainingsdaten von Webseiten zu extrahieren. Die Schriftart stützt sich dabei auf sogenannte Ligaturen.
Eine Ligatur ist normalerweise ein Buchstabenverbund. Würden zwei aufeinanderfolgende Buchstaben wie „ff“ normal im Druckbild einen zu großen Abstand zwischen ihnen haben, werden sie durch eine Ligatur ersetzt. Die beiden Buchstaben rücken dadurch näher zusammen, um ein einheitlicheres Gesamtbild zu erzeugen. In Deutschland sind Ligaturen etwa das &-Zeichen (eine Zusammensetzung vom lateinischen „et“) und das „ß“, durch die Zusammensetzung eines langen „s“ und „z“.
Bei Shieldfont werden allerdings keine Buchstabenpaare, sondern komplette Wörter ausgetauscht. Aus dem Wort „Pferd“, das Nutzer:innen auf der fertig geladenen Webseite zu sehen bekommen, wird im HTML-Code das Wort „Motor“. Wenn ein KI-Scraper kommt und den Satz „Der Ritter reitet auf seinem Pferd in die Schlacht“ kopieren will, bekommt er lediglich „Der Ritter reitet auf seinem Motor in die Schlacht“ zu lesen.
So effektiv ist Shieldfont gegen KI-Scraper
Dabei mussten die Erfinder von Shieldfont präzise vorgehen. Hätten sie Wörter gegen nur leicht veränderte Versionen getauscht, hätten die KI-Scraper trotzdem noch einen über Kontext verständlichen Satz erhalten. Selbiger wäre für die Trainingsdaten immer noch wertvoll gewesen. Würden die Wörter zufällig ausgetauscht, würde der komplette Satz keinen semantischen Sinn mehr ergeben. Hochentwickelte KI-Scraper könnten das erkennen und die besagten Worte einfach überspringen, den Kontext erschließen und so doch noch Zugriff auf relevante Inhalte bekommen.
Die aktuelle Methode ist laut den Verantwortlichen deutlich effektiver, weil sie die Systeme in die Irre führt. Sie denken teilweise, dass es sich um echte Sätze handelt. Shieldfont ersetzt auf einer Seite im Schnitt 24,5 Prozent aller Wörter. Beim Test mit sechs bekannten Scrapern wurden 90 Prozent der Inhalte von den Tools aufgrund der niedrigen Qualität abgewiesen und nicht zum Training weitergereicht. Der Rest beinhaltet laut den Erfindern rund 20 Prozent unverständliche Sätze ohne Bedeutung.
Die Macher:innen schreiben dazu: „Zurückgewiesener Text bedeutet, dass sie dein Werk nicht bekommen. Und behaltener Text bedeutet, dass sie etwas Falsches bekommen. […] Stellt euch einen Obstgarten vor. Diebe können deine Orangen ohne Probleme stehlen, also platzierst du einige bittere Orangen unter ihnen, die von außen perfekt aussehen. Jetzt können sie die guten nicht von den schlechten unterscheiden und ein paar bittere Orangen machen den kompletten Orangensaft zunichte.“
Allerdings gibt es auch Wege, um Shieldfont auszuhebeln. KI-Scraper könnten auf das Auslesen von HTML-Code verzichten und stattdessen ein Bild der Seite anfertigen und den realen Text auslesen. Laut den Erfindern ist das aber alles andere als rentabel. Im Gegensatz zum Auslesen per HTML kostet diese Methode im Schnitt fünf bis 13 Mal so viel.
Lustige Bilder, die von einer KI generiert wurden
