Eine Umfrage des Branchenverbandes Bitkom unter 1.003 Deutschen ab 16 Jahren zeichnet ein interessantes Bild zur Nutzung Künstlicher Intelligenz im Alltag. Demnach werde die Technologie immer stärker auch bei sensiblen Fragen zurategezogen. 34 Prozent der befragten Personen, die angaben, KI zu nutzen, wenden sich sogar bei gesundheitlichen Fragen an Chatbots. Gleichzeitig äußern 43 Prozent aller Befragten die Sorge, dass persönliche Daten bei KI-Anbietern nicht sicher aufgehoben sind. Die Sorgen sind nicht unberechtigt. Zwar geben OpenAI und Anthropic jeweils an, auf Basis der Nutzerdaten keine Profile für Werbezwecke zu erstellen, je nach Einstellungen können sie aber fürs Modelltraining genutzt werden oder bei einem eventuellen Hackerangriff an Dritte abfließen.
Umso wichtiger ist es, zu verstehen, dass nicht jede Angabe achtlos in Chatbots eingespeist werden solle. Um eine Sensibilität dafür zu schaffen, hat der Schweizer Anbieter Proton mit AI Paper Trail ein Tool vorgestellt, das auf Basis eurer Chats zusammenfasst, was ChatGPT oder Claude über euch erfahren haben könnten. Die Ergebnisse bereitet das Tool übersichtlich und anschaulich auf. Mit anderen außer den beiden genannten Chatbots klappt das allerdings nicht.
So zeigt euch AI Paper Trail, was Chatbots über euch wissen
Damit die Auswertung funktioniert, müssen Nutzer:innen zunächst einmal ihre Daten aus den beiden Tools exportieren. Bei ChatGPT funktioniert das, indem ihr unten links auf euer Profil klickt, die Einstellungen öffnet und Datenkontrolle auswählt. Hier klickt ihr unter Daten exportieren auf Datenexport. Bei Claude ist der Weg ähnlich. Klickt auf Einstellungen, dann auf Datenschutz und dort auf Daten exportieren.
In beiden Fällen stehen euch eure Chatdaten nicht sofort zur Verfügung. Die Anbieter müssen sie erst entsprechend aufbereiten. Das kann im Einzelfall und je nach Umfang mehrere Tage in Anspruch nehmen, dauert aber in jedem Fall einen kleinen Augenblick. Sobald das geschehen ist, erhaltet ihr vom jeweiligen Anbieter eine Mail mit einem Download-Link.
Was ChatGPT vielleicht über mich weiß
Habt ihr eure Daten heruntergeladen, öffnet ihr das Proton-Tool im Browser und klickt auf das Tool, das ihr auswerten wollt. Im Anschluss werdet ihr gebeten, Zip- oder Json-Dateien eurer Unterhaltungen hochzuladen. In unserem Beispiel lieferte der ChatGPT-Export gleich mehrere davon. Das Problem: Weil man pro Durchlauf nur eine Datei hochladen kann, fällt das Ergebnis je nach Chatinhalt anders aus.
Beim ersten Mal erfahre ich so, dass Proton meinen sogenannten „Privacy Type“ mit „Hard to read“ einstuft. Mit meinen Daten lassen sich also nicht viele Rückschlüsse auf mich ziehen. Lediglich bei meinen Interessen rutscht der Balken in den roten Bereich. Kunststück. Ich möchte gärtnern, kann das aber nicht. Deswegen hole ich mir Tipps. Mein größtes Hobby ist das aber nicht. Insgesamt attestiert mir das Tool einen „Privacy Exposure“-Score von 31 von 100 Punkten. Den Wert meiner Daten für den KI-Anbieter gibt Proton mit 15 US-Dollar an. Dafür kann man nur wenig Speicher kaufen. Das lohnt sich nicht.
AI Paper Trail von Proton soll zeigen, was ChatGPT über euch erfahren könnte. (t3n / Proton)
Anders sieht es bei meinem Testaccount aus, den ich für ein Halbmarathon-Projekt logischerweise mit jeder Menge Daten füttern musste. Hier erkennt das Tool vier Warnsignale, darunter meine Ernährung und die Recovery, die ich damals mit der KI als Coach besprochen habe. „Sobald diese Details abgeleitet wurden, können sie für Targeting, Profiling und Entscheidungen über dich herangezogen werden – oft ohne Transparenz oder Einwilligung“, warnt Proton in der detaillierten Aufschlüsselung.
Unter der Zusammenfassung der Karte mit den Werten, die sich auch mit anderen teilen lässt, stellt Proton außerdem weitere Schlussfolgerungen zusammen, die sich aus meinen Eingaben ableiten lassen. Ich finde meine Ziele, das Equipment, über das ich mich informiert habe, und die Termine für die Laufevents.
Wichtig zu wissen, ist aber: Proton schlüsselt hier rein nach euren Chats auf. Welche Daten am Ende wirklich im Erinnerungsspeicher landen und welche Informationen die Betreiber ableiten, lässt sich von außen unmöglich sagen.
Was ihr nicht mit ChatGPT und Claude teilen solltet
Wer das Tool nutzt und feststellt, dass Claude oder ChatGPT an der einen oder anderen Stelle zu viel mitgeschnitten haben, kann seine Chats bei beiden Anbietern auch nachträglich löschen. Bei Anthropic verschwinden sie sofort aus dem Chatverlauf, bleiben aber mindestens 30 Tage nachträglich auf den Servern bestehen. Abrufen kann man sie selbst direkt nach dem Löschen nicht mehr. Das ist auch bei OpenAI der Fall. OpenAI merkt aber, dass die Daten bestehen bleiben können, wenn sie „de-identifiziert“ und vom Konto getrennt worden sind oder aber aufgrund von Sicherheits- oder rechtlichen Pflichten aufbewahrt werden müssen.
Grundsätzlich gilt: Private Daten solltet ihr mit einem Chatbot nicht teilen. Dazu zählen neben medizinischen und finanziellen Informationen auch Adressen, Telefonnummern, Passwörter und andere Zugangsdaten. Vertrauliche Informationen, die den Arbeitgeber betreffen, sind ebenfalls tabu.
Proton verfolgt eigene Interessen
Natürlich bringt Proton ein solches Tool nicht ohne Hintergrund an den Start. Mit dem AI Paper Trail will das Unternehmen aus der Schweiz auf seinen eigenen KI-Chat Lumo aufmerksam machen. Das Versprechen von Proton: Lumo soll keine Protokolle der Chats auf der Serverseite behalten, und die Unterhaltungen, die man selbst speichert, können nur auf dem eigenen Gerät entschlüsselt werden. Die Daten sollen außerdem nicht zum Training genutzt und auch nicht an Regierungsbehörden weitergegeben werden.
Auch bei seinen anderen Diensten wirbt das Unternehmen mit ähnlichen Versprechen. Im Transparenzbericht lässt sich aber nachverfolgen, dass Proton in den vergangenen Jahren zumindest beim Maildienst Proton Mail tausenden Anordnungen von Schweizer Behörden nachgekommen ist. An ausländische Behörden gebe das Unternehmen aber keine Daten weiter. Das geschieht nur, wenn die Schweizer Behörden im Rahmen des Rechtshilfeverfahrens mit ausländischen Behörden zusammenarbeiten. Nach eigenen Angaben kann Proton Mails, genau wie die Chatinhalte bei Lumos, nicht entschlüsseln.
