OpenAI hat eine verdeckte russische Einflusskampagne aufgedeckt und gestoppt, die ChatGPT zur Erstellung von Social-Media-Beiträgen nutzte.
Die Betreiber verwendeten VPNs, um aus Russland auf die Plattform zuzugreifen, und wiesen ChatGPT an, sprachliche Hinweise auf ihre russische Herkunft zu verbergen. Ziel war die Bewerbung des “International Burke Institute” (IBI), eines angeblich in Israel ansässigen Thinktanks, der unter anderem einen “Souveränitätsindex” veröffentlichte, der Russland positiv und westliche Länder in Relation negativ darstellte.
Laut OpenAI waren 34 von 36 untersuchten Artikeln auf der IBI-Webseite von anderen Quellen kopiert, teils mit falscher Autorenzuordnung. So wurde etwa ein Artikel von Cambridge University Press fälschlich einer Professorin der University of Nottingham zugeschrieben, und ein Artikel des Migration Policy Institute einer australischen Professorin für Lebensmittelchemie.
Kaum Reichweite, aber skalierbare Infrastruktur
Beiträge wurden auf X, LinkedIn, Facebook, Substack und Telegram verbreitet, darunter auch deutschsprachige Inhalte auf dem Telegram-Kanal “Lahme Ente”, die die Ukraine, die EU und die Bundesregierung kritisierten und für bessere Beziehungen zu Russland plädierten. Ein zweiter Betreiber erstellte Logos für rund ein Dutzend Telegram-Kanäle mit Fokus auf Deutschland, die USA, Frankreich, Polen und die Türkei und forderte regelmäßig russischsprachige Zusammenfassungen der Kanalaktivitäten an.
Die einzelnen Posts erzielten laut OpenAI nur wenige Aufrufe, die offiziellen IBI-Konten hatten niedrige Abonnentenzahlen. Die zugehörigen Telegram-Kanäle erreichten jedoch jeweils 10.000 bis 20.000 Follower. Auf der Brookings Breakout Scale stuft OpenAI die Kampagne in Kategorie drei von sechs ein: Verbreitung auf mehreren Plattformen mit ersten Anzeichen einer Reichweite bei echten Nutzern. Die eigentliche Gefahr liege weniger in der aktuellen Reichweite als in der aufwendig aufgebauten Infrastruktur, die langfristig hätte skaliert werden können.
OpenAI hat bereits mehrere russische Einflussoperationen gestoppt, die ChatGPT missbrauchten. Im Juni 2024 deckte das Unternehmen ein russisches Netzwerk namens “Bad Grammar” auf, das politische Kommentare über Russland, die Ukraine und die baltischen Staaten auf Telegram generierte. Ein Jahr später identifizierte OpenAI die “Operation Helgoland Bite”, eine russische Kampagne, die vor der Bundestagswahl 2025 deutschsprachige Inhalte produzierte, die die USA und die NATO kritisierten und für die AfD warben. Das sind nur die Fälle, die OpenAI auf der eigenen Plattform entdeckt hat: Da auch chinesische KI-Anbieter und frei verfügbare Open-Weight-Modelle genutzt werden können, dürfte das tatsächliche Ausmaß KI-gestützter Einflussoperationen deutlich größer sein.
KI-News ohne Hype – von Menschen kuratiert
Mit dem THE‑DECODER‑Abo liest du werbefrei und wirst Teil unserer Community: Diskutiere im Kommentarsystem, erhalte unseren wöchentlichen KI‑Newsletter, 6× im Jahr den “KI Radar”‑Frontier‑Newsletter mit den neuesten Entwicklungen aus der Spitze der KI‑Forschung, bis zu 25 % Rabatt auf KI Pro‑Events und Zugriff auf das komplette Archiv der letzten zehn Jahre.
