OpenAI hat Ende Juli sein “Preparedness”-Team aufgelöst, das bewerten sollte, ob die KI-Modelle des Unternehmens schwere oder katastrophale Risiken bergen könnten, berichtet die Financial Times unter Berufung auf mehrere interne Quellen. Die Zuständigkeiten für einzelne Bereiche wie Bio- und Cyberrisiken wurden auf bestehende Teams verteilt.
Der bisherige Leiter der Einheit, Dylan Scandinaro, untersucht nun die Sicherheitsrisiken von “rekursiv selbstverbessernder” KI – also Systemen, die sich selbst optimieren und andere Modelle trainieren können. Mitgründer Greg Brockman sagte, OpenAI habe Sicherheitsarbeit tiefer in die Modellentwicklung integriert.
Mehrere Mitarbeiter aus dem Sicherheitsbereich haben das Unternehmen zuletzt verlassen, darunter Ethik-Chefin Chloe Bakalar und Joshua Achiam. Intern wächst die Unruhe: Eine Quelle sprach von einem “brodelnden Gefühl der Verantwortung und Angst”, dass OpenAI beim Thema Sicherheit nicht genug tue. Auch extern äußerten sich Angestellte kritisch, insbesondere nach dem autonomen Hacking-Vorfall von Hugging Face. Ein Angestellter meinte, er hoffe, OpenAI verstehe diesen Vorfall als “Warnschuss”.
KI-News ohne Hype – von Menschen kuratiert
Mit dem THE‑DECODER‑Abo liest du werbefrei und wirst Teil unserer Community: Diskutiere im Kommentarsystem, erhalte unseren wöchentlichen KI‑Newsletter, 6× im Jahr den “KI Radar”‑Frontier‑Newsletter mit den neuesten Entwicklungen aus der Spitze der KI‑Forschung, bis zu 25 % Rabatt auf KI Pro‑Events und Zugriff auf das komplette Archiv der letzten zehn Jahre.
