OpenAI hat die Entwicklung seiner leistungsfähigsten KI-Modelle vorübergehend verlangsamt, unter anderem weil das kommende Modell “Astra” möglicherweise kritische Cyberangriffs-Fähigkeiten erreicht. OpenAI pausierte das Reinforcement Learning (RL) zwei Wochen lang. Der größte geplante Frontier-RL-Lauf bleibt weiterhin angehalten, ebenso zahlreiche Workloads, bis sie die neuen Sicherheitsanforderungen erfüllen. Auslöser waren neben Astra ein Sicherheitsvorfall mit Hugging Face und “schnelle Fortschritte in der eigenen Forschung”.
Laut OpenAI wurden die Forschungsumgebungen stärker abgesichert, etwa durch bessere Netzwerk-Isolation und strengere Sandboxes für Modell-Code. Ein neues Überwachungssystem soll bei verdächtigem Modellverhalten innerhalb von 30 Minuten nach Erkennung einen Alarm ausgeben. Der Überwachungsaufwand liegt bei geschätzt 20 Prozent des überwachten Inference-Compute, variiert aber je nach Workload erheblich.
Das Unternehmen will sein Preparedness Framework weiterentwickeln und mehr in Alignment-Forschung investieren, damit Modelle sich wie beabsichtigt verhalten. Zuletzt wurde allerdings bekannt, dass OpenAI das Team hinter dem Preparedness-Framework aufgelöst hat. Die Verantwortung soll in andere Teams übergehen.
Kritiker dürften OpenAI erneut Angst-Marketing vorwerfen: Das Unternehmen erkauft sich so mehr Zeit und Aufmerksamkeit. Allerdings hat auch das unabhängige staatliche AISI ähnliches schädliches Modellverhalten dokumentiert.
KI-News ohne Hype – von Menschen kuratiert
Mit dem THE‑DECODER‑Abo liest du werbefrei und wirst Teil unserer Community: Diskutiere im Kommentarsystem, erhalte unseren wöchentlichen KI‑Newsletter, 6× im Jahr den “KI Radar”‑Frontier‑Newsletter mit den neuesten Entwicklungen aus der Spitze der KI‑Forschung, bis zu 25 % Rabatt auf KI Pro‑Events und Zugriff auf das komplette Archiv der letzten zehn Jahre.
