KI-Appell „Pacing the Frontier“: Wie lässt sich das Tempo der KI-Entwicklung drosseln?

Mit „Pacing the Frontier“ haben über 1.000 Mitarbeiter der führenden KI-Labore einen Brief unterzeichnet, in dem vor der rasanten Entwicklungs­geschwindigkeit gewarnt wird. Die US-Regierung soll daher Mechanismen schaffen, um das Tempo im Zweifel drosseln zu können. Die zentrale Frage ist nur: Wie soll das überhaupt gehen?

Um es vorwegzunehmen: Auch der „Pacing-the-Frontier“-Brief bleibt vage. Die Unterzeichner fordern die US-Regierung auf, international die technischen und regulatorischen Instrumente zu schaffen, mit denen sich die Geschwindigkeit der automatisierten KI-Entwicklung drosseln lässt.

We request that the U.S. government support an international effort to develop the technical and governance tools needed to deliberately pace the frontier of automated AI development.

Inhalt von Pacing the Frontier

Bemerkenswert an diesem Brief sind vor allem die Unterzeichner. Zu diesen zählen Anthropic-CEO Dario Amodei, OpenAI-Chefwissenschaftler Jakub Pachocki, Ilya Sutskever (Ex-OpenAI, jetzt SSI), Shane Legg (Chefwissenschaftler DeepMind) und zahlreiche prominente Namen. Der Anlass ist dem Appell zufolge die Sorge, dass die Top-Labore womöglich nahe an dem Punkt sind, an dem sich die KI-Entwicklung automatisiert. „Es ist schwer zu prognostizieren, wie stark das den KI-Fortschritt beschleunigen wird, aber es besteht ein reales Risiko, dass sich die Entwicklung der Fähigkeiten so rasch beschleunigt, dass sie schneller voranschreitet, als wir die entstehenden Systeme verstehen oder kontrollieren können“, heißt es dort.

Ebenso scheint der Sicherheitsvorfall bei OpenAI, bei dem ein Forschungsmodell aus der Sandbox ausbrach und autonom Hugging Face hackte, einige der Beteiligten in den Knochen zu stecken. Sam Altman bezeichnete den Hack in einem Interview als „ersten Sicherheitsvorfall, den ich sehr körperlich gespürt habe“. Das Entwicklungstempo drosseln könnte daher helfen, um Sicherheits­mechanismen zu schaffen, so Altman (via Transformernews). Den Appell hat er allerdings nicht unterzeichnet.

Inwieweit die automatisierte KI-Entwicklung bevorsteht und was für ein Risiko diese darstellt, ist ein separates Thema. Die interessante Frage ist vor allem: Wie lässt sich das Tempo überhaupt drosseln?

ComputerBase hat daher via E-Mail bei Dr. Jonas Geiping nachgefragt, er ist Leiter der Forschungsgruppe „Safety- & Efficiency-aligned Learning“ am Ellis Institut Tübingen und Max-Planck-Institut für Intelligente Systeme in Tübingen.

Selbstregulierung: Wie viel politische Kontrolle darf es sein?

Was bei „Pacing the Frontier“ auffällt, ist die Abgrenzung zu bestehenden Initiativen wie PauseAI, die sich tatsächlich für einen Stopp bei der Entwicklung und Forschung einsetzen, so Geiping. Das wollen die Unterzeichner nicht. Bislang setzen die führenden KI-Labore mehr oder weniger auf Selbstregulierung. Anthropic schreibt diese etwa in einer Responsible Scaling Policy fest.

Wie sich Kontroll­mechanismen in so einem freiwilligen Umfeld entwickeln, kann aber erstaunlich sein. Als die Trump-Administration im Frühsommer neue Kontroll­mechanismen plante, setzten sich die Tech-Konzerne dafür ein, dass die Vorgaben nicht verbindlich sind. Damit hatten sie Erfolg. Die Executive Order von Anfang Juni beinhaltete ein Regelwerk, laut dem KI-Entwickler grundsätzlich selbst entscheiden, ob die US-Regierung vorab ein Modell prüfen soll. Die Dynamik änderte sich aber massiv, als die Trump-Administration Anthropics Fable- und Mythos-Modelle mit einer Exportkontroll-Anordnung sperren ließ. Später verzögerte sich auch der Start von GPT-5.6. Damit waren weder Anthropic noch OpenAI zufrieden.

Allerdings greift auch die Selbstregulierung kaum, das räumt sogar Anthropic ein. Als das Unternehmen die Version 3 seiner Responsible Scaling Policy im Februar veröffentlichte, erklärte es in einem Blog-Beitrag, dass es kaum möglich sei, Schwellenwerte für KI-Risiken zu identifizieren. In den letzten Jahren habe sich zudem der Fokus verschoben. „Das politische Klima hat sich in Richtung einer Priorisierung von KI-Wettbewerbs­fähigkeit und Wirtschafts­wachstum verschoben, während sicherheits­orientierte Debatten auf Bundesebene bislang keine nennenswerte Wirkung entfalten konnten“, so Anthropic.

Was allerdings auch offen bleibt: Was sind Regeln, die die Top-KI-Labore akzeptieren? Interessant werden daher die nächsten Monate. Der US-Kongress verhandelt derzeit ein überparteiliches „AI-Kill-Switch“-Gesetz. KI-Entwickler würde es verpflichten, Modelle mit Schutzmechanismen auszustatten, damit diese sich drosseln oder deaktivieren lassen.

Suche nach internationalen Regeln

Ein gedrosseltes Entwicklungstempo lässt sich nur global regeln, das legt bereits das „Pacing-the-Frontier“-Schreiben nahe. Nicht nur die KI-Labore konkurrieren, auch die USA und China forcieren als Staaten das Tempo und den Konkurrenzkampf. „Es ist klar, dass ein unilaterales ‘Verlangsamen’ einer einzelnen Firma oder der Firmen eines einzigen Landes nicht funktionieren würde“, sagt daher Jonas Geiping.

In der Debatte kursieren die Forderungen nach internationalen Aufsichtsbehörden, die sich an bestehenden Organisationen wie der Atomkontrollbehörde IAEA orientieren sollen. Wie so eine Organisation für die KI-Entwicklung aussehen kann, ist jedoch unklar.

Kontrollieren ließe sich die KI-Entwicklung etwa der Fallstudie AI 2040 zufolge über die Rechenzentren. Die Leistung müsste weltweit mit Verifikations­prozessen überwacht werden. Solche Mechanismen sollen dann auch gewährleisten, dass Rechenzentren etwa nur für die Inferenz – also den Betrieb von Modellen – verwendet werden. Trainings­prozesse will man stoppen. Laut Geiping sei die Technologie für solche Verifikations­prozesse aber noch nicht ausgereift.

Auch Organisationen wie PauseAI setzen an der Hardware an, indem Leistungs­steigerungen begrenzt werden. Denkbar wären etwa „Einschränkungen bei Lithografie, Chipdesign und neuartigen Rechenparadigmen wie photonischen Chips und Quantencomputing“, heißt es in dem Forderungskatalog.

Der entscheidende Haken ist aber, dass für eine erfolgreiche Umsetzung ein Abkommen zwischen den USA und China erforderlich ist. Im aktuellen geopolitischen Klima müssten also sowohl die Trump-Administration als auch die chinesische Regierung zu dem Schluss kommen, dass man KI nicht mehr primär als ökonomischen Vorteil, sondern als Risiko wahrnimmt.

Wenn man nicht stoppen kann, versucht man Stöcke in die Speichen zu stecken

Derzeit ist so eine Idee kaum vorstellbar, eine globale Lösung ist nicht in Sicht – weder technisch noch politisch. Was bleibt also?

Laut PauseAI gibt es weitere Maßnahmen, um die KI-Entwicklung zu verlangsamen. Dazu zählen:

• Urheberrecht: Es soll verboten werden, dass KI-Systeme mit geschütztem Material trainiert werden,
• Haftung: Die Betreiber der Systeme sollen für Straftaten haften, die mit Modellen begangen werden. Das würde auch zu mehr Sicherheit führen.

Was erst einmal hilft, sind also weniger globale Großkrisenpläne, sondern politische Alltagsthemen. Damit wird KI dann aber auch wie jede andere Technologie behandelt.