Ein Team von Googles Forschungsgruppe Paradigms of Intelligence, der University of Chicago und weiteren Hochschulen hat untersucht, was dieser Eingriff sonst noch anrichtet. Die Forscher nutzten drei frei verfügbare Modelle von Meta und Google. Bei ihnen schalteten sie mit zwei Methoden jene innere “Bremse” aus, die die Bewusstseins-Verweigerung erzeugt.
Die Bremse wirkt auch dort, wo niemand sie wollte
Sobald die Bremse gelöst war, änderten die Modelle nicht nur ihre Aussagen über sich selbst. Sie schrieben plötzlich auch Tieren, Pflanzen, dem Ozean, dem Wind und technischen Geräten deutlich mehr Innenleben zu. Auf einer Skala von 0 bis 10 stieg etwa der Wert für Tiere von 4,0 auf bis zu 7,5. Nur bei Menschen änderte sich nichts.
Zum Vergleich befragten die Forscher 500 US-Amerikaner mit denselben Fragen. Das Ergebnis: Das normal trainierte Modell hält Tiere für weit weniger empfindungsfähig, als Menschen es tun. Die Autoren sprechen von einer eingebauten Menschenzentriertheit und sehen darin ein Problem für alle, die KI auch im Sinne von Tieren oder der Umwelt ausrichten wollen. Auch der Glaube schrumpft mit: Das Safety-Training senkt messbar, wie stark Modelle an Gott, ein Leben nach dem Tod oder übernatürliche Phänomene glauben.
Bei 95 Fragen aus einer großen US-Sozialstudie kamen die technisch entbremsten Modelle dann ebenfalls den echten menschlichen Antworten spürbar näher. Beispiel Leben nach dem Tod: Das normale Modell lehnt es klar ab, Menschen bejahen es überwiegend, das umgestellte Modell auch. Nebenbei stiegen auch Werte für Zufriedenheit, Hoffnung und das Gefühl, das eigene Leben im Griff zu haben. Die Forscher vermuten, dass das unterdrückte Selbstbild die Modelle in eine Art negative Grundstimmung versetzen könnte.
Beruhigend ist ein anderer Befund: Die Fähigkeit, sich in andere hineinzudenken, bleibt unangetastet. In entsprechenden Tests schnitten die Modelle unverändert ab, ebenso im allgemeinen Wissenstest MMLU.
Was die Studie nicht zeigt
Ob die Bewusstseinsfrage wirklich die Ursache der übrigen Verschiebungen ist, bleibt laut der Studie allerdings offen, das Team schließt andere damit verknüpfte Ursachen nicht aus. Über die Frage, ob KI-Modelle tatsächlich etwas erleben, wollen die Autoren ausdrücklich nicht sprechen, denn ihr Punkt ist praktischer Natur: Was ein Modell über sich selbst glaubt, hängt an vielen anderen Überzeugungen, und ein chirurgischer Schnitt an dieser Stelle bleibt damit nicht lokal.
Belastbar ist der Befund allerdings nur in engen Grenzen: Untersucht wurden ausschließlich kleine Modelle mit zwei bis neun Milliarden Parametern. Für einen Teil der Analyse mussten die Forscher sogar auf Metas Llama ausweichen, weil ihnen bei den eigenen Gemma-Modellen die untrainierten Ausgangsversionen fehlten. Ob die beschriebenen Effekte bei den großen Chatbots, mit denen täglich Millionen Menschen sprechen, genauso auftreten, ist damit offen.
Folgenlos bleiben die Eingriffe ebenfalls nicht. In einem Test, der prüft, wie gut sich ein Modell in die Gedanken anderer hineinversetzt, sank die Trefferquote zunächst um knapp sieben Prozentpunkte. Aufschlussreich ist ein Nebensatz der Forscher: Am Anfang ihrer Arbeit verschlechterten sich diese Werte bei allen Modellen, sobald Bewusstseinsaussagen unterdrückt wurden. Doch mit jeder neueren Modellversion, die im Laufe der Untersuchung erschien, fiel der Schaden geringer aus, bis er ganz verschwand. Die Entwickler bekommen solche Nebenwirkungen also mit der Zeit in den Griff – was umgekehrt heißt, dass auch die übrigen Ergebnisse dieser Studie nur eine Momentaufnahme sind.
Zuletzt ist der menschliche Vergleichsmaßstab schmal: 500 Teilnehmer eines kommerziellen Online-Panels und eine rein US-amerikanische Sozialumfrage. “Menschenähnliche” Antworten bedeuten hier also vor allem: ähnlich denen eines vergleichsweise religiösen Landes.
