Der Pause-Button, den niemand kontrolliert

Die Vorstellung eines „Pause Buttons" für besonders leistungsfähige KI klingt zunächst vernünftig. Wenn sich Fähigkeiten schneller entwickeln, als wir sie verstehen oder kontrollieren können, drücken wir Pause, schauen genauer hin und machen erst weiter, wenn wir wissen, womit wir es eigentlich zu tun haben. Das Interessante daran ist allerdings weniger, ob sich technisch irgendein Schalter einbauen lässt. Entscheidend ist, wer ihn drücken darf.

Wenn diese Entscheidung bei den Unternehmen liegt, die die Systeme entwickeln, sitzt dieselbe Person gleichzeitig am Gaspedal und an der Bremse. Wissenschaftler*innen können warnen, Beschäftigte Bedenken äußern, Politik kann Empfehlungen aussprechen und die Gesellschaft trägt im Zweifel die Folgen, aber die tatsächliche Entscheidung bleibt bei der Organisation, deren Investitionen, Marktposition und Zukunftspläne davon abhängen, weiterzumachen.

Ein echter Pause Button ist deshalb keine technische Funktion, sondern politische Eingriffsmacht. Es muss jemanden außerhalb des Rennens geben, der sagen kann: Bis hierhin und nicht weiter, auch wenn die Teilnehmer unbedingt weiterrennen wollen. Eine Bremse, die ausschließlich von demjenigen kontrolliert wird, der gerade beschleunigt, ist nicht besonders viel wert.