Ein Sicherheitsversprechen ist kein Sicherheitsmechanismus

KI-Unternehmen veröffentlichen Safety Frameworks, definieren Risikoschwellen und versprechen, Entwicklung oder Veröffentlichung zu verlangsamen oder zu stoppen, wenn bestimmte Grenzen überschritten werden. Das ist selbstverständlich besser, als solche Risiken überhaupt nicht ernst zu nehmen. Nur sollten wir ein Versprechen nicht mit einem Kontrollmechanismus verwechseln.

Wenn dasselbe Unternehmen das Modell entwickelt, die Grenze definiert, anschließend selbst prüft, ob sie überschritten wurde, die wirtschaftlichen Kosten eines Stopps tragen müsste und am Ende auch noch entscheidet, ob tatsächlich gestoppt wird, verlassen wir uns weiterhin auf freiwillige Selbstbeschränkung. Das funktioniert hervorragend, solange Sicherheitsinteressen und Geschäftsinteressen ungefähr dasselbe verlangen. Interessant wird es erst dann, wenn Verantwortung bedeutet, ein Produkt zu verschieben, einen Vorsprung aufzugeben, Milliarden abzuschreiben oder zuzusehen, wie ein Wettbewerber weiterzieht.

Ein wirklicher Sicherheitsmechanismus existiert dort, wo jemand eine Grenze auch dann durchsetzen kann, wenn das Unternehmen lieber weitermachen würde. Freiwillige Verantwortung ist willkommen. Aber Governance kann nicht darin bestehen, darauf zu hoffen, dass mächtige Institutionen sich dauerhaft selbst begrenzen. Zu versprechen, im Ernstfall aufzuhören, ist nicht dasselbe wie jemanden zu haben, der einen tatsächlich stoppen kann.