Das Problem mit Schwellenwerten

In Safety Frameworks für KI tauchen immer häufiger Schwellenwerte auf. Wenn ein Modell eine bestimmte Fähigkeit erreicht oder ein Risiko eine definierte Grenze überschreitet, müssen zusätzliche Sicherheitsmaßnahmen greifen oder die Entwicklung wird gestoppt. Das wirkt angenehm objektiv. Sobald genügend Zahlen, Wahrscheinlichkeiten und Kategorien auf einer Seite stehen, sieht ein ziemlich unordentliches gesellschaftliches Problem plötzlich aus wie eine technische Aufgabe mit einer richtigen Lösung.

Nur ist die entscheidende Frage hinter einem Risikoschwellenwert keine mathematische. Irgendjemand muss festlegen, wie viel Risiko akzeptabel ist. Ein Prozent Wahrscheinlichkeit kann sehr klein aussehen, solange man nicht zu den Menschen gehört, die mit den Folgen leben müssen. Gleichzeitig kann die Person, die dieses Risiko bewertet, Milliarden darin investiert haben, dass es weitergeht. Risiko hat deshalb nicht nur eine Wahrscheinlichkeit, sondern auch eine Verteilung: Wer profitiert davon, wenn wir weitermachen? Wer trägt den Schaden, wenn wir falschliegen? Und wer darf entscheiden, dass dieses Verhältnis akzeptabel ist?

Zahlen können uns helfen, Risiken besser zu verstehen. Sie können uns die politische Entscheidung dahinter aber nicht abnehmen. Unter jedem scheinbar objektiven Schwellenwert steckt irgendwann ein Urteil darüber, was wir für welchen möglichen Gewinn aufs Spiel setzen wollen und wer dieses „wir" eigentlich ist. Risikoschwellen sehen mathematisch aus. Zu entscheiden, mit welchem Risiko andere Menschen leben müssen, ist Politik.