Das Recht, schwierig zu sein

Automatisierte Systeme mögen Menschen, die passen. Vollständige Datensätze, erkennbare Muster, Standardfälle, vorhersehbare Bedürfnisse. Institutionen mögen solche Menschen ebenfalls, denn Standardfälle lassen sich wunderbar skalieren. Schwierig wird der Mensch, dessen Leben nicht ins Dropdown passt. Dessen tatsächliche Situation den vorhandenen Daten widerspricht. Der eine Ausnahme braucht, Kontext erklären möchte, für den niemand ein Feld vorgesehen hat, oder darauf besteht, dass die technisch korrekte Kategorie trotzdem falsch ist.

Je mehr Entscheidungen automatisiert oder durch KI vorbereitet werden, desto weniger werden Transparenz und Datenschutz allein reichen. Wir brauchen ein Recht darauf, schwierig zu sein. Einen Menschen verlangen zu dürfen. Einer Schlussfolgerung zu widersprechen. Eine Kategorie abzulehnen. Kontext nachzuliefern. Eine Entscheidung anzufechten. Mehr Zeit zu beanspruchen, als der optimierte Prozess für uns vorgesehen hat. Nicht weil jeder Einzelfall automatisch recht hat, sondern weil ein Modell der Wirklichkeit nicht dadurch zur Wirklichkeit wird, dass es sich hervorragend skalieren lässt.

Ein menschliches System braucht einen Ort für die Ausnahme. Ein demokratisches System muss zusätzlich zulassen, dass die Ausnahme die Regel infrage stellt. Effizienz möchte den komplizierten Menschen für das System lesbar machen. Rechte verlangen manchmal das Gegenteil: Das System muss sich vor dem komplizierten Menschen rechtfertigen. Das Recht, schwierig zu sein, ist deshalb keine lästige Sonderregelung für Edge Cases. Es verhindert, dass Menschen im eigenen Leben zum Edge Case werden.