Sicherheit darf nicht vom Charakter des CEOs abhängen

Erstaunlich viele Diskussionen über KI landen irgendwann bei der Persönlichkeit einzelner CEOs. Können wir diesem Menschen vertrauen? Meint jener Gründer seine Sorgen über Sicherheit wirklich ernst? Ist der eine verantwortungsvoller als der andere? Hat er gute Absichten? Ich verstehe, warum wir diese Fragen stellen. Wenn sehr wenige Menschen sehr viel Einfluss auf Technologien haben, deren Folgen sehr viele Menschen betreffen, wird ihr Charakter plötzlich auf unangenehme Weise relevant.

Nur ist genau das bereits ein Problem. Wir sollten nicht darauf angewiesen sein, dass an der Spitze eines KI-Unternehmens zufällig ein besonders weiser, zurückhaltender und moralisch einwandfreier Mensch sitzt. Lebensmittelsicherheit funktioniert auch nicht dadurch, dass wir auf die persönliche Abneigung eines CEOs gegen Salmonellen hoffen. Bei Flugzeugen verlassen wir uns nicht darauf, dass der Vorstand heute verantwortungsbewusst aufgewacht ist. Wir haben Regeln, unabhängige Kontrolle, Haftung und Institutionen gerade deshalb, weil wichtige Schutzmechanismen schlechte Entscheidungen, Personalwechsel und Interessenkonflikte überleben müssen.

Je größer die Macht einer Industrie wird, desto weniger darf Charakter ihr Sicherheitsmechanismus sein. Ein verantwortungsvoller CEO kann gehen. Ein vorsichtiger Gründer kann seine Meinung ändern. Investor*innen können den Druck erhöhen. Wirtschaftliche Bedingungen können sich verschieben. Gute Governance beginnt dort, wo wir keine guten Menschen an der Spitze mehr brauchen, damit das System funktioniert. Wenn die Sicherheit mächtiger Technologien von der persönlichen Tugend einiger weniger Führungskräfte abhängt, haben wir kein Sicherheitssystem. Wir haben Vertrauen.