KI – das richtige Werkzeug in den falschen Händen, etwa staatliche Behörden mit hoheitlichen Aufgaben

Frauen, Menschen mit ausländischem Hintergrund, die unter dem Medianeinkommen liegen und keinen Hochschulabschluss haben, sind in den Hochrisikoprognosen des staatlichen Modells der Schweden überrepräsentiert.

Schweden. Das Land in dem alle nett sind und das Leben voller Gleichberechtigung, Freiheit und Transparenz höchste demokratische Weihen erreicht hat, nicht? Der Sozialstaat par excellence! Nein, leider nicht. Denn auch dort versuchen Menschen den fragwürdigen Einsatz von maschinellem Lernen (neuerdings unter dem Label KI bekannt) zu nutzen, um Vorhersagen zu treffen, die, gelinde gesagt, auf mangelndes Verständnis oder strategische Ignoranz schließen lassen. Vor allem wenn es um den Zusammenhang von Wahrscheinlichkeitsmodellen und Realität geht. Ein Missverhältnis, das im Handel mit Aktien zufällig extreme Verluste und Gewinne beschert, teilweise mit enormen wirtschaftlichen Auswirkungen. Wenn nur Millionäre und Milliardäre betroffen sind, lehnt sich die Gesellschaft zurück. Leider ist das Problem aber zunehmend existentiell für weite Teile der Bevölkerung, wenn es darum geht, in Aktenbergen der Verwaltungen möglichen Betrügereien von Antragstellern auf die Schliche zu kommen, z.B. beim Elterngeld. Hellhörig sollte man werden, wenn die entscheidenden Kriterien für Betrugsverhalten ein bestimmtes Geschlecht oder eine unschwedische Herkunft sind.  Fairness und automatisierte Inferenzstatistik à la KI? Wie soll das gehen? Nun, die Schweden zeigen vor allem, wie es nicht – geht in jeder denkbaren Hinsicht. Offenbar hantieren unbedarfte Kinder oder böswillige Ignoranten mit hoheitlichen Aufgaben…

Weiterlesen