KI – das richtige Werkzeug in den falschen Händen, etwa staatliche Behörden mit hoheitlichen Aufgaben

Frauen, Menschen mit ausländischem Hintergrund, die unter dem Medianeinkommen liegen und keinen Hochschulabschluss haben, sind in den Hochrisikoprognosen des staatlichen Modells der Schweden überrepräsentiert.

Schweden. Das Land in dem alle nett sind und das Leben voller Gleichberechtigung, Freiheit und Transparenz höchste demokratische Weihen erreicht hat, nicht? Der Sozialstaat par excellence! Nein, leider nicht. Denn auch dort versuchen Menschen den fragwürdigen Einsatz von maschinellem Lernen (neuerdings unter dem Label KI bekannt) zu nutzen, um Vorhersagen zu treffen, die, gelinde gesagt, auf mangelndes Verständnis oder strategische Ignoranz schließen lassen. Vor allem wenn es um den Zusammenhang von Wahrscheinlichkeitsmodellen und Realität geht. Ein Missverhältnis, das im (Hochfrequenz-)Handel mit Aktien mehr oder weniger zufällig extreme Verluste und Gewinne beschert, teilweise mit enormen wirtschaftlichen und in der Folge gesellschaftlichen Auswirkungen. Denn wenn Millionäre und Milliardäre weniger Gewinn als im Jahr zuvor erleiden, lassen sie den Frust über ihre eigene Massenmedien an vulnerablen Gruppen aus und finden allzu oft Stammtischgeschwister im Geiste, die sich auch sehr gern als zu kurz gekommen erleben. Da sind die extremen Ränder der Gesellschaft oft in Querfront. Leider ist das Problem automatisierter Statistik (maschinelles Lernen) aber zunehmend existentiell für den Rest der Bevölkerung (die breite Mitte), wenn es darum geht, in Aktenbergen der Verwaltungen möglichen Betrügereien von Antragstellern auf die Schliche zu kommen, z.B. beim Elterngeld. Hellhörig sollte man werden, wenn die entscheidenden Kriterien für Betrugsverhalten ein bestimmtes Geschlecht oder eine unschwedische Herkunft sind.  Fairness und automatisierte Inferenzstatistik à la KI? Wie soll das gehen? Nun, die Schweden zeigen vor allem, wie es nicht geht – in jeder Hinsicht. Hantieren unerfahrene Kinder oder unwillige Ignoranten mit hoheitlichen Aufgaben?

Weiterlesen

Künstliche Intelligenz und Gesellschaft: KI-Angst und KI-Kompetenz

Technologie: Tanzpartner oder Bedrohung?
Technologie: Tanzpartner oder Bedrohung? Quelle: Dall-E, CC BY 4.0

Angesichts des aktuell überzogenen Hypes um künstliche Intelligenz auf der einen Seite und unbestreitbarem Nutzen in der Wissenschaft und Wirtschaft verursacht allein die Abkürzung KI bei vielen Menschen Angst. Doch neben Befürchtungen vor Arbeitsplatzverlust oder gesellschaftlichen Risiken in einigen Teilen der Bevölkerung ist bei Firmen eine ganz andere Angst entstanden: Können unsere Mitarbeitenden KI überhaupt präzise bewerten oder gar einsetzen? Neue Technologien auf Risiken und Chancen abzuklopfen, erfordert objektive und subjektive Kriterien. Die psychologische Forschung zu wahrgenommenen KI-Ängsten und KI-Kompetenzen ist noch jung, aber sehr aktiv. Wir werfen einen Blick unter die Motorhaube der aktuellen Wirkungsforschung rund um KI: Denn Bildungsverantwortliche, Personaler (HR) sowie medialer und gesellschaftlicher Diskurs brauchen feste Fundamente unter die KI-Diskussionen. Hoffen wir, dass mithilfe dieser Fragebögen die Abteilungsmeetings und Talk-Shows künftig ein bisschen näher an die Realität heranrücken…

Weiterlesen

Synthetische Psychologie, um künstliche Intelligenz & Robotik und den menschlichen Umgang damit zu erforschen

Umfrage: Was ist künstliche Intelligenz?
Quelle: Pegasystems (2017) – click to enlarge –

Intelligente Maschinen (KI und Roboter) können nicht mehr allein als Produkte der Technik, Mathematik und der Informatik betrachtet werden. Denn sie stellen eine neue Klasse von (gesellschaftlichen) Akteuren mit eigenen Verhaltensweisen und einem eigenen Ökosystem mit hoher kultureller Relevanz dar. Im Umgang mit Menschen sollte dabei deren maschinelles Verhalten beschrieben, erklärt und möglichst vorhersagbar werden. Der finale Entwurf der europäischen KI-Verordnung (AI-Act) hat mit seinen verschiedenen Risikoklassen für Aufsehen gesorgt. Das Bewerten solcher Risiken kann nur erfolgen, wenn es als synthetisches Verhalten verstanden und überprüfbar wird. Denn künstliche neuronale Netze im maschinellen Lernen realisieren Informationsverarbeitung auf Basis unseres Verständnisses von Hirnleistungen. Wir bauen (synthetisieren) Denkvorgänge nach. Dabei wird eine neue Disziplin helfen, die man synthetische Psychologie taufen sollte. Denn Kognition (geistige Verarbeitung und Steuerung) passiert jetzt mehr nicht nur im menschlichen Gehirn: Da Software nunmehr in der Lage ist, (Sinnes-)Daten zu verarbeiten, zu gewichten und nach einer Zielvorgabe einzuordnen, sogar Entscheidungen zu fällen oder zumindest vorzubereiten. Die Frage ist nur: Wie, mit welchem Training und was sind erwünschte Ziele und unerwünschte Effekte??

Weiterlesen

Fräulein KI, zum Diktat! Wie präzise und sensibel reagieren die drei bekanntesten KI-Schreibhelfer

Schreibmaschine Drei neue intelligente Schreibautomaten haben vor kurzem das Licht der medialen Öffentlichkeit erblickt. Und schon erobert generative künstliche Intelligenz viele Büros, Klassenzimmer und Redaktionen. Was können die Lösungen? Wie gehen sie mit strittigen Fragen um? Ein Vergleich dreier KI-Helfer, die jedermann zum Schreiben von Bewerbungen, Hausaufgaben oder Texten für die eigene Website nutzen kann.

Weiterlesen

3 Test-Tools, um Texte auf KI-Herkunft zu untersuchen

Seit Ende 2022 sind einige generative KI-Werkzeuge (Schreibautomaten) für die Öffentlichkeit zugänglich wie etwa ChatGPT oder Aleph Alpha. Lehrende oder Personaler würden gerne testen, ob eingereichte Dokumente Inhalte enthalten, die KI erstellt hat. Jetzt gibt es dazu Helferlein: Englische KI-Texte werden mit den drei getesteten Tools gut erkannt, deutsche Texte sind nur bei zweien nutzbar. Ein Werkzeug liefert schon ganz brauchbare Ergebnisse.

Weiterlesen

KI und Arbeitswelt: Kooperation mit künftiger Intelligenz?

Diskussionen um KI sind bemüht, Nutzen und menschliche Vorurteile in Einklang zu bringen. Die Analyse medizinischer Bilddateien erreicht hohe Erkennungsraten und ist oft besser als erfahrene Diagnostiker. Aber beim Auswerten von Lebensläufen für Personaler und die Anreicherung mit Inhalten über Bewerber aus Profilen sozialer Medien ist für viele Schluss mit der Akzeptanz automatisierter Zuarbeit durch Software.

Weiterlesen