Wenn Algorithmen die Wirklichkeit verzerren

Katharina Schüller räumt in ihrem Buch „Daten sind Macht“ mit der Illusion auf, dass Zahlen neutral sind und künstliche Intelligenz objektive Wahrheiten liefert. Die Statistikerin zeigt stattdessen, wie sehr jede Datenerhebung von menschlichen Entscheidungen geprägt ist. Und damit auch dazu genutzt werden kann, eine Realität zu konstruieren. Es hat Gründe, dass die Trump-Regierung vorschlägt, das Bruttoinlandsprodukt neu zu berechnen. Denn wer die neuen Grundlagen vergisst und nicht hinterfragt, sieht eine USA, die wirtschaftlich gesünder scheint, als sie ist. Daten sind ein Machtinstrument.

Wechselnde Ansätze

Das Buch scheint mir zwischen zwei Ansätzen zu oszillieren. Mal ist es ein Managementratgeber für Führungskräfte. Dann könnten die Lesenden in ein Statistikseminar geraten sein. Dieser wechselnde Fokus führt gelegentlich zu Längen. 

Es kommt aber auch die Kernbotschaft an: Ohne Datenkompetenz sind wir anfällig für Manipulation. Geschönte Wirtschaftsstatistiken sind nur eine Erscheinungsform. Algorithmen, die diskriminierend arbeiten, eine andere.

Zwischen Teilhabe und Diskriminierung

Die Janusköpfigkeit künstlicher Intelligenz zeigt die Autorin besonders eindrücklich. So kann KI Menschen mit Behinderung unterstützen oder weltweiten Zugang zu Bildung ermöglichen. Andererseits reproduziert sie unter Umständen auch Vorurteile, wie das Beispiel von Recruiting-Algorithmen belegt, die systematisch männliche Bewerber bevorzugten. Schüller plädiert deshalb für ethische Leitlinien, psychologische Sicherheit in Organisationen und vor allem für eine kritische Grundhaltung gegenüber vermeintlich objektiven Zahlen. 

Management-Journal-Fazit: Eine wertvolle Lektüre für alle, die KI reflektiert nutzen möchten – trotz gelegentlicher Redundanzen.

Stephan Lamprecht