Algorithmen verstehen

In der vergangenen Woche ging die Meldung rum, dass Amazon eine Software programmiert hat, die bei der Bewerberauswahl helfen sollte. Dazu sollten die besten Kandidatinnen und Kandidaten dem Personaler besonders prominent vorgeschlagen werden. Stellte sich raus: Frauen wurden benachteiligt. Folgte der Aufschrei “Sexistische Algorithmen: Amazon ließ Künstliche Intelligenz Bewerber wählen – die gab Männern den Vorzug” (beispielhafter Link zu Meedia).

Da wir in Deutschland ja ernsthaft über sowas wie Algorithmen-Tüv diskutieren ist es aber wichtig, das Problem auch treffend zu benennen. Es geht eben nicht um einen sexistischen Algorithmus (und es wurden auch nicht Bewerber vom Algorithmus ausgewählt, sondern der menschliche Personaler unterstützt, aber das nur am Rande), sondern womöglich um einen ziemlich guten, fairen, tollen Algorithmus (kann man jetzt nicht nachprüfen). Gut möglich, dass er genau das gemacht hat, was er sollte: Nämlich so Bewerber auszuwählen, wie das die Amazon-Personalabteilung bisher mit ihrer ganzen Expertise auch gemacht hat.

Das Problem ist aller Wahrscheinlichkeit nach nicht der Algorithmus, den womöglich ein Tüv-Prüfer monatelang auf den Kopf stellen könnte (vorausgesetzt er könnte das, was ich persönlich bezweifle), ohne ein Fünkchen “Sexismus” zu finden. Es geht um die Daten, mit denen der Algorithmus gefüttert wurde. Und vermutlich geht es letztlich um die bisherige Einstellungspraxis bei Amazon, aber auch das wäre zu prüfen.

Wenn wir die notwendigen politischen und ethischen Debatten über neue Technologien wie Künstliche Intelligenz führen wollen (was dringend notwendig ist), dann setzt dies aber voraus, dass alle Beteiligten bereit sind, sich zumindest rudimentär mit den technologischen Grundlagen zu beschäftigen. Warum? Wer bei einer Debatte über die Zukunft von Jogi Löw vom ungerechtfertigten Sieben-Meter der Franzosen spricht und findet, dass er eben immer die falschen 13 Mann auf den Platz schickt, der hat sich nun mal als ernsthafter Diskussionsteilnehmer disqualifiziert.

Tags
#Algorithmen
Vorheriger Beitrag