Angriff der Algorithmen

Weapons of Math Destruction: Wie Algorithmen die Gesellschaft bedrohen

Cathy O'Neils Weapons of Math Destruction (2016) ist eine kritische Analyse darüber, wie Big-Data-Algorithmen gesellschaftlichen Schaden anrichten können. Als ehemalige Wall-Street-Mathematikerin zeigt O'Neil auf, wie scheinbar objektive mathematische Modelle zu "Waffen der Mathe-Zerstörung" werden.

Was sind Weapons of Math Destruction (WMDs)?

WMDs sind Algorithmen mit drei gefährlichen Eigenschaften:

• Große Reichweite: Betreffen Millionen von Menschen oder wichtige Entscheidungen
• Undurchsichtigkeit: Funktionsweise ist geheim und nicht nachvollziehbar
• Schädliche Auswirkungen: Verstärken Ungleichheit und benachteiligen Schwächere

Problembereiche

Bildung: Lehrer-Bewertungsalgorithmen führen zu unfairen Kündigungen und fördern Betrug

Polizei & Justiz: Predictive Policing verstärkt Vorurteile gegen Minderheiten und arme Viertel

Finanzen: Kreditscoring und Versicherungsalgorithmen bestrafen Armut zusätzlich

Arbeitsmarkt: Persönlichkeitstests und Hintergrundprüfungen schließen qualifizierte Bewerber aus

Politik & Medien: Social-Media-Algorithmen manipulieren Wahlen und schaffen Filterblasen

Kernproblem

Algorithmen kodifizieren vergangene Ungerechtigkeiten und verstärken sie, anstatt Fairness zu schaffen. Sie treffen oft die Schwächsten der Gesellschaft, während Privilegierte menschliche Entscheidungsträger haben.

O'Neil fordert Transparenz, Regulierung und ethische Standards für Algorithmen, um sicherzustellen, dass Mathematik der Menschheit dient, anstatt sie zu schädigen.