Algorithmic Discrimination

Algorithmen sind heute zentraler Gegenstand des modernen Lebens.  Diese von Menschenhand programmierten Werkzeuge unterliegen Vorurteilen, wie die Arbeit von (Sweeney 2013) hinsichtlich der Suchmaschinen zeigt.

Eine besondere Herausforderung für die Politik besteht in der Regulierung der algorithmischen Diskriminierung (AD), was sich exemplarisch in dem Urteil des Europäischen Gerichtshof (EuGH) aus dem Jahr 2011 zeigt. Durch die verbindliche Geschlechterneutralität bei der Erfassung von Daten zur Krankenversicherung wurde ein Preisanstieg für männliche Kunden induziert. Durch diesen Umstand entsteht ein gesellschaftlicher Wohlfahrtsverlust.

Zudem erschweren eine mangelnde Transparenz der Marktstrukturen und der Preisbildungsprozesse die Nachvollziehbarkeit für Konsumenten auf diesen Online-Plattformen.

Daraus ergibt sich die Problemstellung für politische Entscheidungsträger ob oder in wie weit eine Marktintervention sinnhaft ist, um effiziente Marktpreisbildungsprozesse im Sinne der Gesellschaft zu ermöglichen. Zielsetzung dieses Forschungsvorhabens ist das Auftreten von algorithmischer Diskriminierung mittels einer datengetriebene Analyse zu untersuchen und so geeignete Handlungsempfehlungen für Politik und Wirtschaft abzuleiten.

Vor diesem Hintergrund widmet sich die Forschungsgruppe „Algorithmische Diskriminierung“, zu denen auch die Mitarbeiter Benjamin Abdel-Karim und Nicolas Pfeuffer zählen, den folgenden Forschungsfragen:

·        Ist AD durch Nutzer ersichtlich?

·        Lässt sich AD anhand von Indikatoren automatisiert erkennen?

·        Findet die Preisversetzung beim Intermediär oder beim Anbieter statt?

·        Welche Faktoren nehmen Einfluss auf den Preisbildungsprozess?

Die Forschungsmethodik umfasst dabei eine Datenerhebung, Methoden der Simulation, sowie die Analyse der ermittelten Daten mittels empirischer Forschungsmethoden der Ökonometrie, Statistik und Methoden des statistischen Lernens um die genannten Forschungsfragen zu beantworten und aus den Ergebnissen Handlungsempfehlungen für Politik und Wirtschaft abzuleiten.