Diskriminierungsrisiken durch Verwendung von Algorithmen Buchkatalog

Algorithmen, unter anderem der künstlichen Intelligenz, werden in vielfältiger Weise für Differenzierungen von Personen, Diensten, Produkten, Positionen oder Handeln eingesetzt. Die vorliegende Studie zeigt anhand von Beispielfällen nicht nur technische und organisatorische Ursachen von Diskriminierungsmöglichkeiten, sondern vor allem auch die gesellschaftlichen Risiken auf. Sie rufen einen Bedarf nach Reformen des Antidiskriminierungs- und Datenschutzrechts hervor, aber ebenso gesellschaftliche Abwägungen und Festlegungen, welche algorithmen- und datenbasierten Differenzierungen in einer Gesellschaft überhaupt für akzeptabel gehalten werden. Nicht zuletzt werden Aufgaben für Antidiskriminierungsstellen diskutiert, die von der Identifizierung und dem Nachweis von algorithmenbasierten Diskriminierungen bis hin zu präventivem und kooperativem Vorgehen reichen.