Gegen digitale Diskriminierung 


Gegen digitale Diskriminierung 

Künstliche Intelligenz und Machine Learning gelten als große Innovation unserer Zeit. Ihre Algorithmen haben immer mehr Einfluss. Durch ein Ungleichgewicht an Daten können Algorithmen jedoch zu diskriminierenden Entscheidungen kommen, von denen vor allem Frauen und PoC betroffen sind. Diese Diskriminierung kann sich besonders negativ auswirken, wenn Algorithmen im Arbeitsleben zur Selektion von Stellenbewerbern oder Bestimmung unterschiedlicher Entgelte und Arbeitsbedingungen für Arbeitnehmende eingesetzt wird, aber auch bei Kreditscorings, differenzierten Versicherungen (z.B. Kraftfahrzeugversicherung) und im öffentlichen Bereich durch predictive policing. Dieser Diskriminierung wollen wir entgegenwirken. 

Aufklärung 

Vielen sind Diskriminierungen durch KI und Machine Learning nicht bekannt. Schlimmer: Wir halten gerade eine rein datenbasierte Entscheidung meistens noch für besonders neutral und objektiv und daher nicht für diskriminierend. Dabei wird häufig übersehen: Jede KI ist nur so gut wie die Daten, mit der man sie “füttert” und wie die Entwicklerinnen und Entwickler, die dahinterstehen. Trotz zurückgehender Tendenz einer häufigeren und längeren Nutzung des Internets durch männliche Personen, sind die aktuellen, gesammelten Daten voreingenommen und auch der Anteil der Entwicklerinnen und Entwicklern ist vorwiegend männlich dominiert. Hier sollte die Regierung durch eine Aufklärungskampagne auf das Problem aufmerksam machen. 

Prävention 

Entwicklerinnen und Entwickler sollen z.B. bei der Antidiskriminierungsstelle kostenlose Beratung zu Methoden und technischen Fragen rund um das Thema digitale Diskriminierung erhalten. Zusätzlich soll ein Fragebogen geschaffen werden der angibt, ob die KI Probleme hinsichtlich Diversität aufweist, ähnlich wie der „Quick scan of diversity“ aus Belgien. 

Durchsetzungsfähiges AGG durch Verbandsklagerecht 

Das Allgemeine Gleichbehandlungsgesetz (AGG) ist auf individuelle Rechtsdurchsetzung beschränkt. Durch die Einführung eines Verbandsklagerecht gegen Firmen und Unternehmen mit einem Jahresumsatz von über 10 Mio. € kann möglichen algorithmen-basierten Diskriminierungen und der schlechteren Wahrnehmbarkeit und Nachweisbarkeit entgegenwirken. Klageberechtigt könnten dabei Antidiskriminierungsverbände sein, wie sie heute schon in § 23 AGG definiert sind. 

Dokumentationspflicht 

Um Diskriminierungen durch algorithmengestützte Entscheidungen nachweisen zu können, fordern wir eine Dokumentationspflicht für Systeme mit künstlicher Intelligenz. Hierbei müssen die Funktionsweise, mögliche Maßnahmen um Diskriminierung zu verhindern und die im Training eingesetzten Daten hinterlegt sein. 

Testings 

Antidiskriminierungsstellen sollen auch verdachtsunabhängig stichprobenartig KI auf Diskriminierung testen. Hierzu müssen sie finanziell mit zusätzlichen Mitteln ausgestattet werden. 

Meldestellen 

Wir fordern die leichte Meldemöglichkeit bei Verdachtsfällen von Diskriminierung. 


 Gültigkeit: 5 Jahre


Antragsteller: Jennifer Kaiser-Steiner, Felix Meyer, Albrecht Dorsel-Kulpe, Roland Reif, Analena Wilhelm, Sam Batat, Luiza Sydorova, Kerry Aileen Hoppe, Acelya Aktas, Florian von Keller, Lea Skapetze, Christian Binder, Miriam Fehn, Max Hansen, Eva Rickert, Jannik Jürß, Franz Märtl, Tobias Weiskopf


Weitere Beschlüsse

Katastrophen im Bildungssystem? Ab jetzt nur noch als Übung!

Klimawandel, Extremwetterlagen und eine neue Bedrohungslage durch Autokraten: Der Zivil- und Katastrophenschutz gewinnt in der letzten Zeit immer größere Bedeutung....

Konsequente Aufarbeitung der Coronapolitik

Die Jungen Liberalen Bayern fordern die Einrichtung einer Enquete-Kommission im deutschen Bundestag, die sich mit den getroffenen Maßnahmen zur Bekämpfung...

Kein Geld für die Financiers des Terrors

Wir Junge Liberale Bayern fordern, dass der deutsche Staat und seine Institutionen  alle wirtschaftlichen und finanziellen Beziehungen zu Akteuren, die direkt...
Kategorien:
Filter Beschluss Organ
Mehr anzeigen