Gegen digitale Diskriminierung
Künstliche Intelligenz und Machine Learning gelten als große Innovation unserer Zeit. Ihre Algorithmen haben immer mehr Einfluss. Durch ein Ungleichgewicht an Daten können Algorithmen jedoch zu diskriminierenden Entscheidungen kommen, von denen vor allem Frauen und PoC betroffen sind. Diese Diskriminierung kann sich besonders negativ auswirken, wenn Algorithmen im Arbeitsleben zur Selektion von Stellenbewerbern oder Bestimmung unterschiedlicher Entgelte und Arbeitsbedingungen für Arbeitnehmende eingesetzt wird, aber auch bei Kreditscorings, differenzierten Versicherungen (z.B. Kraftfahrzeugversicherung) und im öffentlichen Bereich durch predictive policing. Dieser Diskriminierung wollen wir entgegenwirken.
Aufklärung
Vielen sind Diskriminierungen durch KI und Machine Learning nicht bekannt. Schlimmer: Wir halten gerade eine rein datenbasierte Entscheidung meistens noch für besonders neutral und objektiv und daher nicht für diskriminierend. Dabei wird häufig übersehen: Jede KI ist nur so gut wie die Daten, mit der man sie “füttert” und wie die Entwicklerinnen und Entwickler, die dahinterstehen. Trotz zurückgehender Tendenz einer häufigeren und längeren Nutzung des Internets durch männliche Personen, sind die aktuellen, gesammelten Daten voreingenommen und auch der Anteil der Entwicklerinnen und Entwicklern ist vorwiegend männlich dominiert. Hier sollte die Regierung durch eine Aufklärungskampagne auf das Problem aufmerksam machen.
Prävention
Entwicklerinnen und Entwickler sollen z.B. bei der Antidiskriminierungsstelle kostenlose Beratung zu Methoden und technischen Fragen rund um das Thema digitale Diskriminierung erhalten. Zusätzlich soll ein Fragebogen geschaffen werden der angibt, ob die KI Probleme hinsichtlich Diversität aufweist, ähnlich wie der „Quick scan of diversity“ aus Belgien.
Durchsetzungsfähiges AGG durch Verbandsklagerecht
Das Allgemeine Gleichbehandlungsgesetz (AGG) ist auf individuelle Rechtsdurchsetzung beschränkt. Durch die Einführung eines Verbandsklagerecht gegen Firmen und Unternehmen mit einem Jahresumsatz von über 10 Mio. € kann möglichen algorithmen-basierten Diskriminierungen und der schlechteren Wahrnehmbarkeit und Nachweisbarkeit entgegenwirken. Klageberechtigt könnten dabei Antidiskriminierungsverbände sein, wie sie heute schon in § 23 AGG definiert sind.
Dokumentationspflicht
Um Diskriminierungen durch algorithmengestützte Entscheidungen nachweisen zu können, fordern wir eine Dokumentationspflicht für Systeme mit künstlicher Intelligenz. Hierbei müssen die Funktionsweise, mögliche Maßnahmen um Diskriminierung zu verhindern und die im Training eingesetzten Daten hinterlegt sein.
Testings
Antidiskriminierungsstellen sollen auch verdachtsunabhängig stichprobenartig KI auf Diskriminierung testen. Hierzu müssen sie finanziell mit zusätzlichen Mitteln ausgestattet werden.
Meldestellen
Wir fordern die leichte Meldemöglichkeit bei Verdachtsfällen von Diskriminierung.
Gültigkeit: 5 Jahre
Antragsteller: Jennifer Kaiser-Steiner, Felix Meyer, Albrecht Dorsel-Kulpe, Roland Reif, Analena Wilhelm, Sam Batat, Luiza Sydorova, Kerry Aileen Hoppe, Acelya Aktas, Florian von Keller, Lea Skapetze, Christian Binder, Miriam Fehn, Max Hansen, Eva Rickert, Jannik Jürß, Franz Märtl, Tobias Weiskopf