Am Weltfrauentag wurde deutlich, dass automatisierte Systeme bestehende gesellschaftliche Ungleichheiten nicht nur reproduzieren, sondern digital verstärken. Juristinnen der djb-Kanzlei beschreiben, wie KI-gestützte Recruiting-Algorithmen, Kreditwürdigkeitsprüfungen und Scoring-Verfahren Frauen systematisch schlechter bewerten. Der Kern des Problems liegt in verzerrten historischen Trainingsdaten, einem Mangel an Diversität in den Entwicklungsteams und unklaren Haftungsregeln. Ohne transparente Vorgaben und geschlechtersensible Regulierung bleibt die Gefahr, dass Millionen von Menschen – insbesondere Frauen – durch algorithmische Entscheidungen benachteiligt werden.
Gender-Data-Gap als Ursache von KI-Diskriminierung
Der Gender-Data-Gap bezeichnet die systematische Unterrepräsentation von Frauen in wissenschaftlichen Studien und Datensätzen. Laut den vorliegenden Daten ist die Frauenrepräsentation in Trainingsdaten 2026 durchweg unterrepräsentiert – sei es in medizinischen Daten, Gehaltsstatistiken oder historischen Bewerbungsunterlagen. Wenn KI-Systeme mit solchen Daten trainiert werden, lernen sie, Frauen schlechter zu bewerten, weil ihre Besonderheiten kaum abgebildet werden. Ein konkretes Beispiel aus den Quellen zeigt, dass 100 % der Frauen im Alter von 29-35 Jahren von einem KI-basierten Bewerbungs-Screening aussortiert werden.
Mangelnde Vielfalt in KI-Entwicklungsteams verstärkt den Bias
Ein zweiter struktureller Mangel ist die geringe Beteiligung von Frauen und nicht-binären Personen in KI-Entwicklungsteams. Der Frauenanteil in Tech- und KI-Positionen ist 2026 unterrepräsentiert, insbesondere in Führungs- und Forschungsrollen. Ohne diverse Perspektiven bleiben problematische Annahmen – etwa die Vorstellung, dass Frauen im gebärfähigen Alter keine stabilen Mitarbeiter seien – unkritisch. Diese fehlende Diversität verhindert, dass geschlechtsspezifische Verzerrungen frühzeitig erkannt und korrigiert werden.
Rechtliche Unsicherheiten bei KI-Diskriminierung
Das Allgemeine Gleichbehandlungsgesetz (AGG) verbietet Diskriminierung, ist jedoch nicht auf algorithmische Entscheidungen zugeschnitten. Die Haftungsfrage bleibt unklar: Wer haftet, wenn eine KI diskriminiert? Entwickler, Arbeitgeber oder beide? Die Quellen zeigen, dass die Haftungsklarheit für KI-Diskriminierung 2026 nicht eindeutig geklärt ist. Die EU-KI-Verordnung und die Datenschutz-Grundverordnung (DSGVO) bieten zwar Transparenz- und Risikoanalyse-Pflichten, aber konkrete Regeln zu geschlechtsspezifischen Auswirkungen fehlen.
Deepfakes und sexualisierte Gewalt durch KI
Neben wirtschaftlicher Diskriminierung eröffnet KI neue Formen der sexualisierten Gewalt. Nicht-konsensuale Deepfakes erzeugen pornografische Inhalte, in denen überwiegend Frauen zu Zielobjekten werden. Der spezifische Deepfake-Schutz in der EU-KI-Verordnung ist nicht vorhanden. Diese Lücke zeigt, dass KI nicht nur im Arbeitsmarkt, sondern auch im privaten Bereich Frauen bedroht.
Ansätze für geschlechtersensible KI-Regulierung
Experten fordern eine umfassende, geschlechtersensible Regulierung von KI-Systemen. Kernpunkte sind:
- Verpflichtende Gender-Impact-Assessments für neue KI-Anwendungen.
- Transparenz- und Testpflichten, die geschlechtsspezifische Auswirkungen explizit prüfen.
- Klare Haftungsregeln, die Entwickler und Anwender gleichermaßen in die Verantwortung nehmen.
- Verbesserte Datenbasis: mehr und diversere Trainingsdaten, die Frauen angemessen repräsentieren.
- Erhöhung des Frauenanteils in KI-Entwicklungsteams, insbesondere in Führungs- und Forschungspositionen.
Durch diese Maßnahmen soll das Problem nicht nur technisch, sondern auch sozialwissenschaftlich angegangen werden.
Kritische Gegenargumente und deren Bewertung
Einige Stimmen betonen, dass KI Diskriminierung reduzieren könne, wenn sie richtig gestaltet sei. Technische Lösungen wie Bias-Detection-Tools werden jedoch als unzureichend kritisiert, weil das Problem primär in strukturellen Daten- und Organisationsmängeln verwurzelt ist. Transparenzanforderungen könnten zudem die Wettbewerbsfähigkeit von Unternehmen gefährden – ein Spannungsfeld zwischen wirtschaftlichen Interessen und dem Schutz von Frauenrechten.
Praxisbeispiele vom Weltfrauentag
Am Weltfrauentag kritisierten die djb-Juristinnen Saskia Ostendorff, Chiara Streitbörger, Alexandra Lorch und Jacqueline Sittig in einem LTO-Beitrag, dass automatisierte Systeme bestehende Ungleichheiten fortschreiben. Rechtsprofessorin Anna Katharina Mangold wies in beck-aktuell auf die anhaltende Gefahr sexueller und partnerschaftlicher Gewalt hin und forderte stärkere staatliche Schutzpflichten. Rechtsanwältin Sandra Runge zeigte in LTO, dass das Mutterschutzgesetz in der betrieblichen Praxis häufig nicht wirksam umgesetzt wird. Diese Beispiele verdeutlichen, dass Diskriminierung durch KI nicht isoliert, sondern Teil eines breiteren gesellschaftlichen Kontextes ist.
Fazit
KI ist kein neutraler Technologie-Messer, sondern ein Spiegel patriarchaler Strukturen, die durch den Gender-Data-Gap, fehlende Vielfalt in Entwicklungsteams und rechtliche Lücken verstärkt werden. Ohne gezielte Maßnahmen – bessere Daten, diversere Teams, klare Haftungsregeln und geschlechtersensible Regulierung – riskieren wir, dass digitale Systeme bestehende Ungleichheiten nicht nur reproduzieren, sondern weiter vertiefen. Der Weltfrauentag hat gezeigt, dass sowohl die Wissenschaft als auch die Rechtspraxis dringend Handlungsbedarf erkennen. Nur ein ganzheitlicher Ansatz kann sicherstellen, dass KI zu einem Werkzeug für Gleichstellung und nicht zu einem Verstärker von Diskriminierung wird.