Die Digitalisierung verändert unsere Gesellschaft tiefgreifend – sie eröffnet neue Chancen für Teilhabe, Bildung und Arbeit. Gleichzeitig besteht die Gefahr, dass bestehende Ungleichheiten verstärkt werden. Zudem betrifft digitale Gewalt in Form von Hass im Netz, Cyberstalking, dem Verbreiten von Deepfakes, Cybermobbing und Cybergrooming Frauen überdurchschnittlich häufig. Das Sozialministerium setzt sich daher dafür ein, Gleichstellung und Digitalisierung konsequent zusammenzudenken.
Eine gerechte digitale Transformation braucht gleiche Zugänge, faire Chancen und Vielfalt in der Gestaltung. Gleichzeitig muss digitale Gewalt im Netz, die sich überwiegend gegen Frauen richtet, konsequent angegangen und verfolgt werden. Frauen und Männer sollen gleichermaßen von digitalen Entwicklungen profitieren und diese aktiv mitgestalten können – ob im Beruf oder im Alltag.
Deshalb ist der Themenbereich auch ein Schwerpunkt der ersten ressortübergreifenden Gleichstellungsstrategie. Das Sozialministerium fördert bislang Vorhaben mit einem Fokus auf Hass im Netz und Antifeminismus, digitale Gewalt im sozialen Nahraum, sowie der Erforschung des Gender Data Gap im Bereich der Künstlichen Intelligenz.
Forschungsprojekt D-SAFE: Digitaler Gewaltschutz im Arbeitsumfeld
Im digitalen Zeitalter verlagert sich Gewalt zunehmend in virtuelle Räume – oft unsichtbar, aber mit realen Folgen. Besonders Frauen sowie trans-, nicht-binäre und queere Menschen sind von digitaler Gewalt wie Deepfakes, Hassrede oder algorithmischer Diskriminierung betroffen. Genau hier setzt das Forschungsprojekt D-SAFE („Digitaler Gewaltschutz im Arbeitsumfeld: Entwicklung von Strategien zur Bekämpfung struktureller und algorithmischer Diskriminierung durch digitale Technologien“) am Karlsruher Institut für Technologie an. Unter der Leitung von Prof. Dr. Petra Nieken untersucht das Projekt, wie digitale Technologien und KI-gestützte Systeme Diskriminierung im Arbeitsumfeld verstärken oder sichtbar machen können. Besonders relevant ist dies im Kontext automatisierter HR-Systeme, die zunehmend Entscheidungen über Bewerbungen, Bewertungen oder Karrierewege beeinflussen.
Ziel von D-SAFE ist es, digitale Gewalt und algorithmische Verzerrungen wissenschaftlich zu analysieren und zu untersuchen, welche Schutz- und Interventionsstrategien wirksam sind . Mithilfe empirischer Studien wird erforscht, wie Beschäftigte digitale Gewalt wahrnehmen, wie sie darauf reagieren und welche Maßnahmen tatsächlich helfen. Ein besonderer Fokus liegt auf dem Gender Data Gap und der Frage, wie stereotype Trainingsdaten und intransparente KI-Modelle bestehende Ungleichheiten reproduzieren können.
Herzstück des Projekts wird der öffentlich zugängliche digitale Trainings-Hub D-SAFE sein. Dieser soll Bürgerinnen und Bürger, Unternehmen sowie Institutionen praxisnah sensibilisieren und aufzeigen, wie algorithmische Diskriminierung erkannt und digitale Gewalt wirksam adressiert werden kann.
GesellschaftsReport BW: Wie Künstliche Intelligenz Gleichstellung prägt
Die aktuelle Ausgabe der Berichtsreihe „GesellschaftsReport BW“, die im Auftrag des Ministeriums für Soziales, Gesundheit und Integration Baden-Württemberg von der FamilienForschung Baden-Württemberg verfasst wird, widmet sich der Frage, wie Künstliche Intelligenz (KI) Gleichstellung in Baden-Württemberg prägt.
Die rasante Entwicklung generativer Künstlicher Intelligenz markiert einen tiefgreifenden gesellschaftlichen Wandel. Sie verändert, wie wir arbeiten, lernen und kommunizieren – und beeinflusst zunehmend auch Fragen der Gleichstellung von Frauen und Männern. Der GesellschaftsReport BW 2-2025: Zwischen Fortschritt und Vorurteil: Wie Künstliche Intelligenz Gleichstellung in Baden-Württemberg prägt (PDF) zeigt: KI kann Diskriminierung reproduzieren, aber auch zu mehr Chancengleichheit beitragen, wenn sie verantwortungsvoll gestaltet wird.