Menue-Button
← FACHDEBATTE
Interview03.05.2023

Diskriminierungen wirksam begegnen

Geschlechter müssen für Datenerfassung und -verarbeitung sichtbar sein

Prof. Dr. Nicola Marsden, Inhaberin der Forschungsprofessur für Sozioinformatik an der Hochschule Heilbronn Quelle: Monika Pröbster Prof. Dr. Nicola Marsden Forschungsprofessur für Sozioinformatik, stellvertretende Vorsitzende des Kompetenzzentrums Technik-Diversity-Chancengleichheit Hochschule Heilbronn
INITIATOR DIESER FACHDEBATTE
Uwe Rempe
Freier Journalist
Meinungsbarometer.info
ZUR FACHDEBATTE

"Richtig gestaltet, erweitern KI-Systeme unsere Möglichkeiten, eine diskriminierungsfreie und geschlechtergerechtere Welt zu schaffen", sagt Prof. Dr. Nicola Marsden, Inhaberin der Forschungsprofessur für Sozioinformatik an der Hochschule Heilbronn und  stellvertretende Vorsitzende des Kompetenzzentrums Technik-Diversity-Chancengleichheit. Und sie erklärt, wie das idealerweise umgesetzt werden kann.





Inwieweit ist eine gendergerechte KI, sind intelligent programmierte und gendersensitive Algorithmen für Sie ein praktisch relevantes Problem?
Das ein absolut praktisch relevantes Problem, da KI und Algorithmen in immer mehr Bereichen unseres Lebens zum Einsatz kommen. In unserer Gesellschaft geschieht Geschlechterdiskriminierung meist unbewusst: Wir tragen tradierte Geschlechtervorstellungen in uns, die im Alltag wirksam werden, ohne dass wir dies intendieren. Das sieht man zum Beispiel daran, dass Gründerinnen eher nach den Risiken ihres Vorhabens gefragt werden, Gründer hingegen eher nach den Potenzialen. Oder wenn Männern technische Kompetenz qua Geschlecht zugesprochen wird, während Frauen sie zuerst und dann immer wieder aufs Neue beweisen müssen. Wenn algorithmische Systeme nun aus den Daten der Vergangenheit lernen, dann besteht die Gefahr, dass wir genau diese Verzerrungen perpetuieren, was sich beim Einsatz von KI im Recruitmentprozess auch schon gezeigt hat. Dabei haben wir die Chance, in allen Phasen der Gestaltung – der Datenerhebung, der Modellbildung, der Nutzenden-Interaktion – gezielt darauf hinzuwirken, dass die menschlichen Biases eben nicht zum Tragen kommen, sondern wir tatsächlich faire und gendergerechte KI schaffen.

JETZT HERUNTERLADEN

DIE DOKUMENTATION DIESER FACHDEBATTE

DIE DOKUMENTATION ENTHÄLT

alle Debattenbeiträge ungekürzt im Original
Übersicht aller aktiven Debattenteilnehmer
Summary für Ihr Top-Management
MEHR ERFAHREN


In welchen Bereichen sehen Sie eine besondere Dringlichkeit für entsprechende Lösungen?
Besondere Dringlichkeit gibt es natürlich überall dort, wo das Leben und die Existenz von Menschen direkt betroffen sind.

Sie haben oben den Gender-Data-Gap in der Medizin genannt. Es gibt aber auch den Gender-Diagnose-Bias, der heute in der ärztlichen Praxis dazu führt, dass bestimmte Krankheiten bei Frauen unterschätzt oder weniger gut diagnostiziert werden. Wenn wir KI-Systeme nun einfach auf Basis der existierenden Daten lernen lassen, übernehmen sie den Bias. Schlimmer noch: Sie reproduzieren und verschärfen ihn. Faire KI-Lösungen können hier Leben retten.

Wenn Frauen auf Jobplattformen schlechter bewertet werden, wenn sie bei Einstellungen benachteiligt werden oder wenn Videokonferenzsysteme ihre Stimme so übertragen, dass sie weniger kompetent erscheinen, dann geht es zwar vordergründig nicht um Leben und Tod. Aber es geht um Grundrechte und die Frage, ob wir verhindern möchten, dass unsere Vorurteile automatisiert in Systemen perpetuiert werden.

Was ist zu tun, damit Algorithmen die Geschlechter unterscheiden und adäquat zuordnen können? Welche Herausforderungen sind dabei zu lösen?
Die Betrachtung nach Geschlecht ist wichtig, um Diskriminierungen wirksam zu begegnen. Auch und gerade wenn wir Gleichstellung wollen, dürfen wir Geschlecht nicht unsichtbar machen. Wir müssen sicherstellen, dass bei der Datenerfassung und -verarbeitung eine ausreichende Anzahl von Datenpunkten für alle Geschlechter vorhanden ist. Hierbei sollten auch Aspekte wie Alter, ethnischer Hintergrund und sozioökonomische Unterschiede berücksichtigt werden. 

Das heißt also paradoxerweise: Wenn wir wollen, dass Geschlecht keine Rolle mehr spielt, müssen wir ihm besondere Aufmerksamkeit widmen. Nur dann können wir existierende Ungerechtigkeiten korrigieren. Es funktioniert nicht, Geschlecht einfach wegzulassen – dann kommt es über sogenannte Proxies wieder in die KI-Systeme hinein. Dafür wurden zum Beispiel Kreditvergabealgorithmen kritisiert. Sie hatten Geschlecht explizit nicht beachtet, was dann aber über mit Geschlecht korrelierenden Faktoren zu einer geringeren Kreditvergabe an Frauen geführt hat.

Ist Gendergerechtigkeit vorrangig eine öffentliche Aufgabe oder auch privatwirtschaftlich relevant? Welche rechtlichen Vorgaben sollten diesbezügliche Algorithmen bekommen?
Sowohl als auch. Die meisten Unternehmen möchten Geschlechtergerechtigkeit aktiv umsetzen und dazu beitragen, Diskriminierung zu minimieren und eine inklusivere Gesellschaft zu fördern. Sie tun dies aus sozialer Verantwortung und um ihr Geschäft zu verbessern.

Aktuell gibt es im Rahmen der Vorbereitung des AI-Acts, der europäischen Regelungen für Transparenz und Verantwortlichkeit von KI-Systemen, eine Diskussion über die Aufwände, die solche Regelungen mit sich bringen. Aber: Niemand von uns möchte, dass über unser Leben Entscheidungen getroffen werden, die möglicherweise unfair sind und die nicht erklärbar sind. Deshalb gilt es, unaufgeregt zu überlegen, wie wir Lösungen schaffen, die unserem Verständnis von Transparenz, Verantwortlichkeit und Datenschutz gerecht werden. Denn, richtig gestaltet, erweitern KI-Systeme unsere Möglichkeiten, eine diskriminierungsfreie und geschlechtergerechtere Welt zu schaffen – dieses Potenzial sollten wir nutzen.

UNSER NEWSLETTER
Newsletter bestellen JETZT BESTELLEN
■■■ WEITERE BEITRÄGE DIESER FACHDEBATTE

EIN DEBATTENBEITRAG VON
Prof. Dr. Sabine T. Köszegi
Professorin
TU Wien

Prof. Dr.  Sabine T. Köszegi vom Institute of Management Science der Technischen Universität Wien
Gendergerechtigkeit | KI

Über die Illusion von Objektivität bei ■ ■ ■

Wie KI die Realität richtig erkennen kann

EIN DEBATTENBEITRAG VON
Prof. Dr. Sabine T. Köszegi
Professorin
TU Wien

EIN DEBATTENBEITRAG VON
Prof. Dr. Regina Ammicht-Quinn
Sprecherin IZEW
Universität Tübingen

Prof. Dr. Regina Ammicht-Quinn, Universität Tübingen
Gendergerechtigkeit | KI

Ethik ist nicht die Fahrradbremse am ■ ■ ■

Warum eine ethische Perspektive notwendig ist, ■ ■ ■

EIN DEBATTENBEITRAG VON
Prof. Dr. Regina Ammicht-Quinn
Sprecherin IZEW
Universität Tübingen

EIN DEBATTENBEITRAG VON
Nadia Fischer
CEO & Co-Founder
Witty Works

Nadia Fischer, CEO und Co-founder Witty Works
Gendergerechtigkeit | KI

Wie KI-Anwendungen Stereotypen reproduzieren

Und warum auch Algorithmen gendersensitiv sein müssen

EIN DEBATTENBEITRAG VON
Nadia Fischer
CEO & Co-Founder
Witty Works

ZUR FACHDEBATTE

ÜBER UNSERE FACHDEBATTEN

Meinungsbarometer.info ist die Plattform für Fachdebatten in der digitalen Welt. Unsere Fachdebatten vernetzen Meinungen, Wissen & Köpfe und richten sich an Entscheider auf allen Fach- und Führungsebenen. Unsere Fachdebatten vereinen die hellsten Köpfe, die sich in herausragender Weise mit den drängendsten Fragen unserer Zeit auseinandersetzen.

überparteilich, branchenübergreifend, interdisziplinär

Unsere Fachdebatten fördern Wissensaustausch, Meinungsbildung sowie Entscheidungsfindung in Politik, Wirtschaft, Wissenschaft, Medien und Gesellschaft. Sie stehen für neue Erkenntnisse aus unterschiedlichen Perspektiven. Mit unseren Fachdebatten wollen wir den respektvollen Austausch von Argumenten auf Augenhöhe ermöglichen - faktenbasiert, in gegenseitiger Wertschätzung und ohne Ausklammerung kontroverser Meinungen.

kompetent, konstruktiv, reichweitenstark

Bei uns debattieren Spitzenpolitiker aus ganz Europa, Führungskräfte der Wirtschaft, namhafte Wissenschaftler, Top-Entscheider der Medienbranche, Vordenker aus allen gesellschaftlichen Bereichen sowie internationale und nationale Fachjournalisten. Wir haben bereits mehr als 600 Fachdebatten mit über 20 Millionen Teilnahmen online abgewickelt.

nachhaltig und budgetschonend

Mit unseren Fachdebatten setzen wir auf Nachhaltigkeit. Unsere Fachdebatten schonen nicht nur Umwelt und Klima, sondern auch das eigene Budget. Sie helfen, aufwendige Veranstaltungen und überflüssige Geschäftsreisen zu reduzieren – und trotzdem die angestrebten Kommunikationsziele zu erreichen.

mehr als nur ein Tweet

Unsere Fachdebatten sind mehr als nur ein flüchtiger Tweet, ein oberflächlicher Post oder ein eifriger Klick auf den Gefällt-mir-Button. Im Zeitalter von X (ehemals Twitter), Facebook & Co. und der zunehmenden Verkürzung, Verkümmerung und Verrohung von Sprache wollen wir ein Zeichen setzen für die Entwicklung einer neuen Debattenkultur im Internet. Wir wollen das gesamte Potential von Sprache nutzen, verständlich und respektvoll miteinander zu kommunizieren.