Inwieweit ist eine gendergerechte KI, sind intelligent programmierte und gendersensitive Algorithmen für Sie ein praktisch relevantes Problem?
Bei der KI-gestützten automatischen Übersetzung von Texten in eine andere Sprache kommen regelmäßig schon für überholt geglaubte Gesellschaftsbilder zum Vorschein, aus Ärztinnen werden Ärzte, aus Erziehern werden Erzieherinnen. Wer immer mit informationstechnischen Systemen herstellt oder auch nur mit ihnen umgeht, ist auf eine gendergerechte Technik insbesondere im Bereich der KI angewiesen, um keine unbeabsichtigte Diskriminierung zu erfahren oder zu verüben. Die Studie von Carsten Orwat zum Diskriminierungspotenzial von Algorithmen ist in diesem Zusammenhang sehr lesenswert.
JETZT BESTELLEN
DIE DOKUMENTATION DIESER FACHDEBATTE
DIE DOKUMENTATION ENTHÄLT
Übersicht aller aktiven Debattenteilnehmer
Summary für Ihr Top-Management
In welchen Bereichen sehen Sie eine besondere Dringlichkeit für entsprechende Lösungen?
In Diskussionen um den Einsatz von Algorithmen für die Arbeitswelten der Zukunft wird deutlich, dass der voranschreitende Prozess der Digitalisierung kluger Gestaltung bedarf. Besonders in der Digitalbranche, aber auch der Wirtschaft und der Politik insgesamt ist die Dringlichkeit in besonderem Maße gegeben. Selbst wenn beispielsweise Geschäftsmodelle der datengetriebenen Wirtschaft nicht mit den Menschenrechten vereinbar sein sollten, könnte dies aufgrund von intransparenten Praktiken nicht erkannt und erst recht nicht sanktioniert werden.
Was ist zu tun, damit Algorithmen die Geschlechter unterscheiden und adäquat zuordnen können? Welche Herausforderungen sind dabei zu lösen?
Wir benötigen eine soziotechnische Perspektive auf die Digitalisierung hinsichtlich Gestaltung, Nutzung und Zugang. Automatisierte Prozesse oder algorithmische Systeme sind nie „neutral“, sie besitzen einen gesellschaftlichen Kontext. Die digitale Transformation ist also ein gesellschaftlicher Prozess, der nicht rein technikzentriert und/oder rein marktorientiert angegangen werden kann, ohne in Widerspruch zum Grundgesetz zu geraten.
Ist Gendergerechtigkeit vorrangig eine öffentliche Aufgabe oder auch privatwirtschaftlich relevant? Welche rechtlichen Vorgaben sollten diesbezügliche Algorithmen bekommen?
Öffentliche Stellen haben diesbezüglich bereits vieles in die Wege geleitet, wie beispielsweise die Umsetzungsstrategie „Digitalisierung gestalten“ und das Gutachten zum Dritten Gleichstellungsbericht der Bundesregierung zeigen. Als Richtschnur des Handelns dient dabei Artikel 3 Abs. 2 des Grundgesetzes. Um die Gestaltung des digitalen Transformationsprozesses mit dem Verfassungsauftrag in Einklang zu bringen, ist die Umsetzung durch privatwirtschaftliche Akteur*innen zentral. Die Gesellschaft für Informatik gibt in ihrem Ethischen Kompass eine Orientierung.
