Menue-Button
WERBUNG
Mein kostenfreies Live-Webinar: ALS EXPERTE DIGITAL WIRKSAM SICHTBAR WERDEN - FÜR FÜHRUNGSKRÄFTE UND DEREN KOMMUNIKATIONS­VERANTWORTLICHE
← FACHDEBATTE
Interview17.11.2020

Wenn Maschinen entscheiden, müssen immer Menschen die Verantwortung tragen

Welche Regeln für welche KI gelten sollten

Carla Hustedt - Senior Project Manager Programm Megatrends | Ethik der Algorithmen, Bertelsmann Stiftung Quelle: Bertelsmann Stiftung Carla Hustedt Senior Project Manager Bertelsmann Stiftung
INITIATOR DIESER FACHDEBATTE
Dipl.- Journ. Thomas Barthel
Founder & Herausgeber
Meinungsbarometer.info
ZUR FACHDEBATTE

Aus Sicht der KI-Expertin Carla Hustedt von der Bertelsmann Stiftung muss die EU "sich dringend weg von einer rein reaktiven, hin zu einer gestaltenden Digitalpolitik bewegen". Sie fordert weitgehende Transparenz beim Einsatz von KI und für entsprechende staatliche Systeme ein öffentliches Register. Allerdings müsse nicht jedes KI-System gleichermaßen reguliert werden.





In der EU ist eine Debatte über Regeln für Künstliche Intelligenz im Gange. Welche grundsätzlichen ethischen Standards sollten einem entsprechenden Regelwerk zugrunde liegen?
Wir benötigen dringend einen Rechtsrahmen, der Innovation ermöglicht und zugleich den Schutz der Bürger:innen sicherstellt! Es geht dabei nicht um die Schaffung neuer digitaler Grundrechte. Vielmehr muss gewährleistet sein, dass unsere bestehenden demokratischen Rechte und Freiheiten auch bei automatisierten Entscheidungen gewahrt bleiben. Wichtig ist daher vor allem, dass wir mehr Transparenz beim Einsatz algorithmischer Systeme herstellen. Betroffene müssen etwa darüber informiert werden, wenn eine Maschine über sie entscheidet. Weiterhin müssen diese Entscheidungen verständlich gemacht und Beschwerdemechanismen eingerichtet werden. Dabei gilt, dass nicht jedes KI-System gleichermaßen reguliert werden muss. Die Anforderungen an die Systeme sind von ihren Auswirkungen auf die Gesellschaft abhängig zu machen.

Regulierung alleine wird nicht ausreichen, um die Risiken der Technologie zu begrenzen und ihre Chancen für das Gemeinwohl auszunutzen. Wir brauchen ein Ökosystem der KI-Ethik, mit einer großen Vielfalt an Maßnahmen! Die Diversität im Tech-Sektor muss gefördert und digitale zivilgesellschaftliche Akteure müssen gestärkt werden. Außerdem braucht es dringend einen Kompetenzaufbau bei Staat und Gesellschaft.

JETZT HERUNTERLADEN

DIE DOKUMENTATION DIESER FACHDEBATTE

DIE DOKUMENTATION ENTHÄLT

alle Debattenbeiträge ungekürzt im Original
Übersicht aller aktiven Debattenteilnehmer
Summary für Ihr Top-Management
MEHR ERFAHREN


Im Gespräch ist u.a. ein Haftungssystem für KI-Systeme. Wie stehen Sie dazu?
Die Auswirkung von komplexen, selbstlernenden algorithmischen Systeme ist kaum vorhersehbar und ihre Funktionsweise häufig schwer nachvollziehbar. Dadurch entstehen neuen Herausforderungen für das bestehende Haftungsregime. Hieraus resultierende Rechtslücken müssen dringend ausgebessert werden, denn die Rechtsunsicherheit kann dazu führen, dass letztlich die Allgemeinheit die Risiken für den Einsatz der Systeme trägt. Die Einführung einer Rechtspersönlichkeit für autonome Systeme sehe ich kritisch, weil dieser Forderung ein Verständnis zugrunde liegt, das die bestehenden technischen Möglichkeiten erheblich überschätzt. Auch entsteht so die Gefahr einer Verantwortungsdiffusion: Wenn Maschinen entscheiden, müssen immer Menschen die Verantwortung tragen! Es ist daher gut, dass die Politik auf nationaler und europäischer Ebene den Handlungsbedarf in diesem Bereich erkannt hat. Das EU-Parlament fordert beispielsweise die Einführung von Pflichtversicherungen für die Betreiber von besonders risikoreichen selbstlernenden Systemen nach dem Vorbild von Kraftfahrzeugversicherungen.

Von Experten gibt es Rufe nach einem KI-Register oder einem KI-TÜV. Wie sehen Sie das?
Unsere Recherchen zur Nutzung algorithmischer Systeme zeigen, dass die Öffentlichkeit häufig erst Jahre später vom Einsatz der Technologie erfährt. Diese Intransparenz erschwert die notwendige gesellschaftliche Debatte über den ethischen Einsatz von KI. Die Einführung einer gesetzlichen Verpflichtung, alle von staatlichen Stellen eingesetzten KI-Systeme in einem öffentlichen Register aufzuführen, halte ich daher für äußerst sinnvoll. In Amsterdam und Helsinki werden solche Register bereits geführt. Nur durch solch einen transparenten und offenen Umgang mit dem staatlichen Einsatz von Algorithmen kann Vertrauen in der Bevölkerung aufgebaut werden.

Außerdem muss eine wirksame Kontrolle algorithmischer Systeme sichergestellt werden. Diskriminierende Muster können durch die Zielvorgaben, die Daten, den Code selber oder durch die Art und Weise, wie Menschen mit den Systemen interagieren, entstehen. Anders als beim TÜV dürfen Prüfungen sich daher nicht nur auf das technische System beschränken, sondern müssen auch die soziale Einbettung des Systems mit unter die Lupe nehmen.  

Verschiedene EU-Staaten (etwa Deutschland in der KI-Strategie, Österreich in der AI-Mission) streben bereits ethische Standards für KI-Anwendungen an. Inwieweit sind nationale Bemühungen und etwaige EU-Regeln in Anbetracht der Stärke von Digitalkonzernen aus den USA oder China überhaupt erfolgversprechend?
Die Gestaltung des digitalen Wandels muss global gedacht werden. Es braucht einen internationalen Dialog über die gesellschaftlichen Herausforderungen der Digitalisierung sowie stärkere Bestrebungen, sich multilateral auf ethische Mindeststandards zu einigen. Es gilt dabei die Balance zwischen Offenheit und Wahrung eigener Werte zu halten. Auch in China und den USA wird an ethischen Grundprinzipien für KI gearbeitet, sodass durchaus Diskussionsgrundlagen bestehen. Die Dominanz internationaler Digitalkonzerne heißt zugleich nicht, dass wir als EU hilflos sind. Die Datenschutzgrundverordnung (DSGVO) hat gezeigt, dass eine Regulierung digitaler Belange auf EU-Ebene möglich ist. Dabei darf die Durchsetzung der Regeln nicht vergessen werden. Im Fall der DSGVO ist dies Angelegenheit nationaler Datenschutzbehörden, die häufig jedoch nicht über die nötige Ausstattung verfügen, um dieser Aufgabe gerecht zu werden.

Zugleich muss die EU sich dringend weg von einer rein reaktiven, hin zu einer gestaltenden Digitalpolitik bewegen. Hierfür müssen wir vor allem Kompetenzen aufbauen und uns die große Frage stellen, in was für einer Welt wir zukünftig Leben wollen. Digitalisierung sollte dabei als Türenöffner und nicht als Selbstzweck verstanden werden.

UNSER NEWSLETTER
Newsletter bestellen JETZT BESTELLEN
■■■ WEITERE BEITRÄGE DIESER FACHDEBATTE

EIN DEBATTENBEITRAG VON
Jason Chumtong
KI-Experte
Konrad-Adenauer-Stiftung

Jason Chumtong - KI-Experte, Abteilung Wirtschaft und Innovation in der Hauptabteilung Analyse und Beratung bei der Konrad-Adenauer-Stiftung
KI | EU

Rechtssicherheit für KI als möglicher ■ ■ ■

Wie europäische Werte gesichert werden können

EIN DEBATTENBEITRAG VON
Jason Chumtong
KI-Experte
Konrad-Adenauer-Stiftung

EIN DEBATTENBEITRAG VON
Michael Mörike
Vorstand
Integrata-Stiftung für humane Nutzung der Informationstechnologie

Michael Mörike - Vorstand der Integrata-Stiftung für humane Nutzung der Informationstechnologie
KI | EU

Ab wann kann eine Maschine für sich ■ ■ ■

Vor welchen Herausforderungen ein Rechtsrahmen ■ ■ ■

EIN DEBATTENBEITRAG VON
Michael Mörike
Vorstand
Integrata-Stiftung für humane Nutzung der Informationstechnologie

EIN DEBATTENBEITRAG VON
Alexandra Geese
MdEP
Fraktion Die Grünen/EFA im Europäischen Parlament

Alexandra Geese - Mitglied des Europäischen Parlaments
KI | EU

Für eine Europäische Aufsicht mit ■ ■ ■

Wie KI und Algorithmen diskriminierungsfrei ■ ■ ■

EIN DEBATTENBEITRAG VON
Alexandra Geese
MdEP
Fraktion Die Grünen/EFA im Europäischen Parlament

ZUR FACHDEBATTE
■■■ DIESE FACHDEBATTEN KÖNNTEN SIE AUCH INTERESSIEREN
Uwe Schimunek

INITIATOR
Uwe Schimunek
Freier Journalist
Meinungsbarometer.info

Dipl.- Journ. Nikola Marquardt

INITIATORIN
Dipl.- Journ. Nikola Marquardt
Founder & Herausgeberin
Meinungsbarometer.info

ÜBER UNS

Meinungsbarometer.info ist die Plattform für Fachdebatten in der digitalen Welt. Unsere Fachdebatten vernetzen Meinungen, Wissen & Köpfe und richten sich an Entscheider auf allen Fach- und Führungsebenen. Unsere Fachdebatten vereinen die hellsten Köpfe, die sich in herausragender Weise mit den drängendsten Fragen unserer Zeit auseinandersetzen.

überparteilich, branchenübergreifend, interdisziplinär

Unsere Fachdebatten fördern Wissensaustausch, Meinungsbildung sowie Entscheidungsfindung in Politik, Wirtschaft, Wissenschaft, Medien und Gesellschaft. Sie stehen für neue Erkenntnisse aus unterschiedlichen Perspektiven. Mit unseren Fachdebatten wollen wir den respektvollen Austausch von Argumenten auf Augenhöhe ermöglichen - faktenbasiert, in gegenseitiger Wertschätzung und ohne Ausklammerung kontroverser Meinungen.

kompetent, konstruktiv, reichweitenstark

Bei uns debattieren Spitzenpolitiker aus ganz Europa, Führungskräfte der Wirtschaft, namhafte Wissenschaftler, Top-Entscheider der Medienbranche, Vordenker aus allen gesellschaftlichen Bereichen sowie internationale und nationale Fachjournalisten. Wir haben bereits mehr als 600 Fachdebatten mit über 20 Millionen Teilnahmen online abgewickelt.

nachhaltig und budgetschonend

Mit unseren Fachdebatten setzen wir auf Nachhaltigkeit. Unsere Fachdebatten schonen nicht nur Umwelt und Klima, sondern auch das eigene Budget. Sie helfen, aufwendige Veranstaltungen und überflüssige Geschäftsreisen zu reduzieren – und trotzdem die angestrebten Kommunikationsziele zu erreichen.

mehr als nur ein Tweet

Unsere Fachdebatten sind mehr als nur ein flüchtiger Tweet, ein oberflächlicher Post oder ein eifriger Klick auf den Gefällt-mir-Button. Im Zeitalter von X (ehemals Twitter), Facebook & Co. und der zunehmenden Verkürzung, Verkümmerung und Verrohung von Sprache wollen wir ein Zeichen setzen für die Entwicklung einer neuen Debattenkultur im Internet. Wir wollen das gesamte Potential von Sprache nutzen, verständlich und respektvoll miteinander zu kommunizieren.