MEINUNGSBAROMETER.INFO

DIGITALISIERUNG

DAS FACHDEBATTENPORTAL

Für Entscheider aus Politik, Wirtschaft, Medien & Gesellschaft


schliessen

Bitte hier einloggen:

Login

Passwort vergessen?
 
28.11.2020
Kopieren und anderweitige Vervielfältigungen sind nicht erlaubt.

WENN MASCHINEN ENTSCHEIDEN, MÜSSEN IMMER MENSCHEN DIE VERANTWORTUNG TRAGEN

Welche Regeln für welche KI gelten sollten

Carla Hustedt - Senior Project Manager Programm Megatrends | Ethik der Algorithmen, Bertelsmann Stiftung

Carla Hustedt - Senior Project Manager Programm Megatrends | Ethik der Algorithmen, Bertelsmann Stiftung [Quelle: Bertelsmann Stiftung]


Aus Sicht der KI-Expertin Carla Hustedt von der Bertelsmann Stiftung muss die EU "sich dringend weg von einer rein reaktiven, hin zu einer gestaltenden Digitalpolitik bewegen". Sie fordert weitgehende Transparenz beim Einsatz von KI und für entsprechende staatliche Systeme ein öffentliches Register. Allerdings müsse nicht jedes KI-System gleichermaßen reguliert werden.


In der EU ist eine Debatte über Regeln für Künstliche Intelligenz im Gange. Welche grundsätzlichen ethischen Standards sollten einem entsprechenden Regelwerk zugrunde liegen?
Wir benötigen dringend einen Rechtsrahmen, der Innovation ermöglicht und zugleich den Schutz der Bürger:innen sicherstellt! Es geht dabei nicht um die Schaffung neuer digitaler Grundrechte. Vielmehr muss gewährleistet sein, dass unsere bestehenden demokratischen Rechte und Freiheiten auch bei automatisierten Entscheidungen gewahrt bleiben. Wichtig ist daher vor allem, dass wir mehr Transparenz beim Einsatz algorithmischer Systeme herstellen. Betroffene müssen etwa darüber informiert werden, wenn eine Maschine über sie entscheidet. Weiterhin müssen diese Entscheidungen verständlich gemacht und Beschwerdemechanismen eingerichtet werden. Dabei gilt, dass nicht jedes KI-System gleichermaßen reguliert werden muss. Die Anforderungen an die Systeme sind von ihren Auswirkungen auf die Gesellschaft abhängig zu machen.

Regulierung alleine wird nicht ausreichen, um die Risiken der Technologie zu begrenzen und ihre Chancen für das Gemeinwohl auszunutzen. Wir brauchen ein Ökosystem der KI-Ethik, mit einer großen Vielfalt an Maßnahmen! Die Diversität im Tech-Sektor muss gefördert und digitale zivilgesellschaftliche Akteure müssen gestärkt werden. Außerdem braucht es dringend einen Kompetenzaufbau bei Staat und Gesellschaft.


Jetzt bestellen!

DIE DOKUMENTATION DIESER FACHDEBATTE

Im Gespräch ist u.a. ein Haftungssystem für KI-Systeme. Wie stehen Sie dazu?
Die Auswirkung von komplexen, selbstlernenden algorithmischen Systeme ist kaum vorhersehbar und ihre Funktionsweise häufig schwer nachvollziehbar. Dadurch entstehen neuen Herausforderungen für das bestehende Haftungsregime. Hieraus resultierende Rechtslücken müssen dringend ausgebessert werden, denn die Rechtsunsicherheit kann dazu führen, dass letztlich die Allgemeinheit die Risiken für den Einsatz der Systeme trägt. Die Einführung einer Rechtspersönlichkeit für autonome Systeme sehe ich kritisch, weil dieser Forderung ein Verständnis zugrunde liegt, das die bestehenden technischen Möglichkeiten erheblich überschätzt. Auch entsteht so die Gefahr einer Verantwortungsdiffusion: Wenn Maschinen entscheiden, müssen immer Menschen die Verantwortung tragen! Es ist daher gut, dass die Politik auf nationaler und europäischer Ebene den Handlungsbedarf in diesem Bereich erkannt hat. Das EU-Parlament fordert beispielsweise die Einführung von Pflichtversicherungen für die Betreiber von besonders risikoreichen selbstlernenden Systemen nach dem Vorbild von Kraftfahrzeugversicherungen.

Von Experten gibt es Rufe nach einem KI-Register oder einem KI-TÜV. Wie sehen Sie das?
Unsere Recherchen zur Nutzung algorithmischer Systeme zeigen, dass die Öffentlichkeit häufig erst Jahre später vom Einsatz der Technologie erfährt. Diese Intransparenz erschwert die notwendige gesellschaftliche Debatte über den ethischen Einsatz von KI. Die Einführung einer gesetzlichen Verpflichtung, alle von staatlichen Stellen eingesetzten KI-Systeme in einem öffentlichen Register aufzuführen, halte ich daher für äußerst sinnvoll. In Amsterdam und Helsinki werden solche Register bereits geführt. Nur durch solch einen transparenten und offenen Umgang mit dem staatlichen Einsatz von Algorithmen kann Vertrauen in der Bevölkerung aufgebaut werden.

Außerdem muss eine wirksame Kontrolle algorithmischer Systeme sichergestellt werden. Diskriminierende Muster können durch die Zielvorgaben, die Daten, den Code selber oder durch die Art und Weise, wie Menschen mit den Systemen interagieren, entstehen. Anders als beim TÜV dürfen Prüfungen sich daher nicht nur auf das technische System beschränken, sondern müssen auch die soziale Einbettung des Systems mit unter die Lupe nehmen.  

Verschiedene EU-Staaten (etwa Deutschland in der KI-Strategie, Österreich in der AI-Mission) streben bereits ethische Standards für KI-Anwendungen an. Inwieweit sind nationale Bemühungen und etwaige EU-Regeln in Anbetracht der Stärke von Digitalkonzernen aus den USA oder China überhaupt erfolgversprechend?
Die Gestaltung des digitalen Wandels muss global gedacht werden. Es braucht einen internationalen Dialog über die gesellschaftlichen Herausforderungen der Digitalisierung sowie stärkere Bestrebungen, sich multilateral auf ethische Mindeststandards zu einigen. Es gilt dabei die Balance zwischen Offenheit und Wahrung eigener Werte zu halten. Auch in China und den USA wird an ethischen Grundprinzipien für KI gearbeitet, sodass durchaus Diskussionsgrundlagen bestehen. Die Dominanz internationaler Digitalkonzerne heißt zugleich nicht, dass wir als EU hilflos sind. Die Datenschutzgrundverordnung (DSGVO) hat gezeigt, dass eine Regulierung digitaler Belange auf EU-Ebene möglich ist. Dabei darf die Durchsetzung der Regeln nicht vergessen werden. Im Fall der DSGVO ist dies Angelegenheit nationaler Datenschutzbehörden, die häufig jedoch nicht über die nötige Ausstattung verfügen, um dieser Aufgabe gerecht zu werden.

Zugleich muss die EU sich dringend weg von einer rein reaktiven, hin zu einer gestaltenden Digitalpolitik bewegen. Hierfür müssen wir vor allem Kompetenzen aufbauen und uns die große Frage stellen, in was für einer Welt wir zukünftig Leben wollen. Digitalisierung sollte dabei als Türenöffner und nicht als Selbstzweck verstanden werden.