Für die geplanten EU-Regeln werden KI-Anwendungen in Risikogruppen ein geteilt – wie bewerten Sie diesen Ansatz?
Der risikobasierte Ansatz ist grundsätzlich zu begrüßen, da KI als Technologie weitgefächerte Einsatzmöglichkeiten findet und ein rein technisch orientierter Ansatz dieser Diversität nicht gerecht würde. KI ist ein Paradebeispiel für ein sozio-technisches System, das ohne Beachtung des Einsatzkontextes – und der der Entwicklung zugrundeliegenden Werte – nicht hinreichend beurteilt werden kann. Am derzeitigen Ansatz ist zu bemängeln, dass den Zuordnungen in die Risikoklassen kein kohärenter Kriterienkatalog zugrunde liegt und die Nachvollziehbarkeit der Einstufung darunter leidet. Die Entwicklung dieses Kriterienkatalogs sollte jedenfalls offen und in einem breiten gesellschaftlichen Diskurs erfolgen.
JETZT HERUNTERLADEN
DIE DOKUMENTATION DIESER FACHDEBATTE

DIE DOKUMENTATION ENTHÄLT
Übersicht aller aktiven Debattenteilnehmer
Summary für Ihr Top-Management
Bestimmte KI-Systeme sollen gänzlich verboten werden, etwa wenn sie für Social Scoring eingesetzt werden. Wie finden Sie das?
KI-Anwendungen können für individuelle Grundrechte und Entfaltungsmöglichkeiten genauso wie für die Demokratie als solche sehr gefährliche Wirkungen entfalten, weshalb ich ein grundsätzliches Verbot für bestimmte Anwendungen für staatliche und private Anwender:innen für gerechtfertigt halte. Vielmehr noch beunruhigt mich die Tatsache, dass die Wirkungsmechanismen innerhalb bestimmter KI-Modelle und Methoden – auch von der Wissenschaft – noch nicht geklärt sind. Solange diese Black Box besteht und Transparenz und Nachvollziehbarkeit nicht ausreichen, um menschliche Kontrolle zu gewährleisten, sollten Moratorien für bestimmte KI-Systeme angedacht werden, sofern ihre Entscheidungen weitreichende soziale oder demokratiepolitisch bedenkliche Konsequenzen nach sich ziehen oder starke moralisch-ethische Komponenten beinhalten.
Kritiker befürchten, dass insbesondere innovative Start-ups durch die Regulierung gebremst werden könnten. Wie schätzen Sie diese Gefahr ein?
Eine umfassende und grundrechtsorientierte Regulierung bietet eine gute Basis, um menschenzentrierte Technologieentwicklung voranzutreiben. Klar kommunizierte Werte und ein darauf beruhender definierter Rechtsrahmen geben Rechtssicherheit und helfen die Gefahr von sunken costs bei Start-ups zu vermeiden. Insgesamt müssen wir bei Innovationen auch fragen – Innovation für wen und zu welchen Bedingungen? Als Gesellschaft sind wir immer wieder aufgerufen uns zu fragen in welcher Welt wir leben wollen?
Was sollte aus Ihrer Sicht unbedingt in einem endgültigen Regelwerk stehen - und was auf keinen Fall?
Der AI-Act darf nie ein endgültiges Regelwerk sein, denn die Technikentwicklung ist hoch dynamisch und die gesellschaftliche Entwicklung ist es ebenfalls. Natürlich muss die Regelung in Kraft treten, um Wirkung entfalten zu können. Es ist aber ein laufendes Monitoring vorzusehen. Dieses sollte jedenfalls breiter aufgestellt sein, als der bisherige Prozess, der die Interessen der vom Einsatz von KI-Systemen betroffenen Konsument:innen und Bürger:innen gar nicht einbezog und deshalb auch nicht abbildet. Für einen sinnvollen, dem gesellschaftlichen Fortschrittsdienlichen Einsatz von KI ist es unabdingbar einen Prozess aufzusetzen, der Partizipation weiter Teile der Bevölkerung und verschiedener Stakeholder ermöglicht und legitime Interessen und Werte in den Regulierungs- und somit auch Entwicklungsprozess einbringen kann.
Keinesfalls fehlen sollten weitreichende Zertifizierungserfordernisse, die auch die Qualitätsprüfung für KI-Systeme beinhalten. Ein starkes Transparenzgebot verlangt auch, dass alle KI-Systeme im Verkehr kenntlich zu machen sind. Audits und Zertifizierungen in diesem Sinn sollten unabhängige Folgenabschä tzungen (Impact Assessments) sein, die von unabhängigen Stellen und nicht von den Unternehmen selbst durchgeführt werden sollten. Auf ethischen und grundrechtlichen Überlegungen beruhende Verbote sollten beibehalten werden und zusätzlich sollten in den Werte Kanon auch die Umweltwirkungen von KI-Systemen miteinfließen, da diese unmittelbar auf die Lebensgrundlagen von Menschen rückwirken.