Menue-Button
← FACHDEBATTE Interview

Moratorien für bestimmte KI-Systeme

Warum KI-Regulierung ein Prozess ist

Mag. Dr. Walter Peissl - Stv. Direktor, Institut für Technikfolgen-Abschätzung, Österreichische Akademie der Wissenschaften Quelle: ÖAW/ Daniel Hinterramskogler Dr. Walter Peissl Stv. Direktor Institut für Technikfolgen-Abschätzung, Österreichische Akademie der Wissenschaften 21.07.2023
INITIATOR DIESER FACHDEBATTE
Uwe Schimunek
Freier Journalist
Meinungsbarometer.info
ZUR FACHDEBATTE

"Eine umfassende und grundrechtsorientierte Regulierung bietet eine gute Basis, um menschenzentrierte Technologieentwicklung voranzutreiben", findet Dr. Walter Peissl vom  Institut für Technikfolgen-Abschätzung der Österreichischen Akademie der Wissenschaften. Bei den geplanten EU-Regeln sieht er dennoch Änderungsbedarf.







Für die geplanten EU-Regeln werden KI-Anwendungen in Risikogruppen ein geteilt – wie bewerten Sie diesen Ansatz?
Der risikobasierte Ansatz ist grundsätzlich zu begrüßen, da KI als Technologie weitgefächerte Einsatzmöglichkeiten findet und ein rein technisch orientierter Ansatz dieser Diversität nicht gerecht würde. KI ist ein Paradebeispiel für ein sozio-technisches System, das ohne Beachtung des Einsatzkontextes – und der der Entwicklung zugrundeliegenden Werte – nicht hinreichend beurteilt werden kann. Am derzeitigen Ansatz ist zu bemängeln, dass den Zuordnungen in die Risikoklassen kein kohärenter Kriterienkatalog zugrunde liegt und die Nachvollziehbarkeit der Einstufung darunter leidet. Die Entwicklung dieses Kriterienkatalogs sollte jedenfalls offen und in einem breiten gesellschaftlichen Diskurs erfolgen.

JETZT BESTELLEN

DIE DOKUMENTATION DIESER FACHDEBATTE

DIE DOKUMENTATION ENTHÄLT

alle Debattenbeiträge ungekürzt im Original
Übersicht aller aktiven Debattenteilnehmer
Summary für Ihr Top-Management
MEHR ERFAHREN


Bestimmte KI-Systeme sollen gänzlich verboten werden, etwa wenn sie für Social Scoring eingesetzt werden. Wie finden Sie das?
KI-Anwendungen können für individuelle Grundrechte und Entfaltungsmöglichkeiten genauso wie für die Demokratie als solche sehr gefährliche Wirkungen entfalten, weshalb ich ein grundsätzliches Verbot für bestimmte Anwendungen für staatliche und private Anwender:innen für gerechtfertigt halte. Vielmehr noch beunruhigt mich die Tatsache, dass die Wirkungsmechanismen innerhalb bestimmter KI-Modelle und Methoden – auch von der Wissenschaft – noch nicht geklärt sind. Solange diese Black Box besteht und Transparenz und Nachvollziehbarkeit nicht ausreichen, um menschliche Kontrolle zu gewährleisten, sollten Moratorien für bestimmte KI-Systeme angedacht werden, sofern ihre Entscheidungen weitreichende soziale oder demokratiepolitisch bedenkliche Konsequenzen nach sich ziehen oder starke moralisch-ethische Komponenten beinhalten.

Kritiker befürchten, dass insbesondere innovative Start-ups durch die Regulierung gebremst werden könnten. Wie schätzen Sie diese Gefahr ein?
Eine umfassende und grundrechtsorientierte Regulierung bietet eine gute Basis, um menschenzentrierte Technologieentwicklung voranzutreiben. Klar kommunizierte Werte und ein darauf beruhender definierter Rechtsrahmen geben Rechtssicherheit und helfen die Gefahr von sunken costs bei Start-ups zu vermeiden. Insgesamt müssen wir bei Innovationen auch fragen – Innovation für wen und zu welchen Bedingungen? Als Gesellschaft sind wir immer wieder aufgerufen uns zu fragen in welcher Welt wir leben wollen?

Was sollte aus Ihrer Sicht unbedingt in einem endgültigen Regelwerk stehen - und was auf keinen Fall?
Der AI-Act darf nie ein endgültiges Regelwerk sein, denn die Technikentwicklung ist hoch dynamisch und die gesellschaftliche Entwicklung ist es ebenfalls. Natürlich muss die Regelung in Kraft treten, um Wirkung entfalten zu können. Es ist aber ein laufendes Monitoring vorzusehen. Dieses sollte jedenfalls breiter aufgestellt sein, als der bisherige Prozess, der die Interessen der vom Einsatz von KI-Systemen betroffenen Konsument:innen und Bürger:innen gar nicht einbezog und deshalb auch nicht abbildet. Für einen sinnvollen, dem gesellschaftlichen Fortschrittsdienlichen Einsatz von KI ist es unabdingbar einen Prozess aufzusetzen, der Partizipation weiter Teile der Bevölkerung und verschiedener Stakeholder ermöglicht und legitime Interessen und Werte in den Regulierungs- und somit auch Entwicklungsprozess einbringen kann.

Keinesfalls fehlen sollten weitreichende Zertifizierungserfordernisse, die auch die Qualitätsprüfung für KI-Systeme beinhalten. Ein starkes Transparenzgebot verlangt auch, dass alle KI-Systeme im Verkehr kenntlich zu machen sind. Audits und Zertifizierungen in diesem Sinn sollten unabhängige Folgenabschä tzungen (Impact Assessments) sein, die von unabhängigen Stellen und nicht von den Unternehmen selbst durchgeführt werden sollten. Auf ethischen und grundrechtlichen Überlegungen beruhende Verbote sollten beibehalten werden und zusätzlich sollten in den Werte Kanon auch die Umweltwirkungen von KI-Systemen miteinfließen, da diese unmittelbar auf die Lebensgrundlagen von Menschen rückwirken.

UNSER NEWSLETTER

Newsletter bestellen JETZT BESTELLEN

■■■ WEITERE BEITRÄGE DIESER FACHDEBATTE

EIN DEBATTENBEITRAG VON
Alexander Pinker
Innovation-Profiler & Future Strategist
Alexander Pinker - Innovation-Profiling

Alexander Pinker - Innovation-Profiler & Future Strategist
EU | Regulierung

KI-Regeln brauchen Flexibilität und ■ ■ ■

Was am geplanten KI-Act gut ist - und wo die ■ ■ ■

EIN DEBATTENBEITRAG VON
Alexander Pinker
Innovation-Profiler & Future Strategist
Alexander Pinker - Innovation-Profiling

EIN DEBATTENBEITRAG VON
Dr. Michael Klimke
CEO
Bayerische KI-Agentur

Dr. Michael Klimke - CEO Bayerische KI-Agentur
KI | AI

Für ein menschenzentriertes EU-KI-Regelwerk

Warum die Debatte über KI zu oberflächlich ist

EIN DEBATTENBEITRAG VON
Dr. Michael Klimke
CEO
Bayerische KI-Agentur

EIN DEBATTENBEITRAG VON
Prof. Marlies Temper
Studiengangsleiterin Data Intelligence (MA) und Studiengangsleiterin Data Science and Business Analytics, Stellvertretende Departmentleiterin Department Informatik und Security
Fachhochschule St. Pölten GmbH

Prof. Marlies Temper - Studiengangsleiterin Data Intelligence (MA) und Studiengangsleiterin Data Science and Business Analytics, Stellvertretende Departmentleiterin Department Informatik und Security, Fachhochschule St. Pölten GmbH
KI | EU

Forscher plädieren für Beratungsstelle ■ ■ ■

Was bei der künftigen Regulierung beachtet ■ ■ ■

EIN DEBATTENBEITRAG VON
Prof. Marlies Temper
Studiengangsleiterin Data Intelligence (MA) und Studiengangsleiterin Data Science and Business Analytics, Stellvertretende Departmentleiterin Department Informatik und Security
Fachhochschule St. Pölten GmbH

ZUR FACHDEBATTE

ÜBER UNSERE FACHDEBATTEN

Meinungsbarometer.info ist die Plattform für Fachdebatten in der digitalen Welt. Unsere Fachdebatten vernetzen Meinungen, Wissen & Köpfe und richten sich an Entscheider auf allen Fach- und Führungsebenen. Unsere Fachdebatten vereinen die hellsten Köpfe, die sich in herausragender Weise mit den drängendsten Fragen unserer Zeit auseinandersetzen.

überparteilich, branchenübergreifend, interdisziplinär

Unsere Fachdebatten fördern Wissensaustausch, Meinungsbildung sowie Entscheidungsfindung in Politik, Wirtschaft, Wissenschaft, Medien und Gesellschaft. Sie stehen für neue Erkenntnisse aus unterschiedlichen Perspektiven. Mit unseren Fachdebatten wollen wir den respektvollen Austausch von Argumenten auf Augenhöhe ermöglichen - faktenbasiert, in gegenseitiger Wertschätzung und ohne Ausklammerung kontroverser Meinungen.

kompetent, konstruktiv, reichweitenstark

Bei uns debattieren Spitzenpolitiker aus ganz Europa, Führungskräfte der Wirtschaft, namhafte Wissenschaftler, Top-Entscheider der Medienbranche, Vordenker aus allen gesellschaftlichen Bereichen sowie internationale und nationale Fachjournalisten. Wir haben bereits mehr als 600 Fachdebatten mit über 20 Millionen Teilnahmen online abgewickelt.

nachhaltig und budgetschonend

Mit unseren Fachdebatten setzen wir auf Nachhaltigkeit. Unsere Fachdebatten schonen nicht nur Umwelt und Klima, sondern auch das eigene Budget. Sie helfen, aufwendige Veranstaltungen und überflüssige Geschäftsreisen zu reduzieren – und trotzdem die angestrebten Kommunikationsziele zu erreichen.

mehr als nur ein Tweet

Unsere Fachdebatten sind mehr als nur ein flüchtiger Tweet, ein oberflächlicher Post oder ein eifriger Klick auf den Gefällt-mir-Button. Im Zeitalter von X (ehemals Twitter), Facebook & Co. und der zunehmenden Verkürzung, Verkümmerung und Verrohung von Sprache wollen wir ein Zeichen setzen für die Entwicklung einer neuen Debattenkultur im Internet. Wir wollen das gesamte Potential von Sprache nutzen, verständlich und respektvoll miteinander zu kommunizieren.