Menue-Button
← FACHDEBATTE Interview

Schlupflöcher und Zertifizierungstourismus vermeiden

Warum die EU-Pläne für die KI-Regeln in die richtige Richtung zielen - und was noch klarer werden muss

Prof. Dr. Sabine Theresia Köszegi - Ratsvorsitzende, Österreichischer Rat für Robotik und Künstliche Intelligenz Quelle: TU Wien Prof. Dr. Sabine Theresia Köszegi Ratsvorsitzende Österreichischer Rat für Robotik und Künstliche Intelligenz 22.06.2021
INITIATOR DIESER FACHDEBATTE
Uwe Schimunek
Freier Journalist
Meinungsbarometer.info
ZUR FACHDEBATTE

"Es ist sehr begrüßenswert, dass die EU Kommission mit diesem Regulierungsvorschlag die Grundrechte von Menschen schützen will", erklärt Prof. Dr. Sabine Theresia Köszegi. Die Vorsitzende des Österreichischen Rates für Robotik und Künstliche Intelligenz lehrt am Institut für Managementwissenschaften der TU Wien und ist Gründungsmitglied der Initiative Digitalisierung Chancengerecht. Sie sieht bei den geplanten Regeln im Detail noch offene Fragen.







Mit einem neuen Rechtsrahmen will die EU-Kommission Grundrechte schützen und Vertrauen in KI stärken – wie gut erfüllen die geplanten Regeln diese Ziele aus Ihrer Sicht ganz grundsätzlich?
Es ist sehr begrüßenswert, dass die EU Kommission mit diesem Regulierungsvorschlag die Grundrechte von Menschen schützen will. Der vorliegende Entwurf baut in vielen Punkten auf den Ethikrichtlinien und den Policy-Empfehlungen der High-Level Expert Group für Künstliche Intelligenz der Europäischen Kommission (HLEG AI) auf. Die Verankerung von Grundrechten, wie der Respekt für Autonomie und Selbstbestimmung, von Fairness und der Schutz vor Diskriminierung sind wichtige Eckpfeiler für Technologien, die starken Einfluss auf unser Leben nehmen und auch gesamtgesellschaftliche Auswirkungen haben können. Auch der Risiko-basierte Ansatz zur Klassifizierung wurde von der HLEG AI vorgeschlagen. Ob die geplanten Regelungen den Schutz dieser Grundrechte tatsächlich gewährleisten können, hängt am Ende davon ab, wie diese Regulierungsvorschriften im Detail und in den einzelnen Mitgliedsstaaten operationalisiert, implementiert und durchgesetzt werden. Hier gibt es noch viele offene Fragen.

JETZT BESTELLEN

DIE DOKUMENTATION DIESER FACHDEBATTE

DIE DOKUMENTATION ENTHÄLT

alle Debattenbeiträge ungekürzt im Original
Übersicht aller aktiven Debattenteilnehmer
Summary für Ihr Top-Management
MEHR ERFAHREN


Die EU-Kommission unterscheidet KI nach dem Risiko. So sollen etwa bei der Kreditvergabe sehr strenge, bei Chatbots lockerere Regeln gelten – wie bewerten Sie die vorgesehenen Differenzierungen?
Die Risiko-Differenzierung von KI-Applikationen ist ein grundsätzlich sinnvoll. Da die Europäische Kommission nicht die Technologie selbst, sondern deren konkreten Anwendungen regulieren will, ist eine genaue Bewertung des Risikos bei jeder spezifischen Anwendung notwendig. Allerdings wird uns diese Bewertung vor große Herausforderungen stellen, denn sie ist sicherlich nicht abschließend durchzuführen, sondern kann nur eine provisorische Einstufung nach dem aktuellen Stand des Wissens sein. Die von Ihnen skizzierten Anwendungsfälle von KI-gestützter Kreditvergabe und Chatbots sind dafür gute Beispiele: vulnerable Gruppen, wie Jugendliche oder Suizidgefährdete, können etwa durch manipulative Chatbots durchaus in Situationen gebracht werden, bei denen ihre Unversehrtheit von Leib und Leben auf dem Spiel steht, in etwa, weil sie Jugendliche in riskantes Verhalten treiben. Die nun vorgeschlagenen Richtlinien würden solche Anwendungen, bei korrekter Bewertung in der Stufe nicht-akzeptables Risiko einordnen; sie wären somit verboten. Eine Zulassung von riskanten Anwendungen müsste in jedem Fall an entsprechende Maßnahmen zur Sicherstellung der Grundrechte geknüpft sein. Insofern kommt der erfolgreichen Operationalisierung der Risikobewertung ein Hauptaugenmerk zu. Es bedarf eines andauernden Anpassungsprozesses dieser Risikobewertungen in beide Richtungen, sowohl in Hinblick auf neue technologische Entwicklungen als auch in Hinblick auf neue Anwendungsgebiete. Darüber hinaus wird es spannend, wie die Kompetenzen von Zertifizierungs- und Monitoring-Gremien in den Mitgliedstaaten und sowie in der Kommission genau ausverhandelt werden.

KI-gestützte Personenerkennung soll nur stark eingeschränkt, Social Scoring für Staaten ganz verboten sein. Wie sehen Sie diese Pläne?
Die genannten Anwendungen widersprechen ganz klar den Grundwerten der Europäischen Kommission. Die Grenzziehung mit „Red Lines“ ist daher absolut wichtig. Sie zeigen auf, wofür Europa steht und was nicht toleriert wird. Das gibt den Menschen Sicherheit. Speziell im globalen Kontext kann die EU in diesem Bereich eine eigenständige, grundrechtskonforme Technologiepolitik forcieren, die sich stark von den aktuell anderen wichtigen Playern, vor allem China und die USA, unterscheidet. Allerdings sind auch hier im Detail noch grundlegende Fragen offen, etwa warum nur eine KI-gestützte Live-Personenerkennung ausgeschlossen wird. Hier bedarf es sicherlich noch Nachschärfungen.

Was sollte aus Ihrer Sicht unbedingt noch in einem endgültigen EU-KI-Regelwerk stehen – und was auf keinem Fall?
Es wird wichtig sein, europaweit gültige und gemeinsame Standards zu entwickeln. Dies wird sicherlich eine Herausforderung. Gleichzeitig ist dies aber die einzige Möglichkeit, den Single European Market für vertrauenswürdige KI-Technologien zu verwirklichen und Schlupflöcher und Zertifizierungstourismus zu vermeiden.

UNSER NEWSLETTER

Newsletter bestellen JETZT BESTELLEN

■■■ WEITERE BEITRÄGE DIESER FACHDEBATTE

EIN DEBATTENBEITRAG VON
Prof. Dr. Antje von Ungern-Sternberg
Direktorin
Institut für Recht und Digitalisierung Trier (IRDT), Universität Trier

Prof. Dr. Antje von Ungern-Sternberg - Direktorin, Institut für Recht und Digitalisierung Trier (IRDT), Universität Trier
EU | KI

Neue Regeln für Qualitäts-, ■ ■ ■

Was die EU-KI-Verordnung leisten könnte

EIN DEBATTENBEITRAG VON
Prof. Dr. Antje von Ungern-Sternberg
Direktorin
Institut für Recht und Digitalisierung Trier (IRDT), Universität Trier

EIN DEBATTENBEITRAG VON
Prof. Dr. Matthias Wendland
Universitätsprofessor für Law and Business Innovation
Karl-Franzens-Universität Graz

Prof. Dr. Matthias Wendland, LL.M. (Harvard) - Universitätsprofessor für Law and Business Innovation, Institut für Unternehmensrecht und Internationales Wirtschaftsrecht, Karl-Franzens-Universität Graz
EU | KI

Über Pioniercharakter, Vorbildfunktion ■ ■ ■

Was an der europäischen KI-Verordnung gut ist - ■ ■ ■

EIN DEBATTENBEITRAG VON
Prof. Dr. Matthias Wendland
Universitätsprofessor für Law and Business Innovation
Karl-Franzens-Universität Graz

EIN DEBATTENBEITRAG VON
Oliver Süme
Vorstandsvorsitzender
eco - Verband der Internetwirtschaft e.V.

Oliver Süme - Vorstandsvorsitzender eco - Verband der Internetwirtschaft e.V.
EU | KI

eco mahnt politischen Rückenwind für ■ ■ ■

Warum die EU-Regulierungs-Pläne in die richtige ■ ■ ■

EIN DEBATTENBEITRAG VON
Oliver Süme
Vorstandsvorsitzender
eco - Verband der Internetwirtschaft e.V.

ZUR FACHDEBATTE

■■■ DIESE FACHDEBATTE KÖNNTE SIE AUCH INTERESSIEREN

Uwe Rempe

INITIATOR
Uwe Rempe
Freier Journalist
Meinungsbarometer.info

ÜBER UNSERE FACHDEBATTEN

Meinungsbarometer.info ist die Plattform für Fachdebatten in der digitalen Welt. Unsere Fachdebatten vernetzen Meinungen, Wissen & Köpfe und richten sich an Entscheider auf allen Fach- und Führungsebenen. Unsere Fachdebatten vereinen die hellsten Köpfe, die sich in herausragender Weise mit den drängendsten Fragen unserer Zeit auseinandersetzen.

überparteilich, branchenübergreifend, interdisziplinär

Unsere Fachdebatten fördern Wissensaustausch, Meinungsbildung sowie Entscheidungsfindung in Politik, Wirtschaft, Wissenschaft, Medien und Gesellschaft. Sie stehen für neue Erkenntnisse aus unterschiedlichen Perspektiven. Mit unseren Fachdebatten wollen wir den respektvollen Austausch von Argumenten auf Augenhöhe ermöglichen - faktenbasiert, in gegenseitiger Wertschätzung und ohne Ausklammerung kontroverser Meinungen.

kompetent, konstruktiv, reichweitenstark

Bei uns debattieren Spitzenpolitiker aus ganz Europa, Führungskräfte der Wirtschaft, namhafte Wissenschaftler, Top-Entscheider der Medienbranche, Vordenker aus allen gesellschaftlichen Bereichen sowie internationale und nationale Fachjournalisten. Wir haben bereits mehr als 600 Fachdebatten mit über 20 Millionen Teilnahmen online abgewickelt.

nachhaltig und budgetschonend

Mit unseren Fachdebatten setzen wir auf Nachhaltigkeit. Unsere Fachdebatten schonen nicht nur Umwelt und Klima, sondern auch das eigene Budget. Sie helfen, aufwendige Veranstaltungen und überflüssige Geschäftsreisen zu reduzieren – und trotzdem die angestrebten Kommunikationsziele zu erreichen.

mehr als nur ein Tweet

Unsere Fachdebatten sind mehr als nur ein flüchtiger Tweet, ein oberflächlicher Post oder ein eifriger Klick auf den Gefällt-mir-Button. Im Zeitalter von X (ehemals Twitter), Facebook & Co. und der zunehmenden Verkürzung, Verkümmerung und Verrohung von Sprache wollen wir ein Zeichen setzen für die Entwicklung einer neuen Debattenkultur im Internet. Wir wollen das gesamte Potential von Sprache nutzen, verständlich und respektvoll miteinander zu kommunizieren.