Menue-Button
← FACHDEBATTE Summary

Schafft die EU einen Rechtsrahmen für sichere und nützliche KI?

Wie der Entwurf der EU-Kommission zu bewerten ist

Uwe Schimunek, Freier Journalist Quelle: Meinungsbarometer.info Uwe Schimunek Freier Journalist Meinungsbarometer.info 16.11.2021

Die EU sucht in Sachen Künstlicher Intelligenz die Quadratur des Kreises. Mit einem Entwurf für einen Rechtsrahmen will EU-Kommission KI-Anwendungen regulieren und damit zugleich Grundrechte schützen und Vertrauen in KI stärken. Prof. Dr. Antje von Ungern-Sternberg, Direktorin am Institut für Recht und Digitalisierung Trier (IRDT) der Universität Trier begrüßt, „dass die EU-Kommission die Regulierung von Algorithmen und Künstlicher Intelligenz in Angriff nimmt.“ Der Vorschlag verstehe KI sehr weit, beanspruche aber nur eine Regulierung bestimmter Technologien nach Einstufung in drei Risikokategorien. So würden einige Praktiken werden gänzlich verboten, Hochrisiko-Praktiken mit Sicherungsmechanismen versehen und für weitere Praktiken gebe es lediglich Transparenzanforderungen. Die Expertin schätzt ein: „In der Tat ergänzt dieser Ansatz die Datenschutzgrundverordnung und verspricht den notwendigen Grundrechtsschutz.“ Zielführend sei auch, dass Praktiken wie das Profiling, also das Errechnen menschlicher Risiko- und Chancenpotentiale, etwa im Kontext von Bildung, Arbeit oder Kriminalitätsbekämpfung nur noch zulässig sein sollen, wenn das Verfahren Qualitätsstandards genügt, hinreichend dokumentiert wird und durch den Menschen überwacht und korrigiert werden kann.

Auch für den Vorstandsvorsitzenden des Internetwirtschafts-Verband eco, Oliver Süme, bietet das KI-Paket eine gute Diskussionsgrundlage. Man könne über die Kennzeichnungspflicht für KI-Bots oder den Umfang von Dokumentationspflichten diskutieren. „Aber die vorgezeichneten roten Linien stimmen schon einmal. Das sollte auch so bleiben.“ Er betont, dass die deutsche wie europäische Wirtschaft für eine erfolgreiche Einführung von KI-Technologien politischen Rückenwind benötigt. Man brauche neben gezielter Forschung und Entwicklung auf Basis leistungsfähiger digitaler Infrastrukturen auch die gesellschaftliche Akzeptanz für KI-Technologien. Und: „Damit auch kleine und mittelständische Unternehmen KI optimal und souverän nutzen können, muss der Mittelstand besonders gefördert werden.“

Die Präsidentin des Ethikverbands der deutschen Wirtschaft, Dr. Irina Kummert, fordert indes mehr den Blick über den Tellerrand. Die EU-Kommission glaubt aus ihrer Sicht, dass sie analog zum Datenschutz mit dem vorliegenden Regelwerk Standards vorgeben kann, an die sich andere Staaten anschließen werden. Die Expertin geht davon nicht unbedingt aus, denn „sowohl die USA u.a. über die amerikanische Verbraucherschutz- und Wettbewerbsbehörde Federal Trade Commission (FTC) als auch China bringen sich hinsichtlich der Definition von ethischen Normen und Standards für KI in Stellung.“ Dort würden andere Parameter eine Rolle spielen als Risikostufen und letztlich die Chancen neuer Technologien stärker in den Vordergrund gestellt. Daher mahnt sie, was aus der EU-Richtlinie keinesfalls werden soll: „Ein weiterer Regulationsmoloch, der in erster Linie verhindert, auch durch einen Berg an Administration nicht pragmatisch umsetzbar ist und einen gesunden Wettbewerb auf vielerlei Ebenen unmöglich macht.“

Auch Daniel Abbou, Geschäftsführer im KI Bundesverband sieht im aktuellen Vorschlag noch einige Probleme. „Die Definition von Künstlicher Intelligenz ist zu breit und sollte sich unserer Meinung nach an der Definition der High-Level Expert Group orientieren, um auch wirklich nur KI Anwendungen zu betreffen.“ Darüber hinaus vermisst er in vielen Punkten noch Anweisungen zur Umsetzung der Regulierung. Max Kettner vom BVMW - Bundesverband mittelständische Wirtschaft, Unternehmerverband Deutschlands sieht ebenfalls, dass der Erfüllungsaufwand für Unternehmen an vielen Stellen ungeklärt ist: „Wie genau läuft die Risikoeinstufung ab und wie und von wem werden KI-Anwendungen geprüft?“ Wenn der Zugang zu KI-Anwendungen für KMU mit zu hohen Hürden verbunden sei, verfehle der Rechtsrahmen das Ziel. Ronnie Vuine vom Bundesverband Deutsche Startups kritisiert, dass der Entwurf einen Schwerpunkt auf Themen des Grundrechtsschutzes legt und damit unterstellt, dass die betroffenen Grundrechte, ohne Regulierung nicht oder schwerer zu wahren wären. „Hier besteht die Gefahr einer beim Vertrauensaufbau kontraproduktiven Stigmatisierung des Werkzeugs KI, während die Ursache der Grundrechtsverletzungen nicht in der Technologie zu suchen sein dürfte.“

In Österreich wird das Vorhaben der EU-Kommission natürlich auch diskutiert. Für Prof. Dr. Sabine Theresia Köszegi, Vorsitzende des Österreichischen Rats für Robotik und Künstliche Intelligenz, sind die Verankerung von Grundrechten, wie der Respekt für Autonomie und Selbstbestimmung, von Fairness und der Schutz vor Diskriminierung wichtige Eckpfeiler für Technologien, die starken Einfluss auf unser Leben nehmen und auch gesamtgesellschaftliche Auswirkungen haben können. Auch der Risiko-basierte Ansatz zur Klassifizierung sei von der HLEG AI vorgeschlagen worden. Allerdings: „Ob die geplanten Regelungen den Schutz dieser Grundrechte tatsächlich gewährleisten können, hängt am Ende davon ab, wie diese Regulierungsvorschriften im Detail und in den einzelnen Mitgliedsstaaten operationalisiert, implementiert und durchgesetzt werden.“

Prof. Dr. Matthias Wendland vom Institut für Unternehmensrecht und Internationales Wirtschaftsrecht an der Karl-Franzens-Universität Graz, sieht einen blinden Fleck derzeit noch im Bereich des Rechtsschutzes und zwar sowohl mit Blick auf den Individualrechtsschutz Betroffener, als auch im Hinblick auf den kollektiven Rechtsschutz. „Vor allem bei algorithmenbasierten Bewertungen besteht die Gefahr, dass Betroffene im Fall von Fehlfunktionen erheblich geschädigt werden, mit weitreichenden Folgen für den Zugang zu Märkten und Dienstleistungen.“ Hier wäre der Verordnungsvorschlag aus seiner Sicht um entsprechende Ansprüche der Betroffenen auf Offenlegung der Bewertungsgrundlagen sowie Korrektur und Löschung ungerechtfertigter Bewertungen zu ergänzen. Flankierend sollten nach Ansicht des Experten, wie im Bereich des unlauteren Wettbewerbs seit weit langem bewährt, Verbraucherschutzorganisationen ein Verbandsklagerecht eingeräumt werden, um Verstöße gegen die Anforderungen der KI-VO gerichtlich geltend machen und gegebenenfalls eine unabhängige Drittprüfung anstoßen zu können. „Davon würden die Sicherheit von KI-Systemen und das Vertrauen in KI insgesamt ganz erheblich profitieren.“

UNSER NEWSLETTER

Newsletter bestellen JETZT BESTELLEN

■■■ WEITERE BEITRÄGE DIESER FACHDEBATTE

EIN DEBATTENBEITRAG VON
Prof. Dr. Antje von Ungern-Sternberg
Direktorin
Institut für Recht und Digitalisierung Trier (IRDT), Universität Trier

Prof. Dr. Antje von Ungern-Sternberg - Direktorin, Institut für Recht und Digitalisierung Trier (IRDT), Universität Trier
EU | KI

Neue Regeln für Qualitäts-, ■ ■ ■

Was die EU-KI-Verordnung leisten könnte

EIN DEBATTENBEITRAG VON
Prof. Dr. Antje von Ungern-Sternberg
Direktorin
Institut für Recht und Digitalisierung Trier (IRDT), Universität Trier

EIN DEBATTENBEITRAG VON
Prof. Dr. Matthias Wendland
Universitätsprofessor für Law and Business Innovation
Karl-Franzens-Universität Graz

Prof. Dr. Matthias Wendland, LL.M. (Harvard) - Universitätsprofessor für Law and Business Innovation, Institut für Unternehmensrecht und Internationales Wirtschaftsrecht, Karl-Franzens-Universität Graz
EU | KI

Über Pioniercharakter, Vorbildfunktion ■ ■ ■

Was an der europäischen KI-Verordnung gut ist - ■ ■ ■

EIN DEBATTENBEITRAG VON
Prof. Dr. Matthias Wendland
Universitätsprofessor für Law and Business Innovation
Karl-Franzens-Universität Graz

EIN DEBATTENBEITRAG VON
Prof. Dr. Sabine Theresia Köszegi
Ratsvorsitzende
Österreichischer Rat für Robotik und Künstliche Intelligenz

Prof. Dr. Sabine Theresia Köszegi - Ratsvorsitzende, Österreichischer Rat für Robotik und Künstliche Intelligenz
EU | KI

Schlupflöcher und ■ ■ ■

Warum die EU-Pläne für die KI-Regeln in die ■ ■ ■

EIN DEBATTENBEITRAG VON
Prof. Dr. Sabine Theresia Köszegi
Ratsvorsitzende
Österreichischer Rat für Robotik und Künstliche Intelligenz

ZUR FACHDEBATTE

ÜBER UNSERE FACHDEBATTEN

Meinungsbarometer.info ist die Plattform für Fachdebatten in der digitalen Welt. Unsere Fachdebatten vernetzen Meinungen, Wissen & Köpfe und richten sich an Entscheider auf allen Fach- und Führungsebenen. Unsere Fachdebatten vereinen die hellsten Köpfe, die sich in herausragender Weise mit den drängendsten Fragen unserer Zeit auseinandersetzen.

überparteilich, branchenübergreifend, interdisziplinär

Unsere Fachdebatten fördern Wissensaustausch, Meinungsbildung sowie Entscheidungsfindung in Politik, Wirtschaft, Wissenschaft, Medien und Gesellschaft. Sie stehen für neue Erkenntnisse aus unterschiedlichen Perspektiven. Mit unseren Fachdebatten wollen wir den respektvollen Austausch von Argumenten auf Augenhöhe ermöglichen - faktenbasiert, in gegenseitiger Wertschätzung und ohne Ausklammerung kontroverser Meinungen.

kompetent, konstruktiv, reichweitenstark

Bei uns debattieren Spitzenpolitiker aus ganz Europa, Führungskräfte der Wirtschaft, namhafte Wissenschaftler, Top-Entscheider der Medienbranche, Vordenker aus allen gesellschaftlichen Bereichen sowie internationale und nationale Fachjournalisten. Wir haben bereits mehr als 600 Fachdebatten mit über 20 Millionen Teilnahmen online abgewickelt.

nachhaltig und budgetschonend

Mit unseren Fachdebatten setzen wir auf Nachhaltigkeit. Unsere Fachdebatten schonen nicht nur Umwelt und Klima, sondern auch das eigene Budget. Sie helfen, aufwendige Veranstaltungen und überflüssige Geschäftsreisen zu reduzieren – und trotzdem die angestrebten Kommunikationsziele zu erreichen.

mehr als nur ein Tweet

Unsere Fachdebatten sind mehr als nur ein flüchtiger Tweet, ein oberflächlicher Post oder ein eifriger Klick auf den Gefällt-mir-Button. Im Zeitalter von X (ehemals Twitter), Facebook & Co. und der zunehmenden Verkürzung, Verkümmerung und Verrohung von Sprache wollen wir ein Zeichen setzen für die Entwicklung einer neuen Debattenkultur im Internet. Wir wollen das gesamte Potential von Sprache nutzen, verständlich und respektvoll miteinander zu kommunizieren.