Menue-Button
← FACHDEBATTE Interview

Regulatorische "Sandkästen" niedrigschwellig und unbürokratisch angelegen

Wie der Regel-Spagat bei KI gelingen kann

Max Kettner - Leiter Förderprojekte und Leiter Mittelstand 4.0-Kompetenzzentrum Berlin beim BVMW - Bundesverband mittelständische Wirtschaft, Unternehmerverband Deutschlands e.V. Quelle: Annemarie Thiede/ BVMW Max Kettner Leiter Mittelstand 4.0-Kompetenzzentrum Berlin BVMW - Bundesverband mittelständische Wirtschaft 27.05.2021
INITIATOR DIESER FACHDEBATTE
Uwe Schimunek
Freier Journalist
Meinungsbarometer.info
ZUR FACHDEBATTE

"Der KI-Regulierungsentwurf der EU ist ein vielversprechender Ansatz, der die richtigen Grundlagen für einen verantwortungsvollen Einsatz von KI bietet", sagt Max Kettner vom Bundesverband mittelständische Wirtschaft. Für die endgültige Fassung fordert er allerdings noch einige Konkretisierungen und Änderungen.







Mit einem neuen Rechtsrahmen will die EU-Kommission Grundrechte schützen und Vertrauen in KI stärken – wie gut erfüllen die geplanten Regeln diese Ziele aus Ihrer Sicht ganz grundsätzlich?
Will die EU einen wettbewerbsfähigen Raum für vertrauensvolle, europäische KI-Entwicklungen und -Anwendungen schaffen, bedarf es eines gesetzlichen Rahmens, der den Missbrauch von KI verhindert und gleichzeitig einen flexiblen, innovationsfördernden Rahmen für KMU setzt. Das ist eine enorme Herausforderung, denn der Grat zwischen notwendiger Regulierung und einer hemmenden Überregulierung ist sehr schmal. Gleichzeitig sollten Freiheitsrechte oder Diskriminierungsverbote, die ja jetzt schon unabhängig von eingesetzten Technologien gelten, berücksichtigt und einbezogen werden.

Den Zielen steht auch die Entwicklung von KI-Anwendungen gegenüber, die ja ebenfalls im europäischen Raum gefördert werden sollen. Hier weist Europa im Vergleich zu den USA oder China bspw. bei den Patentanmeldungen eben auch schon einen deutlichen Rückstand auf. Der Entwurf hat hier einige gute Ansätze, einiges bleibt aber auch noch offen. Allen voran, wie KI rein rechtlich überhaupt definiert wird. Dazu kommt, dass der Erfüllungsaufwand für Unternehmen an vielen Stellen ungeklärt ist. Wie genau läuft die Risikoeinstufung ab und wie und von wem werden KI-Anwendungen geprüft? Ist der Zugang zu KI-Anwendungen für KMU mit zu hohen Hürden verbunden, verfehlt der Rechtsrahmen das Ziel.

JETZT HERUNTERLADEN

DIE DOKUMENTATION DIESER FACHDEBATTE

DIE DOKUMENTATION ENTHÄLT

alle Debattenbeiträge ungekürzt im Original
Übersicht aller aktiven Debattenteilnehmer
Summary für Ihr Top-Management
MEHR ERFAHREN


Die EU-Kommission unterscheidet KI nach dem Risiko. So sollen etwa bei der Kreditvergabe sehr strenge, bei Chatbots lockerere Regeln gelten – wie bewerten Sie die vorgesehenen Differenzierungen?
Eine risikobasierte Regulierung der Anwendung von KI klingt erstmal sinnvoll, zumal die derzeit im Entwurf befindliche Liste der Hochrisikoanwendungen regelmäßig durch Sachverständige begutachtet und aktualisiert werden soll. Durch die Abstufungen können Unternehmen als unbedenklich eingestufte KI-Anwendungen weiterhin ohne zusätzliche Hürden einsetzen, während Anwendungen mit hohem Risiko extern überprüft werden müssen. Gleichzeitig bietet der Entwurf KMU und Start-Ups mit sogenannten regulatorischen „Sandkästen“ ein kontrolliertes Umfeld, in dem
innovative Technologie für einen begrenzten Zeitraum getestet werden kann.
Allerdings erlauben die drei angedachten Risikostufen derzeit wenig Differenzierung zwischen spezifischen Anwendungsfeldern. Hierdurch ist zu erwarten, dass in der Praxis deutlich mehr KI-Anwendungen als die geschätzten 15 Prozent als Hochrisikoanwendungen eingestuft werden. Gleichzeitig sollte die Möglichkeit einer Einzelfallbeurteilung gegeben sein, um neue, oder interdisziplinäre Anwendungsfälle zu klassifizieren. Es ist unbedingt notwendig, dass Maßnahmen ergriffen werden, um trotz anwendungszentrierter Risikoreinstufung die Hürden für den Einsatz in Unternehmen so gering wie möglich zu halten.

Der Entwurf der EU-Kommission plant hier bereits mehrere Vorgaben, die unbedingt auszuweiten sind. Die regulatorischen „Sandkästen“ müssen niedrigschwellig und unbürokratisch angelegt sein. Zusätzlich braucht es für KMU ein Beratungsprogramm zur Risikoeinschätzung. Hier müssen die Entwickler von KI-Anwendungen Klarheit haben, damit ihre Produkte am Schluss auch wettbewerbsfähig sind. Konformitätsbewertungen, notwendige Qualitäts- und Risikomanagementsysteme dürfen keine riesigen bürokratischen Hürden werden und so am Schluss Innovationen aus Europa hemmen.

KI-gestützte Personenerkennung soll nur stark eingeschränkt, Social Scoring für Staaten ganz verboten sein. Wie sehen Sie diese Pläne?
Dass die biometirische Identifizierung z.B. für die Authentifizierung bei digitalen Endgeräten unter Einhaltung besonderer Vorschriften erlaubt bleibt, ist sehr sinnvoll. Gleichzeitig ist es notwendig KI-Anwendungen, die mit unannehmbarem Risiko für die Gesellschaft und einer Verletzung europäischer Grundrechte einhergehen, zu verbieten. Dass hier einem Einsatz wie beim Sozialkreditsystem in China ein gesetzlicher Riegel vorgeschoben wird, ist komplett richtig. Bei Ausnahmeregelungen wie dem Einsatz von Massenüberwachung im öffentlichen Raum im Falle von „berechtigten Interesse“ oder bei militärischen Einsätzen muss dann genau hingeschaut werden, wenn die EU ihrem Anspruch eines Qualitätssiegels für vertrauensvolle KI gerecht werden will.

Was sollte aus Ihrer Sicht unbedingt noch in einem endgültigen EU-KI-Regelwerk stehen – und was auf keinem Fall?
Der KI-Regulierungsentwurf der EU ist ein vielversprechender Ansatz, der die richtigen Grundlagen für einen verantwortungsvollen Einsatz von KI bietet. In keinem Fall darf es zu einer Verschärfung der Risikostufen kommen, die eine Wettbewerbsfähigkeit der EU im Bereich der KI gefährden könnte. In der endgültigen Fassung müssen die Richtlinien in jedem Fall weiter konkretisiert und eine praktische Umsetzung ohne zusätzliche Hürden für KMU und KI-Entwickler festgelegt werden. Die Regulierung darf nicht das Gegenteil bewirken und am Ende zu einer Rechtsunsicherheit führen.

UNSER NEWSLETTER

Newsletter bestellen JETZT BESTELLEN

■■■ WEITERE BEITRÄGE DIESER FACHDEBATTE

EIN DEBATTENBEITRAG VON
Prof. Dr. Antje von Ungern-Sternberg
Direktorin
Institut für Recht und Digitalisierung Trier (IRDT), Universität Trier

Prof. Dr. Antje von Ungern-Sternberg - Direktorin, Institut für Recht und Digitalisierung Trier (IRDT), Universität Trier
EU | KI

Neue Regeln für Qualitäts-, ■ ■ ■

Was die EU-KI-Verordnung leisten könnte

EIN DEBATTENBEITRAG VON
Prof. Dr. Antje von Ungern-Sternberg
Direktorin
Institut für Recht und Digitalisierung Trier (IRDT), Universität Trier

EIN DEBATTENBEITRAG VON
Prof. Dr. Matthias Wendland
Universitätsprofessor für Law and Business Innovation
Karl-Franzens-Universität Graz

Prof. Dr. Matthias Wendland, LL.M. (Harvard) - Universitätsprofessor für Law and Business Innovation, Institut für Unternehmensrecht und Internationales Wirtschaftsrecht, Karl-Franzens-Universität Graz
EU | KI

Über Pioniercharakter, Vorbildfunktion ■ ■ ■

Was an der europäischen KI-Verordnung gut ist - ■ ■ ■

EIN DEBATTENBEITRAG VON
Prof. Dr. Matthias Wendland
Universitätsprofessor für Law and Business Innovation
Karl-Franzens-Universität Graz

EIN DEBATTENBEITRAG VON
Prof. Dr. Sabine Theresia Köszegi
Ratsvorsitzende
Österreichischer Rat für Robotik und Künstliche Intelligenz

Prof. Dr. Sabine Theresia Köszegi - Ratsvorsitzende, Österreichischer Rat für Robotik und Künstliche Intelligenz
EU | KI

Schlupflöcher und ■ ■ ■

Warum die EU-Pläne für die KI-Regeln in die ■ ■ ■

EIN DEBATTENBEITRAG VON
Prof. Dr. Sabine Theresia Köszegi
Ratsvorsitzende
Österreichischer Rat für Robotik und Künstliche Intelligenz

ZUR FACHDEBATTE

ÜBER UNSERE FACHDEBATTEN

Meinungsbarometer.info ist die Plattform für Fachdebatten in der digitalen Welt. Unsere Fachdebatten vernetzen Meinungen, Wissen & Köpfe und richten sich an Entscheider auf allen Fach- und Führungsebenen. Unsere Fachdebatten vereinen die hellsten Köpfe, die sich in herausragender Weise mit den drängendsten Fragen unserer Zeit auseinandersetzen.

überparteilich, branchenübergreifend, interdisziplinär

Unsere Fachdebatten fördern Wissensaustausch, Meinungsbildung sowie Entscheidungsfindung in Politik, Wirtschaft, Wissenschaft, Medien und Gesellschaft. Sie stehen für neue Erkenntnisse aus unterschiedlichen Perspektiven. Mit unseren Fachdebatten wollen wir den respektvollen Austausch von Argumenten auf Augenhöhe ermöglichen - faktenbasiert, in gegenseitiger Wertschätzung und ohne Ausklammerung kontroverser Meinungen.

kompetent, konstruktiv, reichweitenstark

Bei uns debattieren Spitzenpolitiker aus ganz Europa, Führungskräfte der Wirtschaft, namhafte Wissenschaftler, Top-Entscheider der Medienbranche, Vordenker aus allen gesellschaftlichen Bereichen sowie internationale und nationale Fachjournalisten. Wir haben bereits mehr als 600 Fachdebatten mit über 20 Millionen Teilnahmen online abgewickelt.

nachhaltig und budgetschonend

Mit unseren Fachdebatten setzen wir auf Nachhaltigkeit. Unsere Fachdebatten schonen nicht nur Umwelt und Klima, sondern auch das eigene Budget. Sie helfen, aufwendige Veranstaltungen und überflüssige Geschäftsreisen zu reduzieren – und trotzdem die angestrebten Kommunikationsziele zu erreichen.

mehr als nur ein Tweet

Unsere Fachdebatten sind mehr als nur ein flüchtiger Tweet, ein oberflächlicher Post oder ein eifriger Klick auf den Gefällt-mir-Button. Im Zeitalter von X (ehemals Twitter), Facebook & Co. und der zunehmenden Verkürzung, Verkümmerung und Verrohung von Sprache wollen wir ein Zeichen setzen für die Entwicklung einer neuen Debattenkultur im Internet. Wir wollen das gesamte Potential von Sprache nutzen, verständlich und respektvoll miteinander zu kommunizieren.