Menue-Button
← FACHDEBATTE Interview

Warum es rote Linien für KI braucht

Und welche Regelungen zu weit gehen würden

Prof. Dr. Christian Djeffal - Rechtswissenschaftler, Technische Universität München Quelle: TUM Prof. Dr. Christian Djeffal Rechtswissenschaftler Technische Universität München 19.06.2023
INITIATOR DIESER FACHDEBATTE
Uwe Schimunek
Freier Journalist
Meinungsbarometer.info
ZUR FACHDEBATTE

Prof. Dr. Christian Djeffal von der Technischen Universität München sieht in den geplanten EU-Regeln für KI viele gute Ansätze. Im Detail muss aus Sicht des Rechtswissenschaftlers aber noch nachgebessert werden.







Die geplanten EU-Regeln teilen KI-Anwendungen in Risikogruppen ein - wie bewerten Sie diesen Ansatz?
Es ist grundsätzlich positiv, dass sich der Kommissionsentwurf auf Hochrisikoanwendungen konzentriert, daneben Anwendungen verbietet und bestimmte Transparenzpflichten einführt. Die Alternativen sind alle schlechter: Man kann sicher nicht alle Anwendungen über einen Kamm scheren. Man kann auch nicht an anderen Merkmalen wie der spezifischen Technologie anknüpfen. Das Problem ist die Definition von Hochrisikoanwendungen. Derzeit handelt es sich um eine Aufzählung von Anwendungen: KI bei der Einstellung von Mitarbeitern oder bei der Bewertung von Schülern. Hier sollte der Gesetzgeber noch nachschärfen und weitere abstrakte Kriterien einführen.

JETZT HERUNTERLADEN

DIE DOKUMENTATION DIESER FACHDEBATTE

DIE DOKUMENTATION ENTHÄLT

alle Debattenbeiträge ungekürzt im Original
Übersicht aller aktiven Debattenteilnehmer
Summary für Ihr Top-Management
MEHR ERFAHREN


Bestimmte KI-Systeme sollen ganz verboten werden, etwa wenn sie zum Social Scoring eingesetzt werden. Was halten Sie davon?
Grundsätzlich richtig, denn KI kann heute schon so viel, dass es rote Linien für den Einsatz dieser Technologie geben muss. Ein Verbot ist aber das äußerste Mittel, die ultima ratio. Ein solches Verbot ist ein scharfes Schwert, das gut abgewogen werden muss und nur dann zum Einsatz kommen darf, wenn im Ergebnis keine legitime Nutzung solcher Systeme zu erwarten ist. In welchen Fällen dies z.B. beim Social Scoring der Fall ist, muss im Einzelfall geprüft werden. Auch diese Situationen müssen definiert werden. Es überrascht nicht, dass Art. 5 zu den umstrittensten Regelungen des KI-Gesetzes gehört. Ich glaube auch, dass dieser Artikel am schnellsten von der technischen Entwicklung überholt werden wird.

Kritiker befürchten, dass insbesondere innovative Start-ups durch die Regulierung ausgebremst werden. Wie schätzen Sie diese Gefahr ein?
Die Gefahr ist grundsätzlich nicht von der Hand zu weisen. Jede Regulierung muss umgesetzt werden und die Umsetzung verursacht Aufwand. Natürlich haben Start-ups kurz nach der Gründung oft nicht die Kapazitäten, sich mit diesen Themen auseinanderzusetzen, das kann eine Hürde sein. Umgekehrt sollten gerade neue, disruptive und innovative Anwendungen rechtliche, ethische und gesellschaftliche Aspekte von Anfang an mitdenken. Das sind sicher keine unüberwindbaren Gegensätze, denn Start-ups haben am Anfang einige Probleme, angefangen bei der Finanzierung. Ein Ausweg ist, Rechtsberatung als Teil der Start-up-Förderung zu etablieren. Applied AI hat hier zum Beispiel ein Beratungsangebot aufgebaut und auch meine Forschungsgruppe berät Projekte, die gemeinnützige Ziele verfolgen.

Man sollte hier aber nicht zu einseitig agieren. Regulierung kann auch große Vorteile für Start-ups haben. Es gibt klare Verhaltenspflichten, Haftungsrisiken können begrenzt werden, wenn man sich zumindest regelkonform verhält. So können Startups auch in Anwendungsbereiche vordringen, die ohne diese Haftungsregelung für sie zu riskant wären. An verschiedenen Stellen werden spezielle Regelungen für kleine und mittlere Unternehmen getroffen. Darüber hinaus gibt es auch spezifische Fördermöglichkeiten wie z.B. für Reallabore.

Was sollte aus Ihrer Sicht in einem endgültigen Regelwerk unbedingt enthalten sein - und was auf keinen Fall?
Derzeit fehlen partizipative Elemente, insbesondere beim Risikomanagement. Dabei ist es gerade bei der Erkennung und Behandlung von Risiken sehr wichtig, auch mit Nutzer:innen und auch Bürger:innen zu arbeiten. Daher wäre es aus meiner Sicht absolut notwendig. Ähnliche Regelungen gibt es bereits in der Datenschutzgrundverordnung und im Digitaldienstleistungsgesetz. Denn es ist ein Irrglaube, dass Unternehmen, ihre Compliance-Abteilungen und einschlägige Stellen wie der TÜV allein die gesellschaftliche Relevanz neuer Systeme umfassend erfassen können.

Was auf keinen Fall aufgenommen werden sollte, sind Versuche, die Technologie spezifisch zu regulieren, also bestimmte Vorschriften zu machen. Die Stärke des Entwurfs liegt darin, dass er prozessorientiert ist und Menschen in die Lage versetzt, Verantwortung für die Entwicklung zu übernehmen. Dieses Element sollte unbedingt gestärkt werden, indem die Prozesse mit Leben gefüllt werden.

UNSER NEWSLETTER

Newsletter bestellen JETZT BESTELLEN

■■■ WEITERE BEITRÄGE DIESER FACHDEBATTE

EIN DEBATTENBEITRAG VON
Alexander Pinker
Innovation-Profiler & Future Strategist
Alexander Pinker - Innovation-Profiling

Alexander Pinker - Innovation-Profiler & Future Strategist
EU | Regulierung

KI-Regeln brauchen Flexibilität und ■ ■ ■

Was am geplanten KI-Act gut ist - und wo die ■ ■ ■

EIN DEBATTENBEITRAG VON
Alexander Pinker
Innovation-Profiler & Future Strategist
Alexander Pinker - Innovation-Profiling

EIN DEBATTENBEITRAG VON
Dr. Michael Klimke
CEO
Bayerische KI-Agentur

Dr. Michael Klimke - CEO Bayerische KI-Agentur
KI | AI

Für ein menschenzentriertes EU-KI-Regelwerk

Warum die Debatte über KI zu oberflächlich ist

EIN DEBATTENBEITRAG VON
Dr. Michael Klimke
CEO
Bayerische KI-Agentur

EIN DEBATTENBEITRAG VON
Dr. Walter Peissl
Stv. Direktor
Institut für Technikfolgen-Abschätzung, Österreichische Akademie der Wissenschaften

Mag. Dr. Walter Peissl - Stv. Direktor, Institut für Technikfolgen-Abschätzung, Österreichische Akademie der Wissenschaften
EU | Regulierung

Moratorien für bestimmte KI-Systeme

Warum KI-Regulierung ein Prozess ist

EIN DEBATTENBEITRAG VON
Dr. Walter Peissl
Stv. Direktor
Institut für Technikfolgen-Abschätzung, Österreichische Akademie der Wissenschaften

ZUR FACHDEBATTE

ÜBER UNSERE FACHDEBATTEN

Meinungsbarometer.info ist die Plattform für Fachdebatten in der digitalen Welt. Unsere Fachdebatten vernetzen Meinungen, Wissen & Köpfe und richten sich an Entscheider auf allen Fach- und Führungsebenen. Unsere Fachdebatten vereinen die hellsten Köpfe, die sich in herausragender Weise mit den drängendsten Fragen unserer Zeit auseinandersetzen.

überparteilich, branchenübergreifend, interdisziplinär

Unsere Fachdebatten fördern Wissensaustausch, Meinungsbildung sowie Entscheidungsfindung in Politik, Wirtschaft, Wissenschaft, Medien und Gesellschaft. Sie stehen für neue Erkenntnisse aus unterschiedlichen Perspektiven. Mit unseren Fachdebatten wollen wir den respektvollen Austausch von Argumenten auf Augenhöhe ermöglichen - faktenbasiert, in gegenseitiger Wertschätzung und ohne Ausklammerung kontroverser Meinungen.

kompetent, konstruktiv, reichweitenstark

Bei uns debattieren Spitzenpolitiker aus ganz Europa, Führungskräfte der Wirtschaft, namhafte Wissenschaftler, Top-Entscheider der Medienbranche, Vordenker aus allen gesellschaftlichen Bereichen sowie internationale und nationale Fachjournalisten. Wir haben bereits mehr als 600 Fachdebatten mit über 20 Millionen Teilnahmen online abgewickelt.

nachhaltig und budgetschonend

Mit unseren Fachdebatten setzen wir auf Nachhaltigkeit. Unsere Fachdebatten schonen nicht nur Umwelt und Klima, sondern auch das eigene Budget. Sie helfen, aufwendige Veranstaltungen und überflüssige Geschäftsreisen zu reduzieren – und trotzdem die angestrebten Kommunikationsziele zu erreichen.

mehr als nur ein Tweet

Unsere Fachdebatten sind mehr als nur ein flüchtiger Tweet, ein oberflächlicher Post oder ein eifriger Klick auf den Gefällt-mir-Button. Im Zeitalter von X (ehemals Twitter), Facebook & Co. und der zunehmenden Verkürzung, Verkümmerung und Verrohung von Sprache wollen wir ein Zeichen setzen für die Entwicklung einer neuen Debattenkultur im Internet. Wir wollen das gesamte Potential von Sprache nutzen, verständlich und respektvoll miteinander zu kommunizieren.