Menue-Button
← FACHDEBATTE Interview

Forscher plädieren für Beratungsstelle für KI-Regeln

Was bei der künftigen Regulierung beachtet werden sollte

Prof. Marlies Temper - Studiengangsleiterin Data Intelligence (MA) und Studiengangsleiterin Data Science and Business Analytics, Stellvertretende Departmentleiterin Department Informatik und Security, Fachhochschule St. Pölten GmbH Quelle: Arnd Ötting Prof. Marlies Temper Studiengangsleiterin Data Intelligence (MA) und Studiengangsleiterin Data Science and Business Analytics, Stellvertretende Departmentleiterin Department Informatik und Security Fachhochschule St. Pölten GmbH 11.07.2023
INITIATOR DIESER FACHDEBATTE
Uwe Schimunek
Freier Journalist
Meinungsbarometer.info
ZUR FACHDEBATTE

"Die Regulierung von Künstlicher Intelligenz stellt eine notwendige Herausforderung in unserer heutigen digitalen Welt dar", betont Prof. Marlies Temper von der Fachhochschule St. Pölten. Das Interview ist unter Mitarbeit von Simon Tjoa und Peter Kieseberg entstanden.







Für die geplanten EU-Regeln werden KI-Anwendungen in Risikogruppen ein geteilt – wie bewerten Sie diesen Ansatz?
Wir erachten die risikobasierte Einteilung von KI-Anwendungen als zielführenden Ansatz. Die Einordnung von Hochrisiko-KI-Systemen durch Anwendungsgebiete in den Anhängen des Entwurfs ermöglicht es, zielgerichtet bestimmte Bereiche zu regulieren und auf zukünftige Entwicklungen der künstlichen Intelligenz in anderen Anwendungsbereichen, falls notwendig, zu reagieren (z.B.: durch das Hinzufügen neuer Bereiche). Um eine Überregulierung zu vermeiden, wäre es wichtig die Anwendungsbereiche so konkret wie möglich und weitreichend wie notwendig zu definieren.

JETZT BESTELLEN

DIE DOKUMENTATION DIESER FACHDEBATTE

DIE DOKUMENTATION ENTHÄLT

alle Debattenbeiträge ungekürzt im Original
Übersicht aller aktiven Debattenteilnehmer
Summary für Ihr Top-Management
MEHR ERFAHREN


Bestimmte KI-Systeme sollen gänzlich verboten werden, etwa wenn sie für Social Scoring eingesetzt werden. Wie finden Sie das?
Die Regulierung von Künstlicher Intelligenz stellt eine notwendige Herausforderung in unserer heutigen digitalen Welt dar. Wir sehen es als richtig und wichtig an, besonders staatlichen Akteuren und großen Konzernen, in diesem Bereich Grenzen zu setzen. Insbesondere der Einsatz von KI-Systemen im Bereich des Social Scorings birgt immense Risiken in Bezug auf die Privatsphäre und die Grundrechte des Einzelnen. Daher ist es entscheidend, klare Regulierungen und Verbote für die Anwendung dieser Technologien zu schaffen.

Kritiker befürchten, dass insbesondere innovative Start-ups durch die Regulierung gebremst werden könnten. Wie schätzen Sie diese Gefahr ein?
Unserer Einschätzung nach besteht eine hohe Gefahr, dass innovative Start-ups durch Regulierung ausgebremst werden. Ähnlich wie bei der DSGVO, ist zu erwarten, dass die Kosten, sowie die, auch unbegründete, Angst vor Strafen bei Verstößen, ein ernsthaftes Hindernis für innovative Unternehmen darstellen. Dies ist speziell in der Anfangsphase ein hohes Risiko, da diese Unternehmen oft nicht in der Lage sind, die Kosten für Rechtsberatung und Compliance zu tragen. Darüber hinaus könnten Unsicherheiten bei neuen Entwicklungen und mangelnde Urteile in Rechtsstreitigkeiten zu zusätzlichen Risiken für Start-ups führen. Wir befürchten auch, dass die Definitionen in den gegenwärtigen Regulierungsentwürfen zu weit gefasst sind, was dazu führen kann, dass auch Technologien und Anwendungen reguliert werden, die eigentlich nicht im Fokus der Regulierung stehen sollten.

Was sollte aus Ihrer Sicht unbedingt in einem endgültigen Regelwerk stehen - und was auf keinen Fall?
Es ist wichtig, dass ein europaweit geltendes Regelwerk etabliert wird, dass entsprechende Rechtssicherheit für Innovator*innen und Anwender*innen schafft. Wesentlich dafür ist eine einheitliche Definition von KI, die die Bandbreite von maschinellem Lernen über neuronale Netzwerke bis hin zu komplexen Algorithmen,  berücksichtigt. Darüber hinaus muss das Regelwerk klare Rahmenbedingungen für die Entwicklung und Anwendung von KI definieren. Es sollte dabei gewährleisten, dass die technologische Innovation nicht durch übermäßige Restriktionen behindert wird, aber gleichzeitig sicherstellen, dass ethische und gesellschaftliche Normen eingehalten werden, und die Verantwortlichkeit bei Missbrauch oder Fehlern eindeutig zuweisbar ist.

Eine klare Anleitung für das Konformitätsbewertungsverfahren aus Sicht des Entwicklers ist ebenfalls wichtig. Entwickler sollten in der Lage sein, ihre Produkte und Dienstleistungen möglichst einfach auf Übereinstimmung mit den festgelegten Regeln zu prüfen, eine entsprechende Beratungsstelle muss dafür implementiert werden. Der AI-Act muss Forschung und Entwicklung neuer Verfahren und Technologien fördern, anstatt sie einzuschränken. Hierbei ist die richtige Balance zwischen Innovation und Sicherheit entscheidend. Auch bei der Beschaffung von KI-Systemen sind klare Vorgaben in Bezug auf Sicherheit wichtig. Die Einhaltung dieser Kriterien sollte sowohl von den Herstellern als auch von den Anwendern der KI überprüft werden können. Auch müssen Anwender in die Lage versetzt werden einfach festzustellen, ob sie mit einer KI oder einer echten Person kommunizieren.

UNSER NEWSLETTER

Newsletter bestellen JETZT BESTELLEN

■■■ WEITERE BEITRÄGE DIESER FACHDEBATTE

EIN DEBATTENBEITRAG VON
Alexander Pinker
Innovation-Profiler & Future Strategist
Alexander Pinker - Innovation-Profiling

Alexander Pinker - Innovation-Profiler & Future Strategist
EU | Regulierung

KI-Regeln brauchen Flexibilität und ■ ■ ■

Was am geplanten KI-Act gut ist - und wo die ■ ■ ■

EIN DEBATTENBEITRAG VON
Alexander Pinker
Innovation-Profiler & Future Strategist
Alexander Pinker - Innovation-Profiling

EIN DEBATTENBEITRAG VON
Dr. Michael Klimke
CEO
Bayerische KI-Agentur

Dr. Michael Klimke - CEO Bayerische KI-Agentur
KI | AI

Für ein menschenzentriertes EU-KI-Regelwerk

Warum die Debatte über KI zu oberflächlich ist

EIN DEBATTENBEITRAG VON
Dr. Michael Klimke
CEO
Bayerische KI-Agentur

EIN DEBATTENBEITRAG VON
Dr. Walter Peissl
Stv. Direktor
Institut für Technikfolgen-Abschätzung, Österreichische Akademie der Wissenschaften

Mag. Dr. Walter Peissl - Stv. Direktor, Institut für Technikfolgen-Abschätzung, Österreichische Akademie der Wissenschaften
EU | Regulierung

Moratorien für bestimmte KI-Systeme

Warum KI-Regulierung ein Prozess ist

EIN DEBATTENBEITRAG VON
Dr. Walter Peissl
Stv. Direktor
Institut für Technikfolgen-Abschätzung, Österreichische Akademie der Wissenschaften

ZUR FACHDEBATTE

ÜBER UNSERE FACHDEBATTEN

Meinungsbarometer.info ist die Plattform für Fachdebatten in der digitalen Welt. Unsere Fachdebatten vernetzen Meinungen, Wissen & Köpfe und richten sich an Entscheider auf allen Fach- und Führungsebenen. Unsere Fachdebatten vereinen die hellsten Köpfe, die sich in herausragender Weise mit den drängendsten Fragen unserer Zeit auseinandersetzen.

überparteilich, branchenübergreifend, interdisziplinär

Unsere Fachdebatten fördern Wissensaustausch, Meinungsbildung sowie Entscheidungsfindung in Politik, Wirtschaft, Wissenschaft, Medien und Gesellschaft. Sie stehen für neue Erkenntnisse aus unterschiedlichen Perspektiven. Mit unseren Fachdebatten wollen wir den respektvollen Austausch von Argumenten auf Augenhöhe ermöglichen - faktenbasiert, in gegenseitiger Wertschätzung und ohne Ausklammerung kontroverser Meinungen.

kompetent, konstruktiv, reichweitenstark

Bei uns debattieren Spitzenpolitiker aus ganz Europa, Führungskräfte der Wirtschaft, namhafte Wissenschaftler, Top-Entscheider der Medienbranche, Vordenker aus allen gesellschaftlichen Bereichen sowie internationale und nationale Fachjournalisten. Wir haben bereits mehr als 600 Fachdebatten mit über 20 Millionen Teilnahmen online abgewickelt.

nachhaltig und budgetschonend

Mit unseren Fachdebatten setzen wir auf Nachhaltigkeit. Unsere Fachdebatten schonen nicht nur Umwelt und Klima, sondern auch das eigene Budget. Sie helfen, aufwendige Veranstaltungen und überflüssige Geschäftsreisen zu reduzieren – und trotzdem die angestrebten Kommunikationsziele zu erreichen.

mehr als nur ein Tweet

Unsere Fachdebatten sind mehr als nur ein flüchtiger Tweet, ein oberflächlicher Post oder ein eifriger Klick auf den Gefällt-mir-Button. Im Zeitalter von X (ehemals Twitter), Facebook & Co. und der zunehmenden Verkürzung, Verkümmerung und Verrohung von Sprache wollen wir ein Zeichen setzen für die Entwicklung einer neuen Debattenkultur im Internet. Wir wollen das gesamte Potential von Sprache nutzen, verständlich und respektvoll miteinander zu kommunizieren.