Menue-Button
← FACHDEBATTE Interview

Drei Elemente der Folgenabschätzung bei Technologie

Auf welcher Basis KI reguliert werden sollte

FH-Prof. Priv.-Doz. Dr. Michael Litschka - Forschungsgruppenleiter, Forschungsgruppe Media Business am Institut für Creative\Media/Technologies, FH St. Pölten Quelle: FH St. Pölten Prof. Dr. Michael Litschka Forschungsgruppenleiter, Forschungsgruppe Media Business Institut für Creative\Media/Technologies, FH St. Pölten 30.06.2023
INITIATOR DIESER FACHDEBATTE
Uwe Schimunek
Freier Journalist
Meinungsbarometer.info
ZUR FACHDEBATTE

Für den Forscher Prof. Dr. Michael Litschka ist ein risikobasierter Ansatz bei der Regulierung von KI "grundsätzlich vernünftig, weil es nun mal unterschiedliche Risiken je Anwendungsmöglichkeit gibt." An EU-weite Regeln hat er klare Erwartungen.







Für die geplanten EU-Regeln werden KI-Anwendungen in Risikogruppen ein geteilt – wie bewerten Sie diesen Ansatz?
Ein risikobasierter Ansatz ist grundsätzlich vernünftig, weil es nun mal unterschiedliche Risiken je Anwendungsmöglichkeit gibt. Aus wirtschafts-, medien- und technikethischer Sicht ist eine Folgenabschätzung bei Technologieanwendungen sowieso entscheidend, und bei dieser müssen deontologische (pflichtenethische), utilitaristische (folgenethische) und diskursive Elemente eine Rolle spielen. Letztere weisen darauf hin, dass alle Betroffenen die Risiken auch diskursiv mitbeurteilen sollten. Spätestens seit Jonas‘ „Das Prinzip Verantwortung“ sollten wir um die verantwortungsethische Komponente der Folgenabschätzung wissen und diese im Design der KI-Technologie mitdenken („Ethics in Design“).

JETZT BESTELLEN

DIE DOKUMENTATION DIESER FACHDEBATTE

DIE DOKUMENTATION ENTHÄLT

alle Debattenbeiträge ungekürzt im Original
Übersicht aller aktiven Debattenteilnehmer
Summary für Ihr Top-Management
MEHR ERFAHREN


Bestimmte KI-Systeme sollen gänzlich verboten werden, etwa wenn sie für Social Scoring eingesetzt werden. Wie finden Sie das?
Das ist aus ethischer Sicht wohl notwendig, denn eine Art gesellschaftliche Übereinkunft (im Sinne eines Sozialvertrags), dass Social Scoring erwünscht sein könnte, kann ich mir nicht vorstellen (und ist im asiatischen Raum aus kulturellen Gründen zwar etwas mehr akzeptiert, aber wohl nicht in dem Ausmaß, in dem es etwa in China gerade eingesetzt wird). Der europäische Zugang zu Privacy-Fragen, Diskriminierungsfreiheit und non-biased AI ist hier zu bevorzugen. Hier kommt auch das so genannte „Ethics by Design“ in den Blick: kann das Verhalten von KI-Systemen ethisch analysiert werden, bzw. können KI-Systeme ihre „Entscheidungen“ ethisch reflektieren? Das ist zur Zeit aus philosophischer Sicht nicht im vollen Ausmaß möglich (wenn es auch Denkrichtungen gibt, die das für möglich halten). Wenn „ethical reasoning“, also die Verteidigung ethischer Argumente vor einer potenziell unbegrenzten Öffentlichkeit (wie es ähnlich Jürgen Habermas formuliert hat) durch Maschinen nicht funktioniert, warum dann ein Social Scoring System mittels KI akzeptieren?

Kritiker befürchten, dass insbesondere innovative Start-ups durch die Regulierung gebremst werden könnten. Wie schätzen Sie diese Gefahr ein?
Als vorhanden, aber gering, denn gerade Start-ups brauchen Rechtssicherheit und wollen ihre „license to operate“ (die ethische Legitimation ihrer Geschäftsstrategie) erhalten. Eine selbstverantwortliche Akzeptanz solcher Regulierungen kann auch in die von der Bevölkerung wahrgenommene CSR (Corporate Social Responsibility) solcher Unternehmen einzahlen; dieser Art ethischer Selbstbeschränkung kann also auch Marktchancen und Wettbewerbsvorteile erzeugen!

Was sollte aus Ihrer Sicht unbedingt in einem endgültigen Regelwerk stehen - und was auf keinen Fall?
Die vorgesehenen Kennzeichnungspflichten für KI-Anwendungen sollten unbedingt bleiben oder sogar noch verschärft werden. Für den Qualitätsjournalismus etwa, der sowieso schon durch die großen digitalen Plattformen, Fake-News-Debatten und Finanzierungsprobleme durch abfließende Werbegelder unter Druck geraten ist, ist das sowieso unabdingbar; auch bei unseren Interaktionen mit Behörden (man denke an das österreichische Arbeitsmarktservice, das einen Algorithmus als Entscheidungsgrundlage für die Vergabe von Arbeitslosenunterstützungen mitverwendet) wollen wir diesbezüglich komplette Transparenz. Auch die Prozessorientierung statt der Adressierung konkreter Technologien finde ich richtig, gerade auch im Sinne der Innovation und der rasanten Entwicklungsgeschwindigkeit bei KI-Systemen.

Keinesfalls sollte sich bewahrheiten, was schon in einigen Medien kolportiert wurde, nämlich, dass Tech-Anbieter (bspw. Open AI) zu viel Einfluss auf die letztendliche Ausgestaltung des AI Act nehmen würden. Ebenfalls schlecht wäre eine zu starke Fokussierung auf Expert:innen-Inputs (der wichtig ist), statt auch den permanenten Einbezug der Bürger:innenperspektiven mitzudenken.

UNSER NEWSLETTER

Newsletter bestellen JETZT BESTELLEN

■■■ WEITERE BEITRÄGE DIESER FACHDEBATTE

EIN DEBATTENBEITRAG VON
Alexander Pinker
Innovation-Profiler & Future Strategist
Alexander Pinker - Innovation-Profiling

Alexander Pinker - Innovation-Profiler & Future Strategist
EU | Regulierung

KI-Regeln brauchen Flexibilität und ■ ■ ■

Was am geplanten KI-Act gut ist - und wo die ■ ■ ■

EIN DEBATTENBEITRAG VON
Alexander Pinker
Innovation-Profiler & Future Strategist
Alexander Pinker - Innovation-Profiling

EIN DEBATTENBEITRAG VON
Dr. Michael Klimke
CEO
Bayerische KI-Agentur

Dr. Michael Klimke - CEO Bayerische KI-Agentur
KI | AI

Für ein menschenzentriertes EU-KI-Regelwerk

Warum die Debatte über KI zu oberflächlich ist

EIN DEBATTENBEITRAG VON
Dr. Michael Klimke
CEO
Bayerische KI-Agentur

EIN DEBATTENBEITRAG VON
Dr. Walter Peissl
Stv. Direktor
Institut für Technikfolgen-Abschätzung, Österreichische Akademie der Wissenschaften

Mag. Dr. Walter Peissl - Stv. Direktor, Institut für Technikfolgen-Abschätzung, Österreichische Akademie der Wissenschaften
EU | Regulierung

Moratorien für bestimmte KI-Systeme

Warum KI-Regulierung ein Prozess ist

EIN DEBATTENBEITRAG VON
Dr. Walter Peissl
Stv. Direktor
Institut für Technikfolgen-Abschätzung, Österreichische Akademie der Wissenschaften

ZUR FACHDEBATTE

ÜBER UNSERE FACHDEBATTEN

Meinungsbarometer.info ist die Plattform für Fachdebatten in der digitalen Welt. Unsere Fachdebatten vernetzen Meinungen, Wissen & Köpfe und richten sich an Entscheider auf allen Fach- und Führungsebenen. Unsere Fachdebatten vereinen die hellsten Köpfe, die sich in herausragender Weise mit den drängendsten Fragen unserer Zeit auseinandersetzen.

überparteilich, branchenübergreifend, interdisziplinär

Unsere Fachdebatten fördern Wissensaustausch, Meinungsbildung sowie Entscheidungsfindung in Politik, Wirtschaft, Wissenschaft, Medien und Gesellschaft. Sie stehen für neue Erkenntnisse aus unterschiedlichen Perspektiven. Mit unseren Fachdebatten wollen wir den respektvollen Austausch von Argumenten auf Augenhöhe ermöglichen - faktenbasiert, in gegenseitiger Wertschätzung und ohne Ausklammerung kontroverser Meinungen.

kompetent, konstruktiv, reichweitenstark

Bei uns debattieren Spitzenpolitiker aus ganz Europa, Führungskräfte der Wirtschaft, namhafte Wissenschaftler, Top-Entscheider der Medienbranche, Vordenker aus allen gesellschaftlichen Bereichen sowie internationale und nationale Fachjournalisten. Wir haben bereits mehr als 600 Fachdebatten mit über 20 Millionen Teilnahmen online abgewickelt.

nachhaltig und budgetschonend

Mit unseren Fachdebatten setzen wir auf Nachhaltigkeit. Unsere Fachdebatten schonen nicht nur Umwelt und Klima, sondern auch das eigene Budget. Sie helfen, aufwendige Veranstaltungen und überflüssige Geschäftsreisen zu reduzieren – und trotzdem die angestrebten Kommunikationsziele zu erreichen.

mehr als nur ein Tweet

Unsere Fachdebatten sind mehr als nur ein flüchtiger Tweet, ein oberflächlicher Post oder ein eifriger Klick auf den Gefällt-mir-Button. Im Zeitalter von X (ehemals Twitter), Facebook & Co. und der zunehmenden Verkürzung, Verkümmerung und Verrohung von Sprache wollen wir ein Zeichen setzen für die Entwicklung einer neuen Debattenkultur im Internet. Wir wollen das gesamte Potential von Sprache nutzen, verständlich und respektvoll miteinander zu kommunizieren.