Menue-Button
← FACHDEBATTE Interview

Ab wann kann eine Maschine für sich selbst haften?

Vor welchen Herausforderungen ein Rechtsrahmen für KI-Systeme steht

Michael Mörike - Vorstand der Integrata-Stiftung für humane Nutzung der Informationstechnologie Quelle: Gerhard Schimpf Michael Mörike Vorstand Integrata-Stiftung für humane Nutzung der Informationstechnologie 16.11.2020
INITIATOR DIESER FACHDEBATTE
Dipl.- Journ. Thomas Barthel
Founder & Herausgeber
Meinungsbarometer.info
ZUR FACHDEBATTE

Michael Mörike von der Integrata-Stiftung für humane Nutzung der Informationstechnologie plädiert dafür, "Moral in die Maschinen selbst einbauen, so dass sich die Maschinen moralisch wie gewünscht verhalten". Er prognostiziert einen großen Markt und ist für klare EU-weite Regeln als Rahmen.







In der EU ist eine Debatte über Regeln für Künstliche Intelligenz im Gange. Welche grundsätzlichen ethischen Standards sollten einem entsprechenden Regelwerk zugrunde liegen?
Grundsätzlich halte ich es für notwendig, darüber eine Debatte zu führen. Und weil künstliche Intelligenz (KI) von der technischen Entwicklung überall in der globalisierten Welt getrieben wird, finde ich es richtig, dass sich die EU damit beschäftigt. Nur so können wir verhindern, dass unsere Wirtschaft nicht vom Rest der Welt (China, USA) abgehängt wird. Meiner Beobachtung nach wird dabei gerne über eine Standardisierung der Ethik gesprochen, wobei moralische Regeln gemeint sind. Ethik als Wissenschaft oder als Diskurs dessen, was ein Mensch in der einen oder anderen Situation tun soll, kann nicht standardisiert werden. Ansätze dazu können bestenfalls in den verschiedenen Disziplinen der Ethik geschaffen werden: Tugendethik, Utilitarismus, etc. ... Wohl aber könnte die von der Technik angewandte Moral vereinheitlicht werden. Aber wollen wir das wirklich? Schließlich ist dies kulturell auch unterschiedlich. Wollen wir als Nebeneffekt unsere verschiedenen Kulturen vereinheitlichen?

Aber welche Ethik / Moral sollte es denn sein? Ich meine, wir sind gut beraten, zunächst die Menschenrechte der UN zugrunde zu legen. Das wird – soweit ich es überblicke – auch immer anerkannt. Darüber hinaus benötigen wir aber weitere Eigenschaften von KI-gesteuerten Maschinen, um Vertrauen zu erzeugen:
a) Nachvollziehbarkeit: Man kann nachvollziehen, wie die Maschine zu einer Entscheidung / Aktion gekommen ist.
b) Verlässlichkeit: Die Maschine macht in der gleichen Situation auch immer das Gleiche.
c) Etc. ...

JETZT BESTELLEN

DIE DOKUMENTATION DIESER FACHDEBATTE

DIE DOKUMENTATION ENTHÄLT

alle Debattenbeiträge ungekürzt im Original
Übersicht aller aktiven Debattenteilnehmer
Summary für Ihr Top-Management
MEHR ERFAHREN


Im Gespräch ist u.a. ein Haftungssystem für KI-Systeme. Wie stehen Sie dazu?
Der Hersteller jeder Maschine, die er verkauft, haftet für die korrekte Funktionsweise. Seine konkrete Haftung ist üblicherweise in der Dokumentation oder im Vertrag dazu festgelegt. Das gilt zunächst auch für Maschinen, die KI einsetzen. Aber ist das bei selbstlernenden Maschinen überhaupt möglich? Wenn ein Käufer – auch versehentlich - der Maschine etwas beibringt, was er dann doch lieber nicht gerne haben möchte. Wie kann der Hersteller dafür haften? Es ist wie mit dem Hinweis: Eltern haften für ihre Kinder. Wie lange? Bis sie erwachsen sind. Und dann haften sie für sich selbst. Ab wann kann eine Maschine für sich selbst haften? Kann man eine Maschine bestrafen?

Ich meine, daraus folgt, dass der Hersteller nur für gewisse Eigenschaften der Maschine haften kann, nicht aber für alles, was da schief laufen kann. Und das gilt es zu regeln.

Von Experten gibt es Rufe nach einem KI-Register oder einem KI-TÜV. Wie sehen Sie das?
Es ist zweifellos sinnvoll, eine unabhängige Instanz zu schaffen, die KI-Systeme beurteilen oder prüfen kann. Das ist zwar kein einfacher Job. Und in dem Maße, wie Maschinen in Zukunft einmal alles Mögliche erlernen können, wird es Ähnlichkeiten mit Prüfungen von schulischen Kenntnissen geben. Ob dies eine staatliche Instanz oder privatwirtschaftlich angelegt sein soll, ist meiner Meinung nach weniger wichtig. Der Staat allerdings sollte eine Regulierungsbehörde dafür schaffen, damit die Prüfungsinstanzen nach vergleichbaren Regeln arbeiten.

Verschiedene EU-Staaten (etwa Deutschland in der KI-Strategie, Österreich in der AI-Mission) streben bereits ethische Standards für KI-Anwendungen an. Inwieweit sind nationale Bemühungen und etwaige EU-Regeln in Anbetracht der Stärke von Digitalkonzernen aus den USA oder China überhaupt erfolgversprechend?
Wie oben geschildert, haben wir eine Chance nur, wenn wir es EU-weit organisieren. Am Beispiel der – europäischen – DSGVO, die jetzt erstmalig in einem Spezialgebiet weltweit anerkannt ist, kann man sehen, dass wir durchaus eine Chance haben. Wir sollten sie aktiv nutzen und nicht lange zögern!

Und wir sollten darüber hinaus gehen und Moral in die Maschinen selbst einbauen, so dass sich die Maschinen moralisch wie gewünscht verhalten. Das wird nicht nur eine große Herausforderung, sondern auch ein großer Markt, den andere bisher noch nicht angegangen sind.

Ein kleines Beispiel zum autonomen Fahren möge dies verdeutlichen: Wie schnell darf ein autonomes Auto durch eine Pfütze fahren, wenn ein Fußgänger daneben steht? Hängt doch wohl davon ab, wie nah er der Pfütze ist. Oder? Solche Regelungen werden aktuell von keiner der EU-weiten oder nationalen Bemühungen erfasst. Solche Anforderungen wird es aber sehr, sehr viele geben, die alle berücksichtigt werden wollen – und die in jedem Kulturkreis anders sind. Wenn wir kulturabhängige Bemühungen dann „national“ nennen, habe ich nichts dagegen.

Nochmal: Das wird auch ein großer Markt, den andere noch nicht entdeckt haben.

UNSER NEWSLETTER

Newsletter bestellen JETZT BESTELLEN

■■■ WEITERE BEITRÄGE DIESER FACHDEBATTE

EIN DEBATTENBEITRAG VON
Jason Chumtong
KI-Experte
Konrad-Adenauer-Stiftung

Jason Chumtong - KI-Experte, Abteilung Wirtschaft und Innovation in der Hauptabteilung Analyse und Beratung bei der Konrad-Adenauer-Stiftung
KI | EU

Rechtssicherheit für KI als möglicher ■ ■ ■

Wie europäische Werte gesichert werden können

EIN DEBATTENBEITRAG VON
Jason Chumtong
KI-Experte
Konrad-Adenauer-Stiftung

EIN DEBATTENBEITRAG VON
Carla Hustedt
Senior Project Manager
Bertelsmann Stiftung

Carla Hustedt - Senior Project Manager Programm Megatrends | Ethik der Algorithmen, Bertelsmann Stiftung
KI | EU

Wenn Maschinen entscheiden, müssen ■ ■ ■

Welche Regeln für welche KI gelten sollten

EIN DEBATTENBEITRAG VON
Carla Hustedt
Senior Project Manager
Bertelsmann Stiftung

EIN DEBATTENBEITRAG VON
Alexandra Geese
MdEP
Fraktion Die Grünen/EFA im Europäischen Parlament

Alexandra Geese - Mitglied des Europäischen Parlaments
KI | EU

Für eine Europäische Aufsicht mit ■ ■ ■

Wie KI und Algorithmen diskriminierungsfrei ■ ■ ■

EIN DEBATTENBEITRAG VON
Alexandra Geese
MdEP
Fraktion Die Grünen/EFA im Europäischen Parlament

ZUR FACHDEBATTE

■■■ DIESE FACHDEBATTE KÖNNTE SIE AUCH INTERESSIEREN

Uwe Rempe

INITIATOR
Uwe Rempe
Freier Journalist
Meinungsbarometer.info

ÜBER UNSERE FACHDEBATTEN

Meinungsbarometer.info ist die Plattform für Fachdebatten in der digitalen Welt. Unsere Fachdebatten vernetzen Meinungen, Wissen & Köpfe und richten sich an Entscheider auf allen Fach- und Führungsebenen. Unsere Fachdebatten vereinen die hellsten Köpfe, die sich in herausragender Weise mit den drängendsten Fragen unserer Zeit auseinandersetzen.

überparteilich, branchenübergreifend, interdisziplinär

Unsere Fachdebatten fördern Wissensaustausch, Meinungsbildung sowie Entscheidungsfindung in Politik, Wirtschaft, Wissenschaft, Medien und Gesellschaft. Sie stehen für neue Erkenntnisse aus unterschiedlichen Perspektiven. Mit unseren Fachdebatten wollen wir den respektvollen Austausch von Argumenten auf Augenhöhe ermöglichen - faktenbasiert, in gegenseitiger Wertschätzung und ohne Ausklammerung kontroverser Meinungen.

kompetent, konstruktiv, reichweitenstark

Bei uns debattieren Spitzenpolitiker aus ganz Europa, Führungskräfte der Wirtschaft, namhafte Wissenschaftler, Top-Entscheider der Medienbranche, Vordenker aus allen gesellschaftlichen Bereichen sowie internationale und nationale Fachjournalisten. Wir haben bereits mehr als 600 Fachdebatten mit über 20 Millionen Teilnahmen online abgewickelt.

nachhaltig und budgetschonend

Mit unseren Fachdebatten setzen wir auf Nachhaltigkeit. Unsere Fachdebatten schonen nicht nur Umwelt und Klima, sondern auch das eigene Budget. Sie helfen, aufwendige Veranstaltungen und überflüssige Geschäftsreisen zu reduzieren – und trotzdem die angestrebten Kommunikationsziele zu erreichen.

mehr als nur ein Tweet

Unsere Fachdebatten sind mehr als nur ein flüchtiger Tweet, ein oberflächlicher Post oder ein eifriger Klick auf den Gefällt-mir-Button. Im Zeitalter von X (ehemals Twitter), Facebook & Co. und der zunehmenden Verkürzung, Verkümmerung und Verrohung von Sprache wollen wir ein Zeichen setzen für die Entwicklung einer neuen Debattenkultur im Internet. Wir wollen das gesamte Potential von Sprache nutzen, verständlich und respektvoll miteinander zu kommunizieren.