Menue-Button
← FACHDEBATTE Interview

Lücken im Zivilrecht bei Robotern und digitalen Agenten

Wie KI-Assistenten sich verhalten sollten

Dr. Dirk Hecker, Geschäftsführer der Fraunhofer-Allianz Big Data Quelle: Fraunhofer Institute Dr. Dirk Hecker Geschäftsführer Fraunhofer-Allianz Big Data 29.05.2018
INITIATOR DIESER FACHDEBATTE
Uwe Schimunek
Freier Journalist
Meinungsbarometer.info
ZUR FACHDEBATTE

"Grundsätzlich sollten Sprachassistenten am Telefon gleich zu Beginn sagen, dass sie ein Automat sind und in welchem Auftrag sie handeln", sagt Dr. Dirk Hecker, Geschäftsführer der Fraunhofer-Allianz Big Data. Unlängst hatte eine Google-Lösung für Furore gesorgt, die am Telefon  praktisch nicht von einem Menschen zu unterscheiden war. Für den Experten entstehen daraus nicht zuletzt auch rechtliche Probleme.







Bei einer Präsentation hat sich die Googles Duplex am Telefon täuschend echt menschlich verhalten – wie realistisch ist es, dass wir persönlich KI-Assistenten in näherer Zukunft auch für Privatpersonen üblich sind?
Tatsächlich ist der Google-Assistent für die Terminvereinbarung, so wie er auf der Entwicklerkonferenz Google I/O vorgestellt wurde, für Privatpersonen gedacht. Er soll uns das oftmals lästige Telefonieren mit einem Friseur oder Restaurant abnehmen. Um den Assistenten für diese beiden Aufgaben zu trainieren, bedurfte es jedoch sehr vieler Beispiele und Experten, die den Assistenten in der Entwicklung korrigieren mussten. Ein solcher Aufwand lohnt sich nur für Aufgaben, die wirklich oft vorkommen und sehr gleichförmig abgewickelt werden. So wünschen sich viele Menschen von einer Digitalisierung im Gesundheitswesen zuallererst eine automatische Terminvereinbarung beim Arzt. Hier könnte die Akzeptanz auf Seiten der Patientinnen und Patienten sehr hoch sein.

Welche Auswirkungen könnten menschlich klingende KI-Lösungen auf den Arbeitsmarkt haben – auf Assistenz-Tätigkeiten, aber auch auf Jobs von Callcenter-Agents oder Radiomoderatoren o.ä.?
Jetzt sprechen wir von Sprachassistenten für Unternehmen. Daran haben Call-Center ein sehr großes Interesse. Wir geraten ja heute schon oft an einen Sprachautomaten, der uns bei Bedarf an einen passenden menschlichen Berater weiterleitet. Die Demonstrationen von Google bedeuten Verbesserungen in diesem Einsatzbereich – sowohl im Sprachverstehen (Konvertieren des Gehörten in Text), im Antworten (Generieren von Text) als auch im Sprechen (Konvertieren des Antworttextes in Sprache). Den mittleren Teil könnte man auch durch Lösungen für Chatbots ersetzen, die heutzutage eher regelgesteuert als an Beispielen trainiert sind. Das heißt, wer einen guten Chatbot hat, könnte ihn mit der Google-Technik leicht zu einem guten Sprechbot machen. Aber der mittlere Teil, das Generieren von Text, muss für jede Art von Auftrag neu entwickelt werden. Von Radiomoderatoren, ja selbst von Wettermoderatoren, erwarte ich mehr Originalität als floskelhafte Ankündigungen.

Nach welchen Regeln sollten sich derartige KI-Lösungen bei der Kommunikation zu erkennen geben?
Grundsätzlich sollten Sprachassistenten am Telefon gleich zu Beginn sagen, dass sie ein Automat sind und in welchem Auftrag sie handeln. Dann sollten sie uns die Möglichkeit geben, uns stattdessen mit einem Menschen verbinden zu lassen. Am besten gleich mit einer Abschätzung der Wartezeit. Eine solche Weiterleitung sollte zudem jederzeit während des Dialogs möglich sein. Generell ist es unabdingbar, dass KI-Systeme von Anfang an Transparenz schaffen und es für den Menschen absolut nachvollziehbar bleibt, wann und wie er mit einer Maschine kommuniziert. Spannend wird es, wenn überhaupt kein Mensch, sondern nur zwei Sprachassistenten aufeinander treffen – diese Option muss selbstverständlich auch frühzeitig bedacht und geklärt werden.

Welche Regeln müssen geschaffen werden, wenn derartige KI-Lösungen (geschäftliche) Absprachen untereinander treffen?
Das EU-Parlament hat schon im Februar 2017 per Resolution zivilrechtliche Regelungen für Roboter gefordert: In Bezug auf Haftungsfragen sollen sie den Status einer elektronischen Person bekommen. Tatsächlich hat das Zivilrecht nicht nur bei Robotern Lücken, sondern auch bei digitalen Agenten, die Entscheidungen mit Ungewissheit treffen können. Das heißt, dass sie zwischen Alternativen entscheiden können, indem sie mehrere Kriterien optimieren, ohne dass das Verhalten vorhersagbar programmiert wurde. Das trifft auch auf Sprachassistenten zu, die quasi als digitale Stellvertreter am Telefon mit einem Menschen oder einem anderen digitalen Agenten Termine vereinbaren, Buchungen vornehmen oder Verträge abschließen. Geregelt werden müssen hier insbesondere die Verbindlichkeit solcher Vereinbarungen, die vertragliche Haftung und die Haftung im Schadensfall.

UNSER NEWSLETTER

Newsletter bestellen JETZT BESTELLEN

■■■ WEITERE BEITRÄGE DIESER FACHDEBATTE

EIN DEBATTENBEITRAG VON
Prof. Dr. Reinhold Popp
Leiter
Sigmund Freud Privatuniversität Wien

Prof. Dr. Reinhold Popp, Leiter Institute for Futures Research in Human Sciences an der Sigmund Freud Privatuniversität in Wien
KI | Innovationen

Wie weit die KI noch von der ■ ■ ■

Und sich wie KI-Lösungen im Alltag zu erkennen ■ ■ ■

EIN DEBATTENBEITRAG VON
Prof. Dr. Reinhold Popp
Leiter
Sigmund Freud Privatuniversität Wien

EIN DEBATTENBEITRAG VON
Prof. Dr. Horst Opaschowski
Zukunftsforscher
Opaschowski Institut für Zukunftsforschung

Prof. Dr. Horst Opaschowski, Zukunftswissenschaftler, Publizist & Berater für Wirtschaft und Politik - Opaschowski Institut für Zukunftsforschung/O.I.Z
KI | Innovationen

KI wird eine Geldmaschine und kein ■ ■ ■

Wie die Künstliche Intelligenz ein echter ■ ■ ■

EIN DEBATTENBEITRAG VON
Prof. Dr. Horst Opaschowski
Zukunftsforscher
Opaschowski Institut für Zukunftsforschung

EIN DEBATTENBEITRAG VON
Dr. David Bosshart
CEO
Gottlieb Duttweiler Institut

Dr. David Bosshart, CEO Gottlieb Duttweiler Institut für Wirtschaft und Gesellschaft
KI | Innovationen

In Netzwerken überleben tendenziell ■ ■ ■

Warum KI-Assistenten kommen werden

EIN DEBATTENBEITRAG VON
Dr. David Bosshart
CEO
Gottlieb Duttweiler Institut

ZUR FACHDEBATTE

■■■ DIESE FACHDEBATTE KÖNNTE SIE AUCH INTERESSIEREN

Uwe Schimunek

INITIATOR
Uwe Schimunek
Freier Journalist
Meinungsbarometer.info

ÜBER UNSERE FACHDEBATTEN

Meinungsbarometer.info ist die Plattform für Fachdebatten in der digitalen Welt. Unsere Fachdebatten vernetzen Meinungen, Wissen & Köpfe und richten sich an Entscheider auf allen Fach- und Führungsebenen. Unsere Fachdebatten vereinen die hellsten Köpfe, die sich in herausragender Weise mit den drängendsten Fragen unserer Zeit auseinandersetzen.

überparteilich, branchenübergreifend, interdisziplinär

Unsere Fachdebatten fördern Wissensaustausch, Meinungsbildung sowie Entscheidungsfindung in Politik, Wirtschaft, Wissenschaft, Medien und Gesellschaft. Sie stehen für neue Erkenntnisse aus unterschiedlichen Perspektiven. Mit unseren Fachdebatten wollen wir den respektvollen Austausch von Argumenten auf Augenhöhe ermöglichen - faktenbasiert, in gegenseitiger Wertschätzung und ohne Ausklammerung kontroverser Meinungen.

kompetent, konstruktiv, reichweitenstark

Bei uns debattieren Spitzenpolitiker aus ganz Europa, Führungskräfte der Wirtschaft, namhafte Wissenschaftler, Top-Entscheider der Medienbranche, Vordenker aus allen gesellschaftlichen Bereichen sowie internationale und nationale Fachjournalisten. Wir haben bereits mehr als 600 Fachdebatten mit über 20 Millionen Teilnahmen online abgewickelt.

nachhaltig und budgetschonend

Mit unseren Fachdebatten setzen wir auf Nachhaltigkeit. Unsere Fachdebatten schonen nicht nur Umwelt und Klima, sondern auch das eigene Budget. Sie helfen, aufwendige Veranstaltungen und überflüssige Geschäftsreisen zu reduzieren – und trotzdem die angestrebten Kommunikationsziele zu erreichen.

mehr als nur ein Tweet

Unsere Fachdebatten sind mehr als nur ein flüchtiger Tweet, ein oberflächlicher Post oder ein eifriger Klick auf den Gefällt-mir-Button. Im Zeitalter von X (ehemals Twitter), Facebook & Co. und der zunehmenden Verkürzung, Verkümmerung und Verrohung von Sprache wollen wir ein Zeichen setzen für die Entwicklung einer neuen Debattenkultur im Internet. Wir wollen das gesamte Potential von Sprache nutzen, verständlich und respektvoll miteinander zu kommunizieren.