Bei einer Präsentation hat sich die Googles Duplex am Telefon täuschend echt menschlich verhalten – wie realistisch ist es, dass wir persönlich KI-Assistenten in näherer Zukunft auch für Privatpersonen üblich sind?
Tatsächlich ist der Google-Assistent für die Terminvereinbarung, so wie er auf der Entwicklerkonferenz Google I/O vorgestellt wurde, für Privatpersonen gedacht. Er soll uns das oftmals lästige Telefonieren mit einem Friseur oder Restaurant abnehmen. Um den Assistenten für diese beiden Aufgaben zu trainieren, bedurfte es jedoch sehr vieler Beispiele und Experten, die den Assistenten in der Entwicklung korrigieren mussten. Ein solcher Aufwand lohnt sich nur für Aufgaben, die wirklich oft vorkommen und sehr gleichförmig abgewickelt werden. So wünschen sich viele Menschen von einer Digitalisierung im Gesundheitswesen zuallererst eine automatische Terminvereinbarung beim Arzt. Hier könnte die Akzeptanz auf Seiten der Patientinnen und Patienten sehr hoch sein.
Welche Auswirkungen könnten menschlich klingende KI-Lösungen auf den Arbeitsmarkt haben – auf Assistenz-Tätigkeiten, aber auch auf Jobs von Callcenter-Agents oder Radiomoderatoren o.ä.?
Jetzt sprechen wir von Sprachassistenten für Unternehmen. Daran haben Call-Center ein sehr großes Interesse. Wir geraten ja heute schon oft an einen Sprachautomaten, der uns bei Bedarf an einen passenden menschlichen Berater weiterleitet. Die Demonstrationen von Google bedeuten Verbesserungen in diesem Einsatzbereich – sowohl im Sprachverstehen (Konvertieren des Gehörten in Text), im Antworten (Generieren von Text) als auch im Sprechen (Konvertieren des Antworttextes in Sprache). Den mittleren Teil könnte man auch durch Lösungen für Chatbots ersetzen, die heutzutage eher regelgesteuert als an Beispielen trainiert sind. Das heißt, wer einen guten Chatbot hat, könnte ihn mit der Google-Technik leicht zu einem guten Sprechbot machen. Aber der mittlere Teil, das Generieren von Text, muss für jede Art von Auftrag neu entwickelt werden. Von Radiomoderatoren, ja selbst von Wettermoderatoren, erwarte ich mehr Originalität als floskelhafte Ankündigungen.

Nach welchen Regeln sollten sich derartige KI-Lösungen bei der Kommunikation zu erkennen geben?
Grundsätzlich sollten Sprachassistenten am Telefon gleich zu Beginn sagen, dass sie ein Automat sind und in welchem Auftrag sie handeln. Dann sollten sie uns die Möglichkeit geben, uns stattdessen mit einem Menschen verbinden zu lassen. Am besten gleich mit einer Abschätzung der Wartezeit. Eine solche Weiterleitung sollte zudem jederzeit während des Dialogs möglich sein. Generell ist es unabdingbar, dass KI-Systeme von Anfang an Transparenz schaffen und es für den Menschen absolut nachvollziehbar bleibt, wann und wie er mit einer Maschine kommuniziert. Spannend wird es, wenn überhaupt kein Mensch, sondern nur zwei Sprachassistenten aufeinander treffen – diese Option muss selbstverständlich auch frühzeitig bedacht und geklärt werden.

Welche Regeln müssen geschaffen werden, wenn derartige KI-Lösungen (geschäftliche) Absprachen untereinander treffen?
Das EU-Parlament hat schon im Februar 2017 per Resolution zivilrechtliche Regelungen für Roboter gefordert: In Bezug auf Haftungsfragen sollen sie den Status einer elektronischen Person bekommen. Tatsächlich hat das Zivilrecht nicht nur bei Robotern Lücken, sondern auch bei digitalen Agenten, die Entscheidungen mit Ungewissheit treffen können. Das heißt, dass sie zwischen Alternativen entscheiden können, indem sie mehrere Kriterien optimieren, ohne dass das Verhalten vorhersagbar programmiert wurde. Das trifft auch auf Sprachassistenten zu, die quasi als digitale Stellvertreter am Telefon mit einem Menschen oder einem anderen digitalen Agenten Termine vereinbaren, Buchungen vornehmen oder Verträge abschließen. Geregelt werden müssen hier insbesondere die Verbindlichkeit solcher Vereinbarungen, die vertragliche Haftung und die Haftung im Schadensfall.