KI beantwortet Mails, schreibt Texte und meldet sich am Telefon - wie verändert sich Kommunikation durch die KI grundsätzlich?
Prinzipiell muss man bedenken, dass die KI kein gewöhnlicher Kommunikationspartner ist, obwohl das mitunter so erscheinen mag, wenn sie verständlich und inzwischen auch mit Humor und angenehmer Stimme auf unsere Fragen eingeht. Wenn ich mit einem Sprachmodell spreche, spreche ich nicht mit einem Menschen über Gott und die Welt, ich spreche durch die KI mit einer Unmenge an Menschen, deren Sicht auf Gott und die Welt das Sprachmodell aufsaugt und in einer bestimmten Mischung an mich weitergibt. Die Kategorien, denen das Sprachmodell dabei folgt, lauten nicht «wahr» und «falsch» oder «gut» und «böse», sondern «oft» und «selten». Das Sprachmodell folgt – bei Wertefragen ebenso wie bei stilistischen Entscheidungen – immer dem, was in seinen Trainingsdaten die Mehrheit auf seiner Seite hat. Deshalb ist die erste Frage, die man sich stellen muss: Welche Texte hat die KI „gelesen“, die da jetzt mit mir „spricht“.
Aber der „Ersterziehung“ durch die Trainingsdaten folgt die „Zweiterziehung“ des Finetunings. Hier werden dem Sprachmodell bestimmte aus den Trainingsdaten resultierende Gedanken (Vorurteile über ethnische Gruppen etwa) wieder ausgetrieben, bestimmte Antworten untersagt (wie man Massenvernichtungswaffen baut) und bestimmte Werte eingeimpft (LGBTQ-Rechte zum Beispiel).
Welche Rolle spielt der Faktor Mensch in der Kommunikation in Sachen Glaubwürdigkeit und Vertrauen?
Sind meine Kommunikationspartner Menschen, mögen ihre Wertesystem nicht meinem entsprechen, sind aber als Ergebnis einer Biografie legitimiert. Ich muss mich zu ihnen verhalten, wo auch immer ich ihnen begegne: im Gespräch auf der Straße, im sozialen Netzwerk, in einem öffentlichen Vortrag, in einem Buch oder eben in einer Mail oder am Telefon. Jetzt aber werden all diese potenziellen Kommunikationspartner durch das Sprachmodell verwaltet und kommen in Kontakt zu mir nur durch dessen Stimme und nach dessen Standards. Die Frage ist: Wer verfügt über die Standards, die sie im Gespräch mit mir befolgt?
Lassen sich Faktoren wie Authenzität und Charisma erlernen - und wenn ja wie?
Studien zeigen, dass die KI erfolgreicher als ein Mensch ihren menschlichen Gesprächspartner von bestimmten Standpunkten überzeugen und von Verschwörungstheorien beispielsweise abbringen kann. Das wird damit erklärt, dass sie besser zuhört und besser informiert ist. Beides sind zwar zentrale Anstandsregeln einer jeden Kommunikation, die sich aber heute kaum noch voraussetzen lassen. Trotzdem ist zu vermuten, dass der Erfolg der KI auch daraus resultiert, dass sie kein Mensch ist und somit auch keine politische Agenda verfolgt, sondern allein der Wahrheit verpflichtet ist. Deshalb wird das Verhältnis der KI zur Sprache auch als «post-rhetorisch» beschrieben: Sie will nicht zu einer bestimmten Perspektive überreden, sie folgt allein statistischen Zwängen. Ihr Charisma, ihre Autorität liegt in ihrer seelenlosen, mathematischen Verfasstheit.
Welche rechtlichen Regeln halten Sie in diesem Zusammenhang für KI für nötig?
So wie die Veröffentlichung der persönlichen Kommunikation in den sozialen Medien dazu zwang, in diese «persönliche» Kommunikation gesetzlich einzugreifen, so verlangt nun die KI, unseren Umgang mit Wissen gesellschaftlich zu regeln. Wir müssen klären, nach welchen Standards und mit welchen Werten die KI mit uns kommuniziert. Und wir können eine so wichtige Frage nicht den KI-Unternehmen überlassen. Aus demokratietheoretischer Perspektive ist es höchst problematisch, dass eine Handvoll Mitarbeiter:innen eines privatwirtschaftlichen Unternehmens ohne öffentliche Diskussion und politisches Mandat das zentrale Kommunikationsmittel gesellschaftlicher Meinungsbildung manipulieren kann.
Zumal dieses Handeln an den Bürgern vorbei die Personalunion von legislativer und exekutiver Macht bedeutet: Die KI-Ingenieure können nicht nur relativ autonom bestimmen, was toxisch ist und verboten gehört, sie können auch gleich selbst die Entgiftung vornehmen. Sie sind mächtiger, als jeder Zensor es einst war. Zudem sind die getroffenen Entscheidungen auch noch unverhandelbar. Man kann zwar mit dem Sprachmodell über seinen Giftbegriff diskutieren, man kann diesen aber nicht ändern.
Die Werte, die der Kommunikation der KI am Ende zugrunde liegen sollen, lassen sich so schwer festlegen wie im Fall der sozialen Medien. Denn es handelt sich auch hier um ein globales Kommunikationsmittel für sehr verschiedene kulturelle Kontexte mit sehr unterschiedlichen Wertesystemen. Das Problem wird als „neokolonialer Kulturimperialismus“ beschrieben, da durch diese sehr westliche Technologie die Werte und das Wissen des Globalen Westens dem Globalen Süden aufgedrängt werden. Das Problem ist jedoch auch eins im Westen als Kulturkampf zwischen konservativen und progressiven Kräften – vom Gendern der KI bis zu ihrer subtilen Positionierung bei umstrittenen politischen und moralischen Fragen.
