Algorithmen bestimmen zunehmend den digitalen Alltag, etwa bei der Online-Suche oder bei digitaler Werbung. Erleichtern die Algorithmen damit unser Leben, oder schränken sie unseren Horizont ein?
Sowohl als auch. Die großen Mengen an Informationen, die mit der Digitalisierung einhergehen, können ohne Algorithmen überhaupt nicht mehr sinnvoll ausgewertet werden. Voraussetzung für die Verarbeitung ist natürlich immer, dass die Systeme zulässig auf die Daten zugreifen. In vielen Fällen können damit valide Aussagen für sinnvoll zusammengestellte Gruppen erzielt werden. Allerdings bleiben bei Algorithmen Einzelfälle auf der Strecke, die über den standardisierten Ansatz nicht abgebildet werden. Und darin liegt nun die sehr konkrete Gefahr, dass sie unseren Horizont einschränken. Wenn Sie beispielsweise bei einem Online-Kaufhaus oder einer Online-Filmplattform mit Algorithmen die Zuschauerinteressen identifizieren wollen, werden Sie sich zwangsläufig auf Mainstream-Angebote reduzieren. Alles andere rechnet sich im Zweifel nicht. Unsere Gesellschaft baut aber auf Pluralität. Durch die Präsenz von verschiedenen Meinungen und Lebensmodellen entwickelt sich die Gesellschaft insgesamt weiter. Deshalb sollten die Ergebnisse von Algorithmen nicht alleine Maßgabe für unsere Entscheidungen sein.
Algorithmen werden auch bei wichtigen Entscheidungen eingesetzt, etwa bei Stellenausschreibungen oder Kreditvergaben. Wie lassen sich Diskriminierungen verhindern?
Gerade bei kritischen Einzelentscheidungen ist es wichtig, dass eine Gegenprüfung durch Menschen stattfindet. Zumindest sollte ausreichende Transparenz für den Betroffenen gewährleistet werden, damit er sich gegebenenfalls dagegen wehren kann. Menschen sind aufgrund ihrer offenen Denkstrukturen und Assoziierungsmöglichkeiten immer noch besser in der Lage, Einzelfallabwägungen zu treffen. Diese ermöglichen sehr viel differenziertere und oft auch bessere Ergebnisse als Algorithmen. Auf der anderen Seite können Algorithmen auch ein Mittel sein, Diskriminierungen durch subjektive Auffassungen zu vermeiden. Beispielweise sind bei Massenbewerbungsverfahren Algorithmen notwendig, um eine überschaubare Vorauswahl zu treffen. Gerade in diesem Bereich halte ich aber am Ende die abschließende menschliche Meinung für unverzichtbar.
Experten fordern einen eigenen Rechtsrahmen für den Einsatz von Algorithmen. Welche Regulierungen halten Sie für sinnvoll?
Wir haben zum Teil schon einen regulatorischen Rahmen. Zumindest im Datenschutzrecht gibt es Regelungen, dass Entscheidungen nicht ausschließlich von automatisieren Verfahren abhängig gemacht werden dürfen. Das wird sich mit der europäischen Datenschutz-Grundverordnung nicht ändern, sondern vielmehr einheitlich in Europa ausgerollt werden. Die Datenschutz-Grundverordnung räumt dem Betroffenen als Mindeststandard ein Widerspruchsrecht gegen eine automatisierte Einzelentscheidung ein. Für Teilbereiche der Industrie ist es darüber hinaus sicher angebracht, über Selbstregulierung nachzudenken. Von einer vorschnellen gesetzlichen Regelung halte ich erst einmal nichts.
Algorithmen „lernen“ durch die Menge der Daten, die sie bekommen. Wie kann der betroffene Bürger Herr über seine Daten bleiben oder wieder werden?
Wenn wir ehrlich sind, geht das nur sehr beschränkt. Allenfalls kann der Einzelne bestimmen, für welche Zwecke seine Daten auswertet werden. Durch die selbstlernenden Systeme wird eine Kontrolle über das "Wie" später schwer möglich sein. Ebenso wird das konkrete Ergebnis oft nicht vorhersehbar sein. Dazu werden Algorithmen ja gerade verwendet. Bei kritischen Verarbeitungen sollte daher eine doppelte "Ob"-Entscheidung des betroffenen Bürgers möglich sein. Zum einen, ob er mit dem Ziel der Verarbeitung einverstanden ist und zum anderen, ob das letztendlich gefundene Ergebnis verwendet werden kann, um es auf ihn zu reproduzieren.
