Mit Blick auf den zunehmenden Einfluss von Algorithmen auf Entscheidungen in Wirtschaft und Gesellschaft wird auch über einen Algorithmen-TÜV debattiert. Wie stehen Sie dazu?
Menschen werden in vielen Lebenssituationen zunehmend von automatisierten Systemen (algorithmic decision making) analysiert, sie beeinflussen uns bei Kaufentscheidungen über Versicherungstarife bis zur Meinungsbildung. Algorithmen bestimmen heute, wer wie viel zahlt, welche Werbung angezeigt wird und welche Kreditbedingungen wir bekommen. Je nach Wohnort oder Endgerät sind manche Produkte unterschiedlich teuer. Algorithmen nehmen Prognosen auf der Basis allgemeiner statistischer Werte vor. Gegen Ausspähung und Diskriminierungseffekte braucht es klare Regeln – für Transparenz und Verbraucher*innenschutz im Digitalen. Die Grünen haben die Überprüfbarkeit von Algorithmus-basierten Entscheidungen bereits seit Jahren auf der Agenda. Wir begrüßen die aktuelle Debatte deshalb sehr.
Aber wir stehen vor einer sehr komplexen Debatte. Die reine Offenlegung von seitenlangen Datensätzen bringt den wenigsten Endverbrauchern etwas. Insbesondere wenn algorithmische Entscheidungsfindung auf selbstlernenden Systemen basiert, ist eine Kontrolle kaum noch möglich. Ein nationales Antidiskriminierungsgesetz ist erstmal auch nur eine Überschrift.
Nach welchen Kriterien sollten Algorithmen entscheiden dürfen und wie könnte das kontrolliert werden?
Wir befinden uns im Spannungsfeld von Verbraucherschutz, Datenschutz und Innovationsförderung. Bereits nach der gegenwärtigen Rechtslage dürfen automatisierte Entscheidungen nicht ausschließlich maschinell erfolgen, sondern müssen in ein Verfahren unter menschlicher Beteiligung eingebunden sein. In einigen Bereichen wie Finanzen oder Gesundheit gibt es bereits Kontrollen, die ausgebaut werden könnten. Wichtig ist, dass Entscheidungen anfechtbar und von Menschen überprüfbar bleiben.
Mir persönlich ist umfassende Transparenz wichtig. Verbraucher haben das "Recht zu Wissen", dazu gehört auch die Transparenz über die Nutzung von Informationen über uns. Nun müssen wir dafür noch einen praktikablen Weg finden.
Wer könnte eine solche Kontrolle vornehmen?
Vor der Einführung neuer Institutionen, muss geprüft werden, ob es nicht ebenso viel oder mehr Sinn macht, bestehende Akteure zu stärken. Der Bundesminister für Justiz denkt erstmal nur an sein Ressort. Es könnte aber auch eine Aufgabe für die Bundesbeauftragte für Datenschutz und Informationsfreiheit oder das Bundeskartellamt sein? Das Kraftfahrtbundesamt steht mit der Zulassung der Software automatisierter Fahrzeuge sowieso schon vor neuen Aufgaben. Hoffen wir, dass diese ernsthaft durchgeführt wird, Dieselgate lässt uns da manchmal zweifeln.
Und unabhängig davon gilt: braucht eine starke Antidiskriminierungsstelle des Bundes. Denn Diskriminierung von Menschen aufgrund bestimmter Merkmale im Alltag ist ein gesamtgesellschaftliches Problem, welches wir nicht hinnehmen dürfen – ob automatisiert und digital oder analog.
Welche Algorithmen sollten kontrolliert werden und welche nicht?
Transparenz, Grenzen und Wertentscheidungen muss es vor allem dort geben, wo es um gesellschaftliche Teilhabe, sensible Daten geht oder um grundsätzliche Fragestellungen (automatisiertes Fahren).
Transparenz braucht es auch in all den zahlreichen Geschäften des Alltags, die der Kunde regelmäßig wieder eingeht und die andererseits durch die Menge hohe Gewinnmargen versprechen. Wir müssen klar sagen, dass wir die Verbraucher im Alltag nicht allein stehen lassen.
Wir Grüne setzen uns im Bundestag für die Bildung einer Enquete-Kommission ein: "Ethische Fragen der digitalen Transformation" zu Fragen der Künstlichen Intelligenz und Automatisierung. Die Automatisierung ist ein kollektiver Prozess. Wir wollen die Digitalisierung so gestalten, dass alle profitieren. Diese Weichenstellungen für das digitale Zeitalter vorzunehmen ist doch Aufgabe des Gesetzgebers mit Beratung von Sachverständigen. Öffentlich muss das sein statt im stillen Kämmerlein exekutiver Expertenkammern.
Wie sehen Sie die Rechtslage in Deutschland bezüglich von Algorithmen im internationalen Vergleich?
Algorithmen-basierte Angebote sind global. Deutsche Regelungen wären ohnehin nur ein Übergang. Soweit Algorithmen auf personenbezogene Daten zurückgreifen, gelten die EU-rechtlichen Vorgaben der Datenschutzgrundverordnung, insbesondere zu Profiling, Big Data und dem Verbot automatisierter Entscheidungen. So muss die Bundesregierung die Debatte auch auf europäischer Ebene mit führen statt nur im eigenen Ministerium.
