Menue-Button
← FACHDEBATTE Interview

Managerin fordert Werte für Algorithmen

Warum Gesetze allein künftig nicht reichen

Yvonne Hofstetter, Managing Director, Teramark Technologies GmbH Quelle: Heimo Aga Yvonne Hofstetter TERAMARK TECHNOLOGIES GmbH 02.05.2016
INITIATOR DIESER FACHDEBATTE
Uwe Schimunek
Freier Journalist
Meinungsbarometer.info
ZUR FACHDEBATTE

"Algorithmen setzen sich über rechtliche Regulierung hinweg, sie wirken selbst wie ein Gesetz", sagt Yvonne Hofstetter. Sie ist Juristin, Essayistin und Geschäftsführerin der Teramark Technologies GmbH, die Systeme der künstlichen Intelligenz entwickelt. Nach Ansicht von Hofstetter "stehen wir erst am Anfang der algorithmischen Bevormundung".







Algorithmen bestimmen zunehmend den digitalen Alltag, etwa bei der Online-Suche oder bei digitaler Werbung. Erleichtern die Algorithmen damit unser Leben, oder schränken sie unseren Horizont ein?
Die Digitalisierung erhöht die Dimensionalität unseres Lebens. Sie erweitert es räumlich und zeitlich, intellektuell und kreativ. Das ist die gute Seite.Doch Digitalisierung bedeutet auch, dass die Komplexität unseres Lebens stark zunimmt. Digitale Interaktion und ständige Erreichbarkeit nehmen in einem Maße zu, dass sie uns langsam überfordert. Viele Menschen leiden darunter.
Hier sollen Algorithmen – Computerprogramme – helfen, das komplexe Leben zu erleichtern. Sie überwachen uns; sie analysieren und klassifizieren uns; sie entscheiden an unserer Stelle. Doch während und wie sie das tun, beschränken sie uns mehr denn je. Sie entscheiden, welche Informationen wir erhalten; wie wir optimal fit werden; wer als Dating-Partner passt… Dabei stehen wir erst am Anfang der algorithmischen Bevormundung.

Algorithmen werden auch bei wichtigen Entscheidungen eingesetzt, etwa bei Stellenausschreibungen oder Kreditvergaben. Wie lassen sich Diskriminierungen verhindern?
Gar nicht. Fast alle Algorithmen, die bewerten, ob Menschen Zugang zu einer Leistung erhalten oder nicht, setzen Klassifizierungsmethoden ein. Klassifizierer „profilen“ uns. Sie rechnen aus, ob wir einer Gruppe mit einem bestimmten Verhalten angehören. Klassifizierer haben eine bestimmte mathematische Eigenschaft: die „Diskriminierungsfähigkeit“. Ihre ausdrückliche Aufgabe ist es zu diskriminieren. Diskriminierung im mathematischen Sinn ist nicht schlecht. Sie bedeutet nur: eine Unterscheidung treffen. Sie will Gleiches gleich behandeln. Das Problem ist aber die Güte der Klassifizierung. Klassifizierung weist immer einen Fehler auf. Wenn ein Mensch falsch klassifiziert wird, bekommt er große Probleme, die er selbst kaum mehr ausbügeln kann. Eine falsche Klassifizierung kann zum Stigma fürs ganze Leben werden. Oder sie ist lebensgefährlich. Die amerikanischen Geheimdienste haben tausende pakistanische Bürger als Terrorverdächtige falsch klassifiziert und Drohnenangriffe auf sie gestartet.

Experten fordern einen eigenen Rechtsrahmen für den Einsatz von Algorithmen. Welche Regulierungen halten Sie für sinnvoll?
Auch das ist neu an der Digitalisierung: Rechtliche Regulierung allein ist zahnlos. Algorithmen setzen sich über rechtliche Regulierung hinweg, sie wirken selbst wie ein Gesetz. Sie gestalten die Gesellschaft neu, ohne dass wir je eine demokratische Debatte darüber geführt hätten, ob wir den Umbau in eine digitale paternalistische Kontrollgesellschaft überhaupt wollen. Schlimmer noch: Programmcode wirkt nicht nur gestaltend wie ein Gesetz, er fällt gleichzeitig Urteile über Menschen, wenn er sie klassifiziert. Das ist das Gegenteil von Gewaltenteilung. Die einzige Chance, eine freiheitlich-demokratische Gesellschaft im digitalen Zeitalter aufrechtzuerhalten, ist es, unsere Werte direkt in Algorithmen einzubauen. Technologen nennen das „Value-by-Design“. Das entbindet nicht von der gesetzlichen Regulierung der Wirtschaftsakteure, die Algorithmen nutzen, um Gewinne zu erzielen. Nur reichen Gesetze nicht mehr aus, um die digitale Gesellschaft zu gestalten.

Algorithmen „lernen“ durch die Menge der Daten, die sie bekommen. Wie kann der betroffene Bürger Herr über seine Daten bleiben oder wieder werden?
Die Daten, die Konsumenten und Bürger bis heute herausgegeben haben, sind verloren. Darüber werden wir keine Kontrolle mehr zurückgewinnen. Wir können nur hoffen, dass Datenanalysten gute Arbeit leisten, damit ihre lernfähigen Algorithmen unsere historischen Daten „vergessen“, weil sie für die Lenkung unserer Zukunft nicht mehr relevant sind.
Ich rate noch immer zur größten Datensparsamkeit, auch wenn das fast unmöglich geworden ist, weil Daten auch ohne unsere aktive Mitwirkung erhoben werden. Mir geht es dabei mehr um den zeitlichen Aspekt: Gesellschaft, Politik und Technologen werden der digitalen Problematik immer mehr gewahr. Sie beginnen zu handeln. Bis ihre Maßnahmen greifen und die Digitalisierung humaner geworden ist, sollten wir so viele Daten wie möglich zurückhalten.

UNSER NEWSLETTER

Newsletter bestellen JETZT BESTELLEN

■■■ WEITERE BEITRÄGE DIESER FACHDEBATTE

EIN DEBATTENBEITRAG VON
Frederick Richter
Vorstandsvorsitzender
Stiftung Datenschutz

Frederick Richter, Vorstandsvorsitzender Stiftung Datenschutz
Politik | Netze

Datenschützer fordert "digitale Mündigkeit"

Warum Algorithmen ein freiheitliches ■ ■ ■

EIN DEBATTENBEITRAG VON
Frederick Richter
Vorstandsvorsitzender
Stiftung Datenschutz

EIN DEBATTENBEITRAG VON
Dr. Claus D. Ulmer
Senior Vice President
Deutsche Telekom AG

Dr. Claus D. Ulmer,  Senior Vice President DEUTSCHE TELEKOM AG
Politik | Netze

Telekom-Manager regt Selbstregulierung ■ ■ ■

Warum der Mensch stets die letzte Entscheidung ■ ■ ■

EIN DEBATTENBEITRAG VON
Dr. Claus D. Ulmer
Senior Vice President
Deutsche Telekom AG

EIN DEBATTENBEITRAG VON
Jan Christian Sahl

Bundesverband der deutschen Industrie (BDI

Jan Christian Sahl, Senior Manager Digitalisierung, Bundesverband der deutschen Industrie (BDI)
Politik | Netze

BDI plädiert für "Code-Kodex" für ■ ■ ■

Welche Regeln für Algorithmen gelten müssen

EIN DEBATTENBEITRAG VON
Jan Christian Sahl

Bundesverband der deutschen Industrie (BDI

ZUR FACHDEBATTE

ÜBER UNSERE FACHDEBATTEN

Meinungsbarometer.info ist die Plattform für Fachdebatten in der digitalen Welt. Unsere Fachdebatten vernetzen Meinungen, Wissen & Köpfe und richten sich an Entscheider auf allen Fach- und Führungsebenen. Unsere Fachdebatten vereinen die hellsten Köpfe, die sich in herausragender Weise mit den drängendsten Fragen unserer Zeit auseinandersetzen.

überparteilich, branchenübergreifend, interdisziplinär

Unsere Fachdebatten fördern Wissensaustausch, Meinungsbildung sowie Entscheidungsfindung in Politik, Wirtschaft, Wissenschaft, Medien und Gesellschaft. Sie stehen für neue Erkenntnisse aus unterschiedlichen Perspektiven. Mit unseren Fachdebatten wollen wir den respektvollen Austausch von Argumenten auf Augenhöhe ermöglichen - faktenbasiert, in gegenseitiger Wertschätzung und ohne Ausklammerung kontroverser Meinungen.

kompetent, konstruktiv, reichweitenstark

Bei uns debattieren Spitzenpolitiker aus ganz Europa, Führungskräfte der Wirtschaft, namhafte Wissenschaftler, Top-Entscheider der Medienbranche, Vordenker aus allen gesellschaftlichen Bereichen sowie internationale und nationale Fachjournalisten. Wir haben bereits mehr als 600 Fachdebatten mit über 20 Millionen Teilnahmen online abgewickelt.

nachhaltig und budgetschonend

Mit unseren Fachdebatten setzen wir auf Nachhaltigkeit. Unsere Fachdebatten schonen nicht nur Umwelt und Klima, sondern auch das eigene Budget. Sie helfen, aufwendige Veranstaltungen und überflüssige Geschäftsreisen zu reduzieren – und trotzdem die angestrebten Kommunikationsziele zu erreichen.

mehr als nur ein Tweet

Unsere Fachdebatten sind mehr als nur ein flüchtiger Tweet, ein oberflächlicher Post oder ein eifriger Klick auf den Gefällt-mir-Button. Im Zeitalter von X (ehemals Twitter), Facebook & Co. und der zunehmenden Verkürzung, Verkümmerung und Verrohung von Sprache wollen wir ein Zeichen setzen für die Entwicklung einer neuen Debattenkultur im Internet. Wir wollen das gesamte Potential von Sprache nutzen, verständlich und respektvoll miteinander zu kommunizieren.