Ein Gast-Blogbeitrag von Basanta E.P. Thapa
Big Data und Künstliche Intelligenz helfen uns, den Weg durch unsere Städte zu finden, die schnellste Zugverbindung herauszusuchen und versorgen uns mit Musik, Filmen und Kleidung, die uns gefallen. Grundlage hierfür sind Vorhersagemodelle, die sich aus der dichten Datendecke von digitaler Kommunikation, elektronisch gestützten Geschäftsprozessen und vernetzten Sensoren speisen.
In Politik und Verwaltung könnten diese Datentechnologien helfen, gesellschaftliche Trends frühzeitig zu erkennen, die Ursachen sozialer Probleme zu identifizieren, die Auswirkungen staatlicher Maßnahmen zu simulieren und Verwaltungsentscheidungen zu automatisieren. Allerdings wird schon der Einsatz in der Wirtschaft mit Vorwürfen der Überwachung und Diskriminierung kontrovers diskutiert – umso bedachter ist daher vorzugehen, wenn es um die Verbindung mit staatlichem Zwang geht. Je mächtiger die Beobachtungs- und Interventionswerkzeuge des Staates werden, desto drängender wird die Frage, wo hier Grenzen zu ziehen sind, um die Freiheit der Bürger_innen zu erhalten.
Diese Frage ergründet das NEOS Lab im Herbst 2019 mit einer Studie zum datengesteuerten Regieren, gefördert vom European Liberal Forum, der Parteistiftung der liberalen Parteienfamilie im Europäischen Parlament. Die Studie geht dabei über die vieldiskutierten Datenschutzfragen hinaus in die Breite:
- Macht es einen Unterschied, wenn Bürger_innen algorithmische Entscheidungswege nicht nachvollziehen können? Der Einsatz lernender Algorithmen auf Grundlage neuronale Netze führt schnell zu sogenannten Black Boxes.
- Wie verändern Datenanalysen die politische Auseinandersetzung? Politische Einflussmöglichkeiten verschieben sich, wenn komplexe Datenanalysen zum stechenden politischen Argument werden.
- Sind staatliche Interventionen aufgrund von Wahrscheinlichkeiten in Vorhersagemodellen mit einem freiheitlichen Menschenbild vereinbar? Die Behandlung nach dem Muster „Bürger_innen mit ähnlichen Eigenschaften haben in der Vergangenheit folgende Verhaltensweisen an den Tag gelegt“ negieren potenziell die individuelle Willensfreiheit.
- Sind die Möglichkeiten zum „perfekten Gesetzesvollzug“ zu begrüßen oder zu beschränken? Eine umfassende Datendecke ermöglich die automatische Ahndung jedes einzelnen beobachtbaren Rechtsverstoßes.
Zusätzlich stellt die Studie derzeit häufig vorgeschlagene Regulierungsmaßnahmen für die datengesteuerte Verwaltung vor, beispielsweise die Erklärbarkeit von Algorithmen, unabhängige Algorithmen-Prüfstellen, Rechtsmittel gegen algorithmische Verwaltungsentscheidungen sowie die Beschränkung auf bestimmte Einsatzgebiete.