Eine künstliche Intelligenz (KI) hat eine Entscheidung für Sie getroffen. Basierend auf Ihrem bisherigen Verhalten und statistischen Prognosen hat sie in weniger als einer Minute Ihre aktuelle Stimmung berechnet. Ihre Reaktion auf Aussagen, Bilder und Ähnliches ist in die Entscheidungsfindung eingeflossen. Sie haben soeben gewählt. Was wie ein Konzept für die Zukunft von Streaming-Diensten klingt, beschreibt eine Möglichkeit für die höchsten Güter eines demokratisch verfassten Staats: die politische Wahl, die Meinungs- und Willensbildung durch Abgeordnete – beziehungsweise die KI, die jetzt Ihre Abgeordnete ist. 2050 könnten eine oder verschiedene künstliche Intelligenzen auf einer ähnlichen Basis im Parlament – ich bin überzeugt, dass es weiterhin Parlamente geben wird – neben menschlicher Intelligenz über Gesetze und damit unser gesellschaftliches Zusammenleben mitentscheiden. Würden Sie Ihre Stimme einem Menschen geben, der sein Mandat frei ausübt, oder einer KI, die stets in Ihrem Sinne abstimmt?
Wir leben in Blasen
Eine KI, die für uns bestimmt: Wollen wir das wirklich? Kehren wir kurz zum Beispiel der Streaming-Dienste zurück. Ob Musik, Film, Serie oder Hörbuch: Algorithmisch gestützte Entscheidungen sind längst real und normal — viele kennen die persönlichen Mixtapes bei Spotify. Auch unsere News- und Entdeckungs-Feeds wissen genau, was uns interessiert. Wir haben es uns in diesen eigenen Universen bequem gemacht. Kennen Sie das: Sie sind abgelenkt und klicken falsch oder lassen (aus Versehen) ein Video zu lange laufen und schon haben Sie sich den Auswahlalgorithmus ruiniert, der Ihnen jetzt Dinge in den Feed spült, die sie gar nicht interessant finden. Uns stört dann, dass wir nicht mehr mit genehmen Inhalten, sondern unter Umständen gar mit gegensätzlichen Meinungen konfrontiert werden.
Aber hier geht es nicht nur um Katzen- oder Hundevideos. Das Wall Street Journal hat 2019 gezeigt, wie unterschiedlich ein liberaler und konservativer Facebook-Feed in der direkten Gegenüberstellung zu einzelnen Themen aussehen kann. Es sind zwei Blasen, die sich oft nicht berühren. Wie bewusst sind wir uns dieser algorithmisch gesteuerten Einwirkung auf die Meinungs- und Willensbildung? Wie sehr lassen wir uns davon lenken?
Demokratie in der Krise
Es gibt Gründe, eine KI anstelle von Menschen wählen und entscheiden zu lassen. Die Einzelinteressen der Wahlberechtigten würden besser repräsentiert werden. Die Wahlbeteiligung bei Landtags- und Kommunalwahlen liegt aktuell bei um die 50 Prozent. Das repräsentative System hat bei Bürgern einen schlechten Stand. Laut einer Studie des Center for the Governance of Change der spanischen Privatuniversität IE würde fast die Hälfte der Befragten in Deutschland Sitze menschlicher Abgeordneter einem Algorithmus mit künstlicher Intelligenz überlassen, der Zugang zu ihren Daten hätte, um ihre Interessen zu maximieren.
Ich glaube nicht, dass dieses Ergebnis grundsätzlich eine Demokratie- und Vertrauenskrise darstellt. Ich bin überzeugt, dass nur das demokratische System ständige Kritik aushalten und aufnehmen kann. Helmut Schmidt sagte sehr richtig: „Eine Demokratie, in der nicht gestritten wird, ist keine.“ Dennoch: Es gibt ein Ungleichgewicht von Repräsentation, die aus einer strukturellen und inhaltlichen Entfremdung von Repräsentierten und Repräsentantinnen entsteht. Zur Wahl stehen Themenbündel, die in globalisierten Kontexten seltener einzelne Interessen durchsetzen lassen; die soziale Zusammensetzung der Parlamente bildet die Gesellschaft immer noch ungenügend ab. Lokale Abgeordnete können weniger Rechenschaft über ihr Wirken ablegen, je wichtiger politische Akteure oberhalb der nationalen Ebene werden und sich verflechten.
Eine nützliche Hilfe
Das klingt ziemlich kompliziert. Aber wenn wir ehrlich sind, ist Politik eben kompliziert. Trotz aller Kritik ist es gut, sinnvoll und notwendig, dass Repräsentanten, durch uns Bürgerinnen gewählt, Entscheidungen treffen, die wir selbst kaum alle einzeln treffen könnten. Im vergangenen Jahr wurden 203 Gesetze verabschiedet. Niemand kann sich in alle ihrer Details einarbeiten – nicht einmal die Abgeordneten selbst. Deshalb arbeiten die Fraktionen natürlich in Arbeitsteilung und stimmen gemäß der Fraktionsdisziplin gemeinsam ab im Vertrauen darauf, dass die anderen ihren Job gut gemacht haben.
Fraglich ist, ob das der Komplexität und Tragweite politischer Probleme gerecht wird. Wo aber Komplexität herrscht, vermag eine KI Muster und Lösungen zu finden, die man sich vorher nicht hätte denken können. Das gelingt ihr oft schneller und vermeintlich besser. Daraus ergibt sich die Chance, widerstreitende Interessen anders, vielleicht besser, auszutarieren. Eine Abgeordneten-KI könnte unter Berücksichtigung entsprechender Daten nicht nur die ungleiche sozioökonomische Repräsentanz bei parlamentarischen Entscheidungen ausgleichen. Sie könnte Themenbündel entzerren und in kleineren Einheiten Lösungen identifizieren, die zunächst nicht ersichtlich sind. Folgt man diesem Gedanken, entsteht ein Szenario, in dem eine KI neue Lösungen entwickeln und in den Gesetzgebungsprozess vor der Entscheidung einfließen lassen kann. Vielleicht wäre die KI schon vor Jahren auf die aktuelle Lösung des Deutschlandtickets gekommen.
Die KI als Autokratin
Viele mögen beim Gedanken an eine regierende künstliche Intelligenz erschaudern. Sie mögen dabei an den digital gestützten Totalitarismus in China denken. KI-Abgeordnete handeln nicht nach Werten und Überzeugungen, sondern nach Prognosen. Der Streit um das beste Argument – das Prinzip der deliberativen Demokratie – findet hier nicht statt. Noch mal einen Schritt zurück zu Social Media: Was für Sie oder für mich relevant und sinnvoll scheint, definieren Plattformen und ihre Algorithmen. Als Grundlage des Geschäftsmodells sind die geheim und damit völlig intransparent. Bei politischen Entscheidungen wäre das inakzeptabel. Sie müssen nachvollzogen werden können.
Ein weiteres Problem besteht in den Daten, aus denen Maschinen lernen. Meinungen werden durch Algorithmen kanalisiert, verzerrt und, sollten sie von der Norm abweichen, an den Rand gedrängt. Die problematische Datenlage hat angeblich schlaue Maschinen oft genug zu Rassisten gemacht, die nichteuropäisch aussehende Menschen nicht erkennen und diskriminieren. Die Gefahr für KI-Abgeordnete liegt auf der Hand.
Das Spannungsfeld zwischen geäußerten und verschwiegenen Meinungen beherrscht ohnehin die Debatte über den aktuellen politischen Meinungs- und Willensbildungsprozess. Die größere Gefahr stellt eine auf Automatisierung beruhende Pseudodemokratie dar. Sie legitimiert sich lediglich durch den unangefochtenen Wahrheitsanspruch von Prognosen, wenn kein Einblick in die Funktionsweise gewährleistet oder gewünscht ist. Damit sind wir bei einem mindestens genauso bedeutenden Prinzip einer repräsentativen Demokratie angelangt: dem Verantwortungs-, Zurechenbarkeits- und Legitimationszusammenhang. Wenn eine KI als fehlerfrei und mit besseren Ergebnissen assoziiert wird, besteht sogar die Gefahr der Auflösung dieses Zusammenhangs, die einer Autokratie gleicht, bei dem die autokratische KI sich über die Verantwortung und Zurechenbarkeit hinwegsetzt.
Wie sähe eine KI-Abgeordnete aus?
Dass eine komplett unabhängige künstliche Intelligenz in der nahen Zukunft als Abgeordnete wählbar ist, halte ich nicht für unwahrscheinlich. Sie muss aber mindestens dem Verantwortungs-, Zurechenbarkeits- und Legitimationszusammenhang gerecht werden. Unser Grundgesetz enthebt gewählte Abgeordnete von der Bindung an Aufträge und Weisungen, sie sind nur ihrem Gewissen unterworfen – und der Zustimmung der Wahlberechtigten, vor denen sie sich zu verantworten haben. So sollte es sich auch für KI-Abgeordnete verhalten.
Es stellen sich aber ganz andere Fragen, die sich abseits der Abstimmung in Parlamenten, nämlich im inhaltlichen Bereich der Gesetzgebungsverfahren, befinden. Durch sie werden Entscheidungen vorbereitet, etwa in Arbeitsgruppen, Ausschüssen oder den Parteien. Eine künstliche Intelligenz müsste von derartigen Aufgaben entweder entbunden werden, womit sich ihre Wirkung reduziert, oder in der Lage sein, diese zu übernehmen. Entsprechende Prozeduren müssten reformiert werden. Unklar ist auch, wie KI-Abgeordnete in die Parlamente kommen. In welcher Partei sind sie? Machen sie für sich selbst Wahlkampf? Wer programmiert sie?
Die Fragen berühren nicht nur Verantwortung und Zurechenbarkeit, sondern schlussendlich auch die Justiziabilität. In jedem Fall ist klar: Eine rein autonome KI, die als Abgeordnete unabhängig agiert, muss sich dem rechtlichen Rahmen der Zurechnung unterordnen. Ihre Entscheidungen müssen erklärbar und (möglichst) nachvollziehbar sein und damit weiterhin der demokratiebedingten Kontrolle der Wahlberechtigten unterstehen – wie unsere Abgeordneten es jetzt schon sind. Im ersten Schritt wird KI wohl bei Rechts- und Verwaltungsakten unterstützend eingesetzt werden und erst im nächsten dann, ebenfalls unterstützend, bei der Repräsentation im Parlament.
Wir können nicht auf etwas reagieren, von dem wir nichts wissen
Wer besser um Sorgen, Wünsche und Bedürfnisse seiner Bevölkerung und deren Verhältnisse weiß, agiert besser im politischen Raum und regiert besser. Bei manchen Leserinnen mögen sich direkt die Datenschutz-Nackenhaare aufstellen. Zu Recht. Autoritäre und artverwandte Regime haben mit dem Einsatz künstlicher Intelligenz ein Instrument zur Hand, mit dem sie manipulieren und sich illegitim an der Macht halten können. Zumindest dann, wenn Überwachung vorgibt, die gesellschaftliche Ordnung zu verbessern. Wir denken an Chinas Scoring-System.
Wir müssen mindestens begreifen, welche Rolle künstliche Intelligenz in der Meinungs- und Willensbildung politischer Systeme spielen kann. Damit meine ich: wir, die Bürgerinnen und Bürger. Dazu braucht es Aufklärung und den Ausbau von Kompetenzen, Regeln beziehungsweise einen Ordnungsrahmen. Auf dem Prozess dorthin muss die Zivilgesellschaft eingebunden werden – so wie es die KI-Strategie der Bundesregierung vorsieht.
Welche Rolle künstliche Intelligenz in unserem repräsentativen System spielen wird, werden wir zu guter Letzt wieder demokratisch entscheiden müssen – mittels unserer aktuellen, menschlichen Abgeordneten.
Dieser Beitrag erschien zuerst in der gedruckten Ausgabe N° 141 – Thema: Interview mit Norbert Lammert. Das Heft können Sie hier bestellen.
