Autonomie im Algorithmus? – Klaus Günther zur Frage der Krise des Normvertrauens

Vortrag von Klaus Günther innerhalb des Rahmenprogramms zum Ausstellungsprojekt „Making Crises Visible“

Von Kristina Balaneskovic

Der Wandel der normativen Ordnungen innerhalb der Gesellschaft hat spätestens seit der Diskussion um Big Data an Relevanz gewonnen. Kann man zwischen einer „alten“ und einer „neuen“, beziehungsweise „smarten“ normativen Ordnung unterscheiden? Inwiefern veränderten sich die normative Ordnung und das Normvertrauen im Zuge der Digitalisierung? Diesen Fragen geht Klaus Günther unter anderem in seinem Vortrag: „Vom Zwang zum Algorithmus – Krise des Normvertrauens?“, welchen er am 18. Februar 2020 in der Senckenberg Gesellschaft für Naturforschung innerhalb des Rahmenprogramms zum Ausstellungsprojekt „Making Crises Visible“, gehalten hat, nach. Werden Menschen durch künstliche Intelligenz und digitale Technologien dazu gebracht, das zu tun, was sie tun sollen? Wie sieht das neue Zeitalter der „smarten“ Ordnungen aus? Klaus Günther referiert über das Verständnis von Normvertrauen, der normativen Ordnung und über das gegenwärtige Zeitalter der Digitalisierung und die Bedeutung des Normvertrauens für eine Welt, die zunehmend durch Algorithmen geprägt wird. Klaus Günther ist Professor für Rechtstheorie, Strafrecht und Strafprozessrecht an der Goethe-Universität Frankfurt am Main und zudem seit 2007 Co-Sprecher des Forschungsverbunds „Normative Orders“, welcher ebenfalls an der Goethe-Universität Frankfurt am Main ansässig ist und Mitveranstalter des Rahmenprogramms zum Ausstellungsprojekt „Making Crises Visible“ ist.

Wie und in welchem Umfang werden Normen in einer Gesellschaft befolgt? Klaus Günther hält fest: Damit Normen, die durch den Staat gesetzt wurden, befolgt werden, müsse ein allgemeines Normvertrauen herrschen. Denn wenn Rechtsnormen permanent gebrochen würden, entstehe das Gefühl, dass diese nicht gelten. Ein typisches Trittbrettfahrer-Problem. Man habe also eine enge Abhängigkeit des Normgeltungsvertrauens von der durchschnittlich zu erwartenden Normbefolgung. In diesem Zusammenhang stellt sich also die Frage, wie sich die Bereitschaft innerhalb der Gesellschaft, Normen zu befolgen, nun erzeugen lässt? Günther sieht in den normativen Ordnungen „externe“ sowie „interne“ Motive, die ein Individuum dazu bringen, sich nach den Erwartungen einer Rechtsordnung legal zu verhalten. Nach „internen“ Motiven habe das Individuum die Norm anerkannt und den Sinn hinter der Norm eingesehen. Dass sich die Person nun an die Norm hält, sei auf intrinsische Motive zurückzuführen. Gleichzeitig habe diese Person dadurch eine Autonomie im Sinne einer „Selbstgesetzgebung“. An dieser Stelle müssen gesellschaftliche und politische Verhältnisse gegeben sein, die auch die Überzeugung der Individuen aufkommen lassen können, es handele sich um eine gute und richtige Norm. Diese gute Sozialisation in der Gesellschaft und moralische Einstellungen seien Voraussetzungen dafür, dass sich Fähigkeiten und Bereitschaften zum Normbefolgungsverhalten entwickelt haben. Interessanterweise gebe es laut dem Referenten, auch wenn all diese Faktoren gegeben sind, eine Kluft zwischen der Einsicht und dem tatsächlichen Handeln. Diesbezüglich gebe es auch „externe“ Motive, die ein Individuum dazu verleiten sollen, sich an Normen zu halten. Etwa durch Sanktionierung eines Normverstoßes oder durch Belohnungen, wenn sich das Individuum an Normen halte. Laut dem Vortragenden könne man an der Politischen Philosophie der Neuzeit gut nachvollziehen, welche Faktoren erst erzeugt werden müssen, damit der Zwang als Motiv für die Normbefolgung auch funktioniere. Es müsse ein Gewaltmonopol geschaffen werden, für welches Ressourcen finanzieller, beziehungsweise personeller Art gebraucht werden (z.B. Polizei). Auch eine Kontrolldichte sei von Nöten, welche die Überwachung der Sanktionierungen übernehme.

Eine normative Ordnung könne sich allerdings nicht nur auf „interne“ oder „externe“ Motive stützen. Wenn die Rechtsordnung beispielsweise nur auf Zwang oder Furcht vor der Sanktion aufbaue, dann breche diese irgendwann zusammen, da kein Gleichgewicht bestehe. An dieser Stelle könne auch gesagt werden, dass die Motive der Bereitschaft, Normen zu befolgen, reflexiv aufgestuft werden können. Es könne ein sogenanntes „Pre-Commitment“ eingegangen werden. Darunter werde das Einbauen von Vorkehrungen oder Mechanismen verstanden, die dafür sorgen, dass in dem Moment, in dem der Impuls zur Normverletzung kommt, das Individuum nicht das tue, wozu es verleitet werde. Interessanterweise sei man gleichzeitig Subjekt und Objekt, weil man selbst einen Mechanismus konstruiere. Man wisse, dass es eine bestimmte Situation gibt, in der man zu schwach ist, eine Norm zu befolgen oder der Einsicht zu folgen. Deswegen müsse eine technische Vorkehrung getroffen werden, welche einen selbst in diesem Augenblick daran hindert, eine Norm zu brechen. Es ist also eine Kombination der Normbefolgung aus „internen“ und „externen“ Mechanismen.

Dazu nennt der Vortragende das Beispiel der Selbstbindung nach dem norwegisch-US-amerikanischen Sozialwissenschaftler Jon Elster, welcher die Geschichte von Homers Odysseus bei den Sirenen als Analogie der freiwilligen Selbstbindung übernimmt. Odysseus wurde auf seiner Seefahrt von der Zauberin Kirke vor den Sirenen gewarnt. Danach sollte er sich, um dem Gesang der Sirenen widerstehen zu können, an einen Mast festbinden lassen. Denn wenn er dem Gesang der Sirenen verfalle, sich verführen lasse, dann würde er ihnen, wie viele Seefahrer zuvor, zum Opfer fallen und dem sicheren Tod nicht entgehen können. Er sollte also vor seinem Aufbruch zu den Sirenen Maßnahmen ergreifen, um dieses Szenario zu vermeiden. Die Ohren seiner Matrosen sollte er mit Wachs verschließen und sich selbst an einen Mast fesseln lassen, um den Gesang der Sirenen zwar genießen zu können, ihm aber nicht zu folgen. Sodann befahl Odysseus seinen Ruderern, ihn unter keinen Umständen loszubinden, egal wie sehr er darum flehte. Hiernach brachen sie auf und umsegelten die Stelle, an der sich die Sirenen befanden. Odysseus wurde vom Gesang der Sirenen so sehr berührt, dass er sich sogleich befreien wollte, um dem schönen Gesang der Sirenen zu folgen. Seine Matrosen aber, die nichts von diesem Gesang mitbekamen, da ihre Ohren mit Wachs verschlossen waren, segelten weiter. So blieb Odysseus verschont und konnte dennoch den Gesang der Sirenen genießen. Nach Klaus Günther wisse Odysseus von seiner Fehlbarkeit und habe deshalb Maßnahmen ergriffen, damit ihm seine Irrationalität nicht zum Verhängnis werde. Das „Pre-Commitment“ ist also eine Kombination der Normbefolgung aus „internen“ und „externen“ Mechanismen, welches Zweifel an der Rationalität der Menschen voraussetzt. Darüber hinaus ist es weniger aufwändig als ein Zwang durch „externe“ Mechanismen.

Bereits innerhalb ökonomischer Theorien begannen die ersten Zweifel am homo oeconomicus. Dies waren die ersten Ansätze, in denen die Gesellschaft immer skeptischer hinsichtlich der Fähigkeiten ihrer Bürger, Normen zu befolgen, wurde. Die Fehlbarkeit der Menschen hinsichtlich der Befolgung von Normen verursacht zu hohe Transaktionskosten, die Kosten der Normverletzungen steigen also zu sehr an. Die beschränkte Rationalität und Willensschwäche werden zu einem Problem. Es wurde sodann die Methode des „Nudging“ entwickelt, in der die Um-welt der Menschen so gestaltet wird, dass sie automatisch dazu gebracht werden, das suboptimale Verhalten zu meiden und so nur das optimale zu tun. Es werden verschiedene Mechanismen in Gang gesetzt, welche rationale Menschen, die fehlbar sind, beschränken. Ein Beispiel dafür sieht Klaus Günther im Einsatz von Bo-denschwellen im Straßenverkehr. Diese bringen Autofahrer dazu, sich beispielsweise an die Geschwindigkeitsbegrenzung von 30 Km/h zu halten. Ohne „interne“ Faktoren oder „externen“ Zwang, wie zum Beispiel beim Einsatz von Radargeräten oder einer Polizeistreife. Der Autofahrer füge sich den Gegebenheiten, weil bei Nichtbefolgung der Norm zwar zunächst keine Sanktion im Sinne eines Bußgeldes erfolge, das Risiko, sein eigenes Auto durch zu schnelles Überqueren der Bodenwellen zu beschädigen, allerdings zu hoch sei. Einem ähnlichen Prinzip folgen die sogenannten „smarten“ Ordnungen. Hierbei werden Menschen durch künstliche Intelligenz und digitale Technologien dazu gebracht, das zu tun, was sie tun sollen. Laut Günther stehe dabei das antizipatorische Regieren in der Diskussion: Durch präventive Mechanismen werde hierbei dafür gesorgt, dass Normverletzungen nicht begangen werden. So auch im „Predictive Policing“: Durch Big Data Einsatz werde gezielt versucht, bestimmte Täter zu identifizieren oder bestimmte Orte mit einer hohen Wahrscheinlichkeit für kriminelles Verhalten zu analysieren, um so Normverletzungen vorauszusehen. Diese Daten dienen der polizeilichen oder staatlichen Planung einer Intervention, bevor bestimmte Personen Straftaten begehen können.

Insofern erkennt Klaus Günther einen Unterschied zwischen „alten“ und „neuen“ normativen Ordnungen. Die „alte“ normative Ordnung richte sich an die Psyche des Menschen, sie wählt den Weg über das Subjekt und folgt dem Prinzip von Lohn und Strafe. Außerdem setzte sie voraus, dass es dieses Subjekt gibt, an das sich die Normen richten und es die Aufgabe des Subjekts sei, sich so zu organisieren, dass es die Norm am Ende befolgt. Das könne das Subjekt entweder durch Einsicht oder durch das Prinzip von Furcht vor den Nachteilen oder den Sanktionen beziehungsweise dem Lohn der Vorteile, welche sich durch die Befolgung der Norm ergeben, erzielen. Das „Entscheidungszentrum“, so Günther zu der Frage, ob das Subjekt etwas zur Normbefolgung tue oder nicht, liege allein bei dem Subjekt. Es habe also die Freiheit zum abweichenden Verhalten, eine Autonomie. „Smarte“ beziehungsweise „neue“ normative Ordnungen hingegen versuchen diese Freiheit zum abweichenden Verhalten auszuschalten. Man könne das abweichende Verhalten zwar nicht komplett beseitigen, allerdings wird die Umwelt des Individuums so gestaltet werden, dass es keine andere Möglichkeit habe, als sich den Gegebenheiten zu fügen. Durch moderne technische Vorkehrungen würden die Individuen also dazu gebracht werden, sich an die Normen zu halten.

Zum Abschluss seines Vortrages lässt Klaus Günther nochmals Revue passieren und kommt zum Ergebnis, dass die Digitalisierung eine Veränderung in den normativen Ordnungen mit sich ziehe. Odysseus hatte in seiner Begegnung mit den Sirenen selbst die Autonomie, zu entscheiden, welche Maßnahmen er zu seinem Schutze vor der Gefahr des Gesangs der Sirenen ergreift. Er war sich dessen bewusst, dass er fehlbar ist. Er hatte die Freiheit, selbst zu entscheiden, in seiner Hand. Ist die Freiheit zum abweichenden Verhalten ein notwendiges Merkmal von normativen Ordnungen und geht dieses möglicherweise in „smarten“ Ordnungen verloren und verfügt das Subjekt in der algorithmischen Verhaltenssteuerung überhaupt noch über Autonomie? Klaus Günther hält fest: Die paternalistische Steuerung durch intelligentes Design tritt in „guter“, sowie „schlechter“ Form auf. Nun stellt sich die Frage, ob sich das Bild des Normadressaten insofern verändere, dass man das Risiko einer Spaltung der Gesellschaft eingeht?


Aktuelles

„Normative Ordnungen“, herausgegeben von Rainer Forst und Klaus Günther, erscheint am 17. April 2021 im Suhrkamp Verlag

Am 17. April 2021 erscheint der Sammelband „Normative Ordnungen“ im Suhrkamp Verlag. Herausgegeben von den Clustersprechern Prof. Rainer Forst und Prof. Klaus Günther, bietet das Werk einen weit gefassten interdispziplinären Überblick über die Ergebnisse eines erfolgreichen wissenschaftlichen Projekts. Mehr...

Das Postdoc-Programm des Forschungsverbunds „Normative Ordnungen“: Nachwuchsförderung zwischen 2017 und 2020

Die Förderung des wissenschaftlichen Nachwuchses ist seit je her ein integraler Bestandteil des Forschungsverbunds „Normative Ordnungen“. Das 2017 neu strukturierte, verbundseigene Postdoc-Programm bietet die besten Bedingungen zu forschen und hochqualifizierte junge Wissenschaftler*innen zu fördern. Zum Erfahrungsbericht: Hier...

„Symposium on Jürgen Habermas’ Auch eine Geschichte der Philosophie“ herausgegeben von Rainer Forst erschienen

Als jüngste Ausgabe der Zeitschrift "Constellations: An International Journal of Critical and Democratic Theory" ist kürzlich das „Symposium on Jürgen Habermas, Auch eine Geschichte der Philosophie“ herausgegeben von Prof. Rainer Forst erschienen. Mehr...

Nächste Termine

7. Juli 2021, 18 Uhr

Vortragsreihe "Politische Falschheiten: Diagnosen und Konzepte": Prof. Nicola Gess (Universität Basel): Halbwahrheiten. Zur Manipulation von Wirklichkeit. Mehr...

8. und 9. Juli 2021

Jahreskonferenz des Forschungsinstituts Gesellschaftlicher Zusammenhalt: Zusammenhalt in der Krise. Mehr...

-----------------------------------------

Neueste Medien

Solidarität_Welche Rolle spielen Emotionen, Regeln, Infrastrukturen?

Prof. Dr. Sighard Neckel (Universität Hamburg und Assoziiertes Mitglied des Forschungsverbunds „Normative Ordnungen“)
Moderation: Rebecca Caroline Schmidt (Geschäftsführerin des Forschungsverbundes "Normative Ordnungen")
DenkArt "Solidarität_Aber wie?"

Das vermessene Leben

Prof. Dr. Vera King (Professorin für Soziologie und psychoanalytische Sozialpsychologie an der Goethe-Universität und geschäftsführende Direktorin des Sigmund-Freud-Instituts Frankfurt, PI von ConTrust)
Ringvorlesung "Algorithms - Between Trust and Control"

Videoarchiv

Weitere Videoaufzeichnungen finden Sie hier...

Neueste Volltexte

Rainer Forst (2021):

Solidarity: concept, conceptions, and contexts. Normative Orders Working Paper 02/2021. Mehr...

Annette Imhausen (2021):

Sciences and normative orders: perspectives from the earliest sciences. Normative Orders Working Paper 01/2021. Mehr...