Urteilskraft im KI-ZeitalterProblemen mit KI aus philosophischer-ethischer Perspektive

Der Artikel geht Problemen mit KI aus philosophischer-ethischer Perspektive mit einem besonderen Blick auf die öffentliche Verwaltung nach und stellt als These die wachsende Bedeutung von Urteilskraft im KI-Zeitalter heraus.

Wiewohl Warnungen vor den einigermaßen unabsehbaren Auswirkungen von „Künstlicher Intelligenz“ (KI) allseits virulent sind und insbesondere auch von Expert/innen auf dem Gebiet geäußert werden, bleiben sie doch sowohl im öffentlichen als auch im wissenschaftlichen Diskurs eigenartig diffus.¹ Ein Kern dieser Bedenken kann jedoch auf philosophisch-ethischem Gebiet dingfest gemacht werden: Nämlich in der Konzentration auf die Frage, was der Einsatz von KI für menschliche Beurteilungs- und Entscheidungsfähigkeiten bedeutet und diesbezüglich bewirkt und wie dies wiederum mit Blick auf die häufig existentiellen Auswirkungen von Entscheidungen im staatlichen Kontext hoheitlicher Aufgaben zu bewerten ist. In diesem Sinne sei diese Problematik im Folgenden skizziert und in Umrissen aufgefächert. 

Unter der Annahme eines gegebenen digitalen Strukturwandels gilt es dabei nicht, denselben zurückzuweisen, sondern nach seinen Möglichkeiten und Risiken zu fahnden, wobei hier der Schwerpunkt auf letzterem liegt. Die Gefährdungen können in zweifacher Weise aufgearbeitet werden. Ein Teil der Problematik liegt in den technischen Systemen selbst und ihren spezifischen Bedingtheiten. Hier sorgt neben der potentiellen Multiplizierung von strukturell implementierter Diskriminierung² insbesondere der „black-box-Effekt“ für Sorge³, denn lernfähige Systeme entwickeln ihrerseits Eigendynamiken, die letztlich nicht in Gänze transparent gemacht werden können. Dies stellt jedoch eine öffentliche Verwaltung, die sich im freiheitlich-demokratischen Rechtsstaat einer Nachvollziehbarkeit verpflichtet sieht und jederzeit Rechenschaft ablegen können muss, vor eine grundlegende Problematik. Noch gravierender zeigen sich die Schwierigkeiten in philosophisch-ethischer Reflexion, denn die künstliche Intelligenz trifft an vielen Stellen Entscheidungen auf Basis binärer Algorithmen⁴, die wenig bis nichts mit den Abwägungen einer menschlichen Urteilskraft gemein haben und unter Umständen auch auf durch KI errechneten Datenmengen basieren, die ihrerseits wiederum von Menschen gar nicht nachgehalten werden können.

Kant stufte Dummheit als Absenz von Urteilsfähigkeit ein und schon ihm war klar, dass so etwas wie Urteilskraft, die für ihn – wie zuvor bereits bei dem Juristen und Philosophen Christian Thomasius und später bei der Denkerin Hannah Arendt – die vornehmlichste und orientierende Kraft des Menschen ist, geübt werden muss. In Ergänzung zur Abwesenheit von Urteilskraft kann zudem Sorge bereiten, dass eine auf Algorithmen basierte Technik eine geradezu perfide Sogwirkung ausübt und das Bewusstsein für existierende Entscheidungsprozesse sukzessiv zum Verschwinden bringt. Besteht am Anfang des Einsatzes von neuer Technik bei den Anwendern noch eine produktive kritische Skepsis gegenüber dem Medium, verliert sich dieselbe in der alltäglichen routinierten Anwendung und verschleiert letztlich, dass überhaupt Urteile gefällt werden.

Wie eine schleichende Autorität, die nie wirklich in ihrer Geltung zur Disposition stand, setzt sich so ungefragt ein System gegen menschliche Urteilskraft durch und könnte „strukturelle Dummheit“⁵ und „Gedankenlosigkeit“⁶ befördern. Es sind daher Problematiken von einem möglichen Verlust der Beurteilungs- und Entscheidungsfähigkeit anzusprechen, gerade weil sie nicht mehr gefordert werden, und auch das Problem von „blinden“ Urteilen, die der häufig historisch unterlegten Thematisierung von „blindem Gehorsam“ in der Folgeleistung sehr nah kommen und letztlich nicht hinnehmbare Verschiebungen und Absagen von Verantwortung bedeuten.

Die KI „errechnet“ ein Ergebnis auf der Basis statistischer Muster – situatives, pluralistisches Denken und Urteilen vermag sie jedoch nicht. Hier beginnt das eigentliche Problem: Die Vorschläge der KI werden stetig genauer und schneller. Das führt wiederum dazu, dass Verwaltungsmitarbeitende die Entscheidungen unter Umständen immer weniger hinterfragen oder sogar glauben, dass die KI besser für sie denken könne. Man distanziert sich oft unbewusst von seinen eigenen vernünftigen Fähigkeiten. 

In dem Moment, in dem wir aber auf dieses „errechnete“ Ergebnis der KI vertrauen, geben wir das auf, was uns als Menschen insbesondere ausmacht: kritische Urteilskraft. Die menschliche Rolle wird zu einer bloß kontrollierenden Aufsicht. Doch das (Be-)Urteilen ist eine zentrale ethische Praxis, die nicht delegiert werden kann, noch darf – und schon gar nicht an eine KI. Urteilskraft und damit eine unabdingbare Voraussetzung für „Mündigkeit“ lässt sich nicht automatisieren.⁷ Dem öffentlichen Dienst kommt in diesem Zusammenhang eine besondere Verantwortung zu. Überall dort, wo staatliches Handeln auf Ermessensentscheidungen beruht und unmittelbar in das Leben von Menschen eingreift, stellt sich stets auch die Frage nach Verantwortung, Gerechtigkeit und Menschlichkeit.⁸

Eine solche Situation, in der Menschen aufhören zu urteilen und zu bloßen Funktionären werden, erinnert in der Tat an ein Phänomen, das Hannah Arendt als die „Banalität des Bösen“ bezeichnet. Wenn Arendt beschreibt, dass das „Böse“ häufig aus einer Art „Gedankenlosigkeit“ entsteht, die zu einem Verlust der moralischen Urteilskraft führt, wiegt dies auch im Umgang mit KI, wenn dieselbe eine potentielle Gefährdung für die menschliche Fähigkeit des Urteilens bedeutet.  KI kann zwar als hilfreiches Werkzeug dienen, doch nur der Mensch kann und muss die Folgen seines Handelns wirklich bedenken, auch wenn er sie nach den Arendtschen „Antinomien des Handelns“ nie gänzlich abzusehen vermag.  Damit bleibt er Verantwortungsträger der Entscheidung. 

Es gilt darauf zu achten, dass im Sog der Digitalisierung nicht ein Teil unserer Urteilskraft verloren geht. Denn mit jedem Stück Urteilskraft, verlieren wir ebenso ein Stück Menschlichkeit und damit eine unerlässliche Voraussetzung für eine ethische Verwaltungspraxis.

Es heißt, Künstliche Intelligenz könne keine Verantwortung übernehmen und der Mensch müsse im Zentrum der Entscheidungsfindung stehen. Doch was bedeutet Verantwortung überhaupt noch, wenn Entscheidungsprozesse automatisiert werden und die Kontrolle des Menschen langsam und unbemerkt ins Ungewisse verschwindet? Was verändert KI an einst zentralen Bewertungsmaßstäben und am menschlichen Denken selbst?

Vor dem Hintergrund dieser offenen und weiter zu reflektierenden Fragen lässt sich einstweilen zu dem moderaten und gleichsam dringlichen Schluss kommen, dass Künstliche Intelligenz Arbeit – auch besonders in Behörden – unterstützen kann, aber Entscheidungsprozesse hingegen nicht an derartige Systeme delegiert werden dürfen, denn gerade der Einsatz von KI bedarf besonderer menschlicher Urteilsfähigkeit, die sie jedoch selbst nicht mitliefert.⁹ Doch steht zu befürchten, dass das Erkennen von Urteilskraft erfordernden Kontexten und Situationen selbst im Zuge zunehmender Technisierung erschwert wird und keine Selbstverständlichkeit mehr darstellt.

Verantwortungsvermeidende Systeme entsprechen vermutlich nicht zuletzt einem menschlichen, tief verwurzelten, aber im Grunde wohl nur als antiaufklärerisch zu bezeichnendem Drang, sein Leben jenseits von Verantwortlichkeiten und damit auch Schuldfähigkeit zu gestalten. Genau dies aber markiert letztlich nichts anderes als Unmenschlichkeit.