Künstliche Intelligenz in der öffentlichen Verwaltung der Schweiz

Ein wissenschaftlicher Bericht aus der Schweiz zeigt das Potenzial und die Herausforderungen eines Einsatzes Künstlicher Intelligenz (folgend: KI) in der öffentlichen Verwaltung auf und entwickelt konkrete rechtliche und ethische Handlungsempfehlungen für diesen spezifischen Einsatzbereich. Der vorliegende Beitrag verschafft einen kursorischen Überblick über den Bericht mit Vertiefung einiger ausgewählter Aspekte.

Ein Beitrag von Laurent Freiburghaus, Eliane Kunz und Liliane Obrecht (Universität Basel)

Der Bericht entstand im Auftrag des Kantons Zürich im Rahmen seiner Strategie «Digitale Verwaltung 2018-2023». Verfasst wurde er von Nadja Braun Binder, Professorin für Öffentliches Recht an der Universität Basel, und ihrem Team in Zusammenarbeit mit der NGO AlgorithmWatch bzw. AlgorithmWatch Schweiz. Die Forschungsschwerpunkte von Nadja Braun Binder liegen u.a. im Bereich der Digitalisierung von Staat und Verwaltung; AlgorithmWatch befasst sich mit der Beobachtung und Analyse der Auswirkungen von ADM-Systemen (automated decision making) auf die Gesellschaft.

Der Bericht konzentriert sich auf den Einsatz von KI in der kantonalen öffentlichen Verwaltung in der Schweiz. Vorwegzunehmen ist, dass es keine allgemein gültige Definition von KI gibt. Grundsätzlich verweist das Wort «künstlich» allerdings darauf, dass etwas von Menschenhand geschaffen wird. Der Begriff der «Intelligenz» ist sehr breit zu verstehen und beschreibt, im weitesten Sinne, einen Auffassungs- und Lernprozess.

In einem ersten Schritt wurde recherchiert, was sich die Verwaltungsbehörden von einem KI-Einsatz erhoffen, wo sie Probleme sehen und in welchen Bereichen KI bereits eine Rolle spielt. Der Einsatz von KI soll insbesondere zu einer Entlastung der Arbeitsprozesse und einer allgemeinen Effizienzsteigerung des öffentlichen Sektors beitragen. Daraus sollen eine verbesserte Servicequalität und Kundenorientierung sowie eine bessere Überprüfbarkeit der Verwaltungstätigkeit resultieren. Da die öffentliche Verwaltung bereits über riesige Datenmengen verfügt, wird deren Nutzung grosses Potenzial zugeschrieben.

Neben dem Nutzen dürfen aber die Herausforderungen und die damit verbundenen potenziellen Risiken eines KI-Einsatzes nicht verkannt werden. Der Technologie sind Grenzen gesetzt, was zu unerwünschten Ergebnissen führen kann, wie insbesondere Diskriminierungen und Voreingenommenheit (Bias). Fehlendes Vertrauen seitens der Bevölkerung gegenüber den Behörden könnte zu einer ablehnenden Haltung bezüglich eines KI-Einsatzes durch die öffentliche Verwaltung führen. Flächendeckende Transparenz sowie Kontrollpflichten sollen diesen negativen Aspekten entgegenwirken.

Es existieren heute bereits Bereiche, in denen die öffentliche Verwaltung KI einsetzt bzw. in denen sie einen Einsatz prüft. Zu nennen sind standardisierte Verfahren im Bereich der Steuern, der Sozialversicherungen oder auch dem Justizvollzug. Am bekanntesten ist wohl der Einsatz von KI im Bereich der Polizeiarbeit, der von Schlagworten wie «Predictive Policing» oder «Automatische Fahrzeugerkennung und Verkehrsüberwachung» gekennzeichnet ist. Losgelöst von bestimmten thematischen Einsatzgebieten werden heute vermehrt Chatbots eingesetzt. Im Zentrum steht dabei das Ziel, die Bevölkerung zu informieren. Nach heutigem Kenntnisstand ist schliesslich anzunehmen, dass KI lediglich dort zum Einsatz kommt bzw. kommen wird, wo es sich um standardisierte Verfahren ohne Ermessensspielraum handelt.

Trotz dieser deutlichen Zeichen der Digitalisierung der Verwaltungstätigkeit ist immer wieder zu hören, der Staat verschlafe die technologische Entwicklung. Auch in der Schweiz ist das ein bekannter Vorwurf – zunehmend in Bezug auf Automatisierung und insbesondere KI. Doch auch wenn es wahr ist, dass die Verwaltungsbehörden die technologische Entwicklung teilweise langsamer nachvollziehen als die Privatwirtschaft, hat das gute Gründe. Das Verhältnis zwischen Staat und Bürger*innen ist in seiner Art einzigartig und hoch sensibel. Einerseits hat der Staat besondere Befugnisse und darf z.B. unter Umständen Zwang anwenden. Andererseits hat er im Umgang mit Privaten aber auch besondere Zurückhaltung zu wahren und insbesondere die Grundrechte und das Legalitätsprinzip zu beachten. Dies gilt auch für die Digitalisierung, die Automatisierung und den Einsatz von KI. Während also private Unternehmen relativ unkompliziert mit neuen Technologien experimentieren können, müssen Verwaltungsbehörden sorgfältig abwägen und dafür sorgen, dass vielfältige rechtliche Rahmenbedingungen eingehalten werden.

In Bezug auf Automatisierung und KI können sich rechtliche Probleme sowohl aus dem Einsatz von KI selbst als auch aus dem daraus resultierenden Automatisierungsgrad ergeben. Der Bericht stellt die zentralen rechtlichen Herausforderungen dar. Zunächst ist der Staat aufgrund des Legalitätsprinzips für seine Handlungen grundsätzlich auf eine gesetzliche Grundlage angewiesen. Diese gesetzlichen Grundlagen müssen zunächst im demokratischen Prozess geschaffen werden. Aus grundrechtlicher Sicht werfen mit Blick auf Automatisierung und KI vor allem die Verfahrensgarantien, das Diskriminierungsverbot sowie das Recht auf informationelle Selbstbestimmung – einschliesslich dem darauf aufbauenden Datenschutzrecht – Probleme auf. Schwierigkeiten bereiten auch die eher technischen Bereiche des Verwaltungsrechts. So ist unklar, wie etwa offene Normen (Ermessen bzw. unbestimmte Rechtsbegriffe) und automatisierte Prozesse zusammenspielen und ob automatisierte Entscheide unter den Verfügungsbegriff fallen. Schliesslich ist zu klären, welche Transparenzanforderungen sowohl hinsichtlich des Einsatzes von Algorithmen als auch in Bezug auf deren Aufbau und Struktur zu erfüllen sind.

Neben der Abhandlung der allgemeinen Herausforderungen zeigt der Bericht auf, wie diese sich konkret im Verwaltungsrecht des Kantons Zürich stellen und wo Handlungsbedarf besteht. Darüber hinaus widmet er sich vertieft spezifischen Rechtsfragen in Bereichen, in denen Recherchen gezeigt haben, dass die Automatisierung bereits Realität geworden ist (vgl. oben).

Der soeben erläuterten besonderen Sensibilität der Staat-Bürger-Beziehung kann (und sollte) neben rechtlichen auch mit ethischen Instrumenten begegnet werden. Auch wenn ein KI-Einsatz rechtlich zulässig ist, muss das noch nicht heissen, dass er sinnvoll und ethisch vertretbar ist. Das vierte Kapitel des Berichts greift diese Thematik auf und entwickelt ein anwendungsfreundliches zweistufiges Konzept zur engmaschigen Begleitung eines KI-Einsatzes. Eine erste detaillierte Triage-Checkliste gibt vor, welche Ethikfragen beim Verfassen eines Transparenzberichts durch die Verwaltung zu beantworten sind, während eine zweite Checkliste als Leitlinie für die Erstellung dieses differenzierten Transparenzberichts dient. Als Basis der Checklisten wurden unter Berücksichtigung zahlreicher bereits existenter ethischer Richtlinien die folgenden sieben Grundsätze herausgearbeitet:
– Achtung der menschlichen Autonomie
– Schadensvermeidung
– Gerechtigkeit oder Unparteilichkeit (Fairness)
– Benefizienz
und die drei instrumentellen Grundsätze der
– Kontrolle
– Transparenz und
– Rechenschaftspflicht.

Insgesamt bietet der Bericht eine rechtliche und ethische Beurteilung des Einsatzes von KI durch die öffentliche Verwaltung. Er zeigt einerseits Chancen und Risiken auf und legt dar, wo Automatisierung zum jetzigen Zeitpunkt bereits Realität ist. Andererseits liefert er konkrete rechtliche Analysen sowie praxisorientierte ethische Handlungsanleitungen.

Die Autorinnen und der Autor dieses Beitrags arbeiten am Lehrstuhl der Berichtsverfasserin, Frau Prof. Dr. Nadja Braun Binder, und haben beim Verfassen des rechtlichen Teils des Berichts sowie bei der Recherche der bereits bestehenden KI-Anwendungen in der Schweizer Verwaltung mitgewirkt.

Published under licence CC BY-NC-ND. 

Authors

  • Laurent Freiburghaus, 24, studiert an der Universität Basel Rechtswissenschaften im Master und ist im Team von Prof. Dr. Braun Binder als wissenschaftlicher Assistent tätig. Sein Interesse gilt vor allem staatsrechtlichen Themen, insbesondere den Grundrechten sowie Demokratiefragen.

  • Liliane Obrecht studiert Rechtswissenschaften im Master an den Universitäten Basel und Lausanne. Nebenbei arbeitet sie als Studierende in Assistenzfunktion bei Frau Prof. Dr. Nadja Braun Binder und interessiert sich insbesondere für die Entwicklungen und Herausforderungen im Bereich der Digitalisierung in der öffentlichen Verwaltung.

  • Eliane Kunz ist Masterstudentin der Rechtswissenschaft an der Universität Basel und interessiert sich neben dem öffentlichen Recht im Allgemeinen insbesondere für das Zusammenspiel zwischen Recht und neuen Entwicklungen. Neben dem Studium ist sie im Lehrstuhlteam von Frau Prof. Dr. Nadja Braun Binder tätig.