AG-Blog | Public Sector: Wer verantwortet die digitale Verantwortung?
In der Sitzung der Arbeitsgruppe Digitale Ethik wurde schnell klar, dass diese Frage mit Blick auf verschiedenste Gesichtspunkte diskutiert werden kann – eine Bandbreite, die die Mitglieder der AG auch nutzten. Ein Aspekt, der in den Gesprächen eine zentrale Rolle spielte: Der Fokus der digitalen Verantwortung im öffentlichen Sektor solle auf der Menschenzentrierung liegen.
Berlin. Wo findet im öffentlichen Sektor eine Auseinandersetzung mit digitaler Ethik und digitaler Verantwortung statt und welche Handlungsfelder gibt es dort? Diese Frage diskutierte die Arbeitsgruppe Digitale Ethik während ihrer Sitzung in Berlin in der Digital Lounge von Telefónica aus unterschiedlichen Perspektiven, wofür sich insbesondere das Fishbowl-Format eignete, das die Arbeitsgruppe zu lebhafter Diskussion brachte.
Der Einsatz von KI in der öffentlichen Verwaltung
Als Einstieg in das Thema trug Prof. Dr. Andreas Lob-Hüdepohl, Mitglied des Deutschen Ethikrats, die ethischen Grundlagen im Zusammenspiel mit öffentlicher Verwaltung und Künstlicher Intelligenz (KI) vor. Der Deutsche Ethikrat hat sich der öffentlichen Verwaltung in seiner neuen Stellungnahme „Mensch und Maschine – Herausforderungen durch Künstliche Intelligenz“ in einem Unterkapitel gewidmet. Zunächst erläuterte der Sozialethiker und Theologe den grundlegenden Zusammenhang von Ethik und Künstlicher Intelligenz. Er verdeutlichte, dass KI derzeit nicht über das Ensemble der menschlichen Intelligenz (z. B. kognitiv, emotional, sozial) verfüge. Ein weiterer entscheidender Aspekt in der Betrachtung von Mensch und Maschine seien die Konzepte „Vernunft“ und „Verantwortung“:
Verantwortung kann nur übernehmen, wer auch handlungsfähig ist – Maschinen also nicht.
Ein entscheidendes Kriterium sei die Frage, inwieweit menschliche Autonomie und Autor*innenschaft erweitert oder vermindert werde. Dazu zeigte er verschiedene Beispiele des Zusammenspiels von öffentlicher Verwaltung, insbesondere im Sozialwesen, und algorithmischer Automatisierung auf: etwa im Bereich des Kindeswohls/Jugendhilfe oder auch dem Arbeitsmarkt. Insgesamt stellte Lob-Hüdepohl neun Empfehlungen zum Einsatz von KI in der öffentlichen Verwaltung vor, wie z. B. ein Einsichts- und Einspruchsrecht von Betroffenen bei KI-gestützten Entscheidungen oder entsprechende Vorkehrungen, damit Fachkräfte der Verwaltung KI-Empfehlungen nicht unreflektiert folgten. Das verdeutlichte, dass Menschenzentrierung auf verschiedenen Ebenen des KI-Einsatzes berücksichtigt werden muss.
„Die letzte Verantwortung bleibt bei einem Menschen“
Im zweiten Impuls legte Martin Wimmer den Scheinwerfer auf eine andere Perspektive der digitalen Verantwortung im öffentlichen Sektor: Der Chief Digital Officer des Bundesministeriums für wirtschaftliche Zusammenarbeit und Entwicklung (BMZ) schilderte, wie das Haus der Verantwortung in der Digitalisierung durch ihre Arbeit gerecht wird. Denn die digitale Spaltung sei global betrachtet groß und digitale Ethik ende nicht an Landesgrenzen. Das gelte auch für die Digitalpolitik: Machtungleichgewichte und weltweite Krisen seien zwei entscheidende Treiber dafür, dass das BMZ eine soziale, ökologische, wertorientierte und feministische Digitalpolitik verfolge. Diese vier Grundpfeiler seien die Basis für die digitale Verantwortung des BMZs und steuerten mit den Sustainable Development Goals (SDGs) die Digitalpolitik des Hauses.
Adressiert würden damit Inhalte wie (Daten-)Kolonialismus, Monopolisierung oder Klassismus, um der Reproduktion und Verstärkung von Ungerechtigkeiten in der digitalen Transformation zu begegnen. Das werde etwa vor dem Hintergrund der Arbeitsbedingungen von Content Moderator*innen deutlich. Anhand konkreter Beispiele zeigte Wimmer auf, wie die Umsetzung der Verantwortung im BMZ erfolge. Auf der einen Seite agiere man durch Regulierungsempfehlungen oder Leitfäden, wie z. B. „AI for Africa Blueprint“, die „Empfehlungen zur KI“ der OECD oder auch die „Prinzipien für den ethischen Einsatz von KI“ der UNESCO. Auf der anderen Seite seien digitale Kompetenzen bei den Mitarbeitenden im BMZ eine absolute Notwendigkeit:
Die letzte Verantwortung bleibt bei einem Menschen: der*dem Referent*in, der*dem Sachbearbeiter*in, der*dem Fahrer*in, der*dem Staatssekretär*in.
Redebedarf in der immervollen Fishbowl
In der anschließenden „Fishbowl“ (ein Podium, bei dem stets ein Platz frei ist, den das Publikum besetzen kann) konnten alle Teilnehmenden der AG mitdiskutieren. Einen festen Platz im Podium nahm neben den beiden Impulsgebern Antonia Zierer ein, Geschäftsführerin der Digitalagentur byte des Freistaats Bayern. Sie ergänzte die Diskussion mit ihrer Bundesland-Perspektive und brachte Beispiele vor, wie eine werteorientierte Digitalisierung gelingen könnte. Interdisziplinäre Teams könnten beispielsweise gezielt Bias entgegenwirken. Und:
Nutzer*innenperspektiven müssen frühzeitig eingebunden werden – Anwendungen dürfen nicht an Verwaltungsangestellten vorbei entwickelt werden.
Der vierte Platz des „Sofa-Bowls“ blieb keine Minute frei, denn es gab großen Diskussions- und Austauschbedarf. Unter der Moderation des AG-Leitungstandems Dr. Sarah J. Becker und Jens-Rainer Jänig war die Menschenzentrierung ein wiederkehrendes Thema: Wie könne man z. B. sicherstellen, dass sich Mitarbeitende auch gegen vorgeschlagene Ergebnisse eines Algorithmen-gestützten Prozesses entscheiden können? Wie sehe es mit Opt-Out Möglichkeiten aus: Müssen die Mitarbeitenden begründen, warum sie KI-gestützten Ergebnissen (nicht) folgen? Darüber hinaus wurden auch Erfahrungen dazu geteilt, was in der Vergangenheit schiefgelaufen sei, wenn die Perspektiven der Mitarbeitenden nicht berücksichtigt wurde. Ein Resultat sei beispielsweise ein hoher Krankenstand gewesen. Daran anschließend wurden auch die Grenzen des Einsatzes von KI in der öffentlichen Verwaltung diskutiert: Aufgaben, die ein reflektiertes, begründetes Pro und Kontra bedingen, würden stets mit einem höheren Arbeitsaufwand einhergehen – und das sei auch wichtig so.
Ethikkompetenz als Zukunftsaufgabe für die Verwaltung
Schließlich wurde auch verdeutlicht, wo noch Aufgaben für die Zukunft liegen: Eine weiterführende Auseinandersetzung damit, wie die operative Implementierung von digitaler Ethik in der öffentlichen Verwaltung erfolgen kann, braucht ein noch größeres Augenmerk. Die normative Perspektive der Guidelines sei nur eine von vielen Perspektiven. Diese sei zwar konzeptionell schon weit, insbesondere die Professionsethik sei aber genauso wichtig: Es brauche Ethikkompetenz und Unterstützung der Mitarbeitenden bei moralischen Dilemmata.
