„Künstliche Intelligenz soll nicht den menschlichen Kontakt ersetzen.“
Interview mit Ana Dujić zum Kapitel „Künstliche Intelligenz“ im eGovernment MONITOR 2024
Frau Dujić, Ihre Abteilung hat das Netzwerk Künstliche Intelligenz in der Arbeits- und Sozialverwaltung koordiniert. Was waren die Hauptmotivationen für die Gründung dieses Netzwerks, und welche spezifischen Herausforderungen haben Sie damit adressiert?
Ziel der Gründung unseres Netzwerks Künstliche Intelligenz in der Arbeits- und Sozialverwaltung war es, alle Kolleg*innen, die sich in der Arbeits- und Sozialverwaltung mit KI beschäftigen, behörden- und laufbahnübergreifend früh miteinander zu vernetzen. Die rechtlichen, technologischen, finanz- und organisationswirksamen Aspekte der Einführung und Nutzung von KI sollen im Netzwerk ebenso offen bearbeitet werden wie natürlich auch ethische und politische Fragen. Das Netzwerk ist aber mehr als ein Austauschformat. Es ist mittlerweile zu einem Expert*innen-Pool geworden, das in der gesamtem Arbeits- und Sozialverwaltung die menschenzentrierte Nutzung von KI ambitioniert vorantreibt.
Das BMAS hat selbstverpflichtende Leitlinien für den Einsatz von KI veröffentlicht. In unserer Studie sehen wir: Aus Sicht der Bürger*innen steht beim KI-Einsatz an oberster Stelle, dass grundsätzliche Entscheidungen weiterhin von Menschen getroffen werden müssen (53 %). Die regelmäßige Überprüfung des KI-Systems durch unabhängige Organisationen (39 %) sowie die Transparenz über die einzelnen Arbeitsschritte, bei denen KI zum Einsatz kommt (33 %) sind ebenfalls wichtige Voraussetzungen. Wie stehen diese Leitlinien im Einklang mit den Bedürfnissen der Bürger*innen?
Oberstes Prinzip, dem die Leitlinien folgen, ist die Menschenzentrierung - sprich: KI muss dem Menschen dienen, nicht umgekehrt. Diesem Prinzip folgend geben die Leitlinien vor, dass KI-Systeme in der Arbeits- und Sozialverwaltung - von Entwicklung, über Trainingsdaten, der Testung bis hin zum Einsatz in den Behörden - sowohl den Bedürfnissen der Bürger*innen, als auch natürlich den Bedürfnissen der Kolleg*innen, die mit diesen Systemen arbeiten, gerecht werden müssen. Selbstverständlich müssen die Systeme diskriminierungsfrei, transparent und nachvollziehbar sein und einer regelmäßigen Überprüfung und menschlichen Letztentscheidungsmöglichkeit unterliegen.
Bei der Entwicklung und dem Einsatz von KI stehen häufig Effizienzsteigerungen im Vordergrund. Angesichts des zunehmenden Fachkräftemangels, vor allem auch in der öffentlichen Verwaltung, bei gleichzeitig komplexer werdenden Anforderungen ist dies auch für die Bürger*innen ein nachvollziehbares Ziel für den Einsatz (68 Prozent erwarten dies sogar vom Staat). Allerdings befürchtet auch mehr als jede*r Dritte (36 %), dass ihm oder ihr dadurch weniger persönliche Ansprechpartner*innen zur Verfügung stehen werden. Welche Rolle werden menschliche Mitarbeiter*innen in Zukunft spielen, wenn der Einsatz von KI in der Verwaltung weiter ausgebaut wird?
Es ist eher umgekehrt: Aufgrund des Fachkräftemangels muss die verbleibende menschliche Arbeitskraft dort eingesetzt werden, wo sie unabdingbar ist: In der fachlichen Beratung z.B. beim Thema berufliche Qualifizierung oder auch in der empathischen Betreuung von Bürgern während schwieriger Lebensphasen wie z.B. einer Reha. Überall dort, wo es lediglich um standardisierte Verfahren wie einfachere Anträge geht, kann ein automatisiertes, gar KI-basiertes oder auch komplett antragsloses Verfahren die Anliegen der Bürger*innen häufig viel schneller bedienen, besseren Service leisten und den wichtigen menschlichen Ansprechpartner von lästiger Bürokratie entlasten. Dem gleichen Ziel hat sich auch die Digitalisierungsstrategie des BMAS und der Arbeits- und Sozialverwaltung
verschrieben, die im Frühjahr 2024 veröffentlich wurde.
Wir sehen sowohl in unserem D21-Digital-Index als auch in der diesjährigen Ausgabe des eGovernment MONITOR, dass der Begriff „Künstliche Intelligenz“ kein Hightech-Fachterminus mehr ist, sondern für die meisten Bürger*innen ein gängiger Begriff. Immerhin 28 Prozent würden sich sogar zutrauen, den Begriff erklären zu können, weitere 52 Prozent glauben zumindest in etwa zu wissen, was KI ist. Allerdings schreiben auch 23 Prozent der Bürger*innen KI mindestens eine von drei Fähigkeiten zu, für die es derzeit noch keine Evidenz gibt: eine echte Beziehung aufbauen, moralische Entscheidungen treffen und/oder eigene Emotionen empfinden. Wie wichtig schätzen Sie das Wissen und die Bildung über KI für die Bürger*innen ein, um eine positive Akzeptanz des KI-Einsatzes in der Verwaltung zu fördern? Welche Schritte können unternommen werden, um dieses Wissen zu verbessern?
Es freut uns sehr zu erfahren, dass KI im Mainstream ankommt. Je angstfreier Menschen dieser Technologie begegnen, desto besser wird es uns als Gesellschaft gelingen, ihre positiven Potenziale zu nutzen. Voraussetzung für eine offene Auseinandersetzung mit dieser Technologie ist ein Grundverständnis dafür, dass sie kein Hexenwerk, sondern schlicht ein neues Werkzeug ist - ähnlich wie Smartphones, die heute zum Lebens- und Arbeitsalltag gehören.
Zu diesem Grundverständnis gehört auch ein rudimentäres Wissen über die Funktionalität von KI. Damit meine ich nicht, dass nun jede*r coden lernen muss. Vielmehr sollten Nutzer*innen eine grobe Vorstellung davon haben, über welche Mechanismen, Programmieranweisungen oder Datengrundlagen KI-Systeme selbstständig Entscheidungen treffen oder Probleme lösen. Zurzeit sind insbesondere KI-Verfahren (als sogenannte generative KI) erfolgreich, die Zugriff auf einen riesigen Datenbestand von Texten, Bildern oder Tönen haben. Sie können eigenständig aus diesen Daten neue Texte, Bilder und Töne zu erzeugen, die plausibel erscheinen und so vorher nicht in der Datenmenge vorkamen. Wichtig ist hier unterscheiden zu können, welche von der KI produzierten Ergebnisse plausibel sind und welche nicht.
Wenn Sie sich die Ergebnisse des eGovernment MONITOR 2024 ansehen, gibt es bestimmte Ergebnisse, die Sie besonders relevant oder überraschend finden?
Positiv überrascht hat mich der eindeutige wie große Wunsch der Befragten nach dem Einsatz von Technologie mit dem Ziel der Effizienzsteigerung. Dies zeigt, dass die vermeintliche Technikskepsis der Menschen schlicht keine empirische Grundlage hat. Bürger*innen sind sehr, sehr offen für technologische Innovationen, die ihnen dienen.
Abschließend: Möchten Sie uns noch etwas mit auf den Weg geben?
Danke für Ihre Befragung – sie hilft uns bei unserer Arbeit sehr weiter!
