AG-Blog | Wertegestützte KI-Gestaltung – Kann man sich digitale Ethik (noch) leisten?
Kann sich unsere Gesellschaft in Zeiten knapper Budgets noch digitale Ethik leisten, oder müssen wir den Wert von ethischer KI-Entwicklung neu denken? Die AG Digitale Ethik diskutierte, wie Gemeinwohl und Verantwortung in den Fokus gerückt werden können. Dabei wurde klar: wertgestützte KI-Gestaltung ist kein starres Konzept, sondern ein dynamischer Prozess.
Berlin/virtuell. In der ersten Sitzung der AG Digitale Ethik unter der neuen Co-Leitung von Dr. Nikolai Horn (iRights.Lab) und Jolanda Rose (B.YOND | ARQIS) drehte sich alles um die Fragen: Wie lässt sich digitale Ethik mit Gemeinwohl verknüpfen und welche Rolle spielt dabei die Frage, ob man sich digitale Ethik (noch) leisten können muss? Dazu kamen Teilnehmer*innen aus verschiedenen Bereichen zusammen. Sie diskutierten, welche Bewertungsdimension wir als Maßstab für Digitale Ethik nehmen und ob es übergeordnete Ziele für den KI-Einsatz gibt, die über die unmittelbare Problemlösung, Nützlichkeit und Effizienzsteigerung hinausgehen. Fängt ethische Reflexion in der Digitalisierung nicht viel früher an, als ihr oftmals zugeschrieben wird?
Civic Coding: Partizipative KI-Entwicklung für das Gemeinwohl
Im ersten Impuls des Tages beschäftigten sich Noah Damschke (Geschäftsstelle Civic Coding) und Lilian Emonds (BMFSFJ) mit Digitalisierung und Gemeinwohlorientierung. Die beiden stellten die Initiative Civic Coding vor. Dieses „Innovationsnetz KI für das Gemeinwohl“ ist eine ressortübergreifende Initiative vom Bundesministerium für Arbeit und Soziales (BMAS), dem Bundesministerium für Umwelt, Naturschutz, nukleare Sicherheit und Verbraucherschutz (BMUV) und dem Bundesministerium für Familie, Senioren, Frauen und Jugend (BMFSFJ). Es hat das Ziel, zivilgesellschaftliche Akteur*innen, die sich bereits für das Gemeinwohl und die Gesellschaft engagieren, bedarfsorientiert zusammenzubringen, um gemeinsam an innovativen KI-Lösungen zu arbeiten. Teil der breit gefächerten Zielgruppe der Initiative sind dabei neben den Gestalter*innen und Anwender*innen auch gemeinnützige Organisationen, Kommunen, kleine und mittelständige Unternehmen sowie Entwickler*innen und KI-Expert*innen.
Wichtig sei bei Civic Coding vor allem: partizipativ sein und Möglichkeiten für Feedback und Mitentscheidungen schaffen. Dazu organisiere das Netzwerk regelmäßig verschiedene Veranstaltungs- und Dialogformate, bei denen die Akteur*innen in den direkten Austausch miteinander treten können. So können sie gemeinsam an Lösungen arbeiten, um die entsprechenden Ziele zu erreichen, und dabei unterschiedliche Ebenen aus verschiedenen Handlungsfeldern miteinbeziehen. Dieser Austausch könne auch dabei helfen, aus den Erfahrungen und Kompetenzen anderer Akteur*innen zu schöpfen und davon zu profitieren.
Auch das Leitbild der Initiative sei partizipativ entstanden und werde stetig weiterentwickelt und angepasst. So schaffe Civic Coding Räume und Schnittstellen für den offenen Diskurs. Dabei gelten aktuelle gesellschaftliche Herausforderungen als der zentrale Ausgangspunkt:
Civic Coding möchte alle erreichen, die sich für gemeinwohlorientierte KI interessieren: Akteur*innen aus Zivilgesellschaft, Wissenschaft, Wirtschaft, Politik und Verwaltung, die von gemeinwohlorientierter KI profitieren und/oder einen Beitrag für die Entwicklung und Nutzung von KI im Sinne des Gemeinwohls leisten können.
Neben der Partizipation in der Ausgestaltung der Initiative möchte Civic Coding Brücken zwischen den Akteursgruppen bauen, beispielsweise mithilfe von Co-Creation-Formaten als Teil des Civic-Coding-Accelerators, bei dem unter anderem Unternehmen mit gemeinwohlorientierten KI-Projekten zusammengebracht werden.
Wertschöpfung durch Daten und KI – Effizienz und Kooperation im Fokus
Im Anschluss gewährte Tina Siegfried (Dataport AöR) einen Blick in die Arbeitswerkstatt eines IT-Dienstleisters der öffentlichen Hand in Sachen digitale Ethik. Dataport ist ein IT-Dienstleister, der 2004 durch einen Staatsvertrag mehrerer Länder mit dem Ziel der Digitalisierung der öffentlichen Verwaltung gegründet wurde. Digitale Souveränität und Public Value gehören zu ihrem Selbstverständnis, da sie eine Anstalt öffentlichen Rechts und damit dem Gemeinwohl verpflichtet sind.
Ethischer Reflexionsprozess
Im Februar dieses Jahres hat Dataport anhand eines konkreten Fallbeispiels einen ethischen Reflexionsprozess aufgesetzt, bei dem sie sich mit den Fragen der Operationalisierbarkeit und des Aufwands von KI-Anwendungen im Einsatz beschäftigten. Dieser Prozess habe deutlich gemacht, wie komplex der Umgang mit KI und Ethik nach wie vor sei. Dataport habe es sich daher zum Ziel gesetzt, ethische Aspekte fest in die internen Freigabeprozesse neuer Hard- und Software zu integrieren. Hierzu sei eine Checkliste mit Ethikfragen entwickelt worden, die auf den Empfehlungen des Deutschen Ethikrats basiere. Neben Fragen des Zwecks und Nutzens des KI-Einsatzes umfasse die Liste auch Themen wie Datenquellen, Chancen und Risiken. Zusätzlich dazu arbeite man auch an der Einrichtung eines KI-Boards – einem Entscheidungsgremium, das den verantwortungsvollen KI-Einsatz steuern soll. Hier sehe sich das Unternehmen mit vielen offenen Fragen konfrontiert, die der AI-Act aufgeworfen hat:
Ich glaube, es ist für viele schwierig, die Anforderungen des AI-Act tatsächlich zu verstehen. Welche Vorgaben haben wir jetzt und was müssen wir sicherstellen? Wie können wir Risikobewertung vornehmen? Wie können wir die Transparenzverpflichtung organisieren und wer ist dafür zuständig? Das sind alles Fragen, mit denen wir uns gerade beschäftigen.
Dataport habe bereits jetzt über 130 (überwiegend kleinere) KI-Anwendungen im Einsatz, die in einem nächsten Schritt klassifiziert und eingestuft werden müssen. Hier brauche es klare Regeln, besonders mit Blick auf Ethik, Recht und Datenschutz. Das alles gleichzeitig zu berücksichtigen, sei gar nicht so leicht, da Dataport als Dienstleister der öffentlichen Verwaltung in verschiedenen Rollen unterwegs sei und sowohl Anbieter als auch Nutzer von KI sei. Für diese verschiedenen Rollen gebe es auch wieder unterschiedliche Anforderungen, die es zu erfüllen gelte. Dazu soll ein KI-Register sowie neue Leitlinien zum internen Umgang mit KI erarbeitet werden. Oder wie es Tina Siegfried sagte: „Work in Progress.“
Mittelstand goes AI – eine Bestandsaufnahme
Als nächstes blickte Karoline Karl (Mittelstand-Digital Zentrum Zukunftskultur) aus der Perspektive des Mittelstandes auf Digitale Ethik. Die zentrale Frage des Tages, ob man sich digitale Ethik noch leisten kann, beantwortete Karl sofort: Man müsse sie sich sogar leisten, um zukunftsfähig arbeiten zu können. Digitale Ethik biete das Potenzial, innovativer zu werden, da sie es nötig mache, in neue Richtungen zu denken und dabei neue Perspektiven einzunehmen.
Der Bereich Digitale Ethik stelle für den Mittelstand eine besondere Herausforderung dar, da sowohl die Digitalisierung als auch ethische Fragestellungen in vielen mittelständigen Unternehmen nach wie vor nicht weitreichend bearbeitete Gebiete seien. Aus diesem Grund beschäftige sich die Initiative Mittelstand Digital bereits seit einem Jahr intensiv mit dem Thema KI. Besonders kleinere Unternehmen kämpfen häufig mit fehlender technologischer Expertise, mangelnden konkreten Handlungsempfehlungen und begrenzten personellen Ressourcen. Hinzu komme, dass das Engagement für ethische KI-Nutzung oft stark von der persönlichen Haltung einzelner Führungskräfte und Mitarbeitenden abhängig sei und es selbst engagierten Mitarbeitenden oft an notwendigen Ressourcen fehle, um das Thema zu bearbeiten.
Insgesamt würde das Thema KI im Mittelstand nach wie vor sehr stark polarisieren, so Karl: Während die einen sehr gehemmt an das Thema gehen und nur auf die Risiken zu blicken scheinen, löse es bei anderen Begeisterung aus. Hier brauche es einen „Sweet Spot“, bei dem sich die beiden Perspektiven in der Mitte vereinen und dabei sowohl Chancen als auch Risiken miteinbeziehen. Ethische Reflexion könne dabei sehr hilfreich sein.
Anhand einiger Beispiele aus der Praxis zeigte Karoline Karl sinnvolle KI-Einsatzmöglichkeiten in mittelständigen Unternehmen auf. Viele Unternehmen hätten positive Erfahrungen gesammelt, indem sie KI gezielt als unterstützendes Tool einsetzten. Als konkrete Strategien zur Förderung eines ethischen KI-Einsatz in mittelständigen Unternehmen nannte Karl fünf zentrale Ansätze:
- Orientierung
- Portionierung
- Methoden
- Fachexpertise
- Austausch
Da der Begriff „Ethik“ auf viele nach wie vor abschreckend wirke, plädiert Karl für einen verstärkten Einsatz des Begriffs „Verantwortlichkeiten“, der Aspekte wie Corporate Digital Responsibility (CDR) einschließe und das Thema für viele greifbarer macht. Zudem sei es hilfreich, ethische Fragestellungen unmittelbar mit konkreten unternehmerischen Herausforderungen zu verknüpfen, um ihre Relevanz und Anwendbarkeit besser zu verdeutlichen. Besonders wichtig seien laut Karl auch praxisnahe Handlungsempfehlungen. So habe die Initiative Mittelstand Digital einen Guide zum Thema „Faires KI-Prompting“ entwickelt.
Digitale Ethik und KI – ein philosophischer Impuls
Zum Abschluss gab Dr. Nikolai Horn den Teilnehmenden noch einen philosophischen Impuls mit auf den Weg, in dem er sich mit der Frage beschäftigte, wie es sich bei KI-Anwendungen mit Ethik verhalte. Auch er ist der Ansicht, dass sich das Spezifizieren von bestimmten Herausforderungen nicht allein aus den Anforderungen der KI-Verordnung erschließe. Hier sei der Kontext des jeweiligen Einzelfalls für die konkreten Risiken entscheidend. Auch stelle er sich die Frage, wie ethisches Vorgehen am besten operationalisiert werden könne: Zwar gebe es eine Vielzahl von Checklisten, Leitlinien und Metriken, die unterschiedliche Oberthemen abdecken und daraus Anforderungen ableiten, diese böten aber meist nur einen allgemeinen, wenig spezifischen Überblick. Im konkreten Anwendungsfall erfordere es jedoch eine präzisere Ausarbeitung, um ethische Prinzipien in der Praxis wirklich zu verankern. In der Realität zeigt sich häufig eine große Lücke zwischen den theoretischen Definitionen und Leitlinien, sowie ihrer tatsächlichen Implementierung in der konkreten Entwicklung von KI-Systemen.
Ethik bedeutet nicht, Regeln zu befolgen oder Checklisten abzuarbeiten, sondern erfordert reflexive Betrachtung und konkrete Einsatzkontexte, in denen Werte und Folgen hinterfragt werden.
Aktuell befänden wir uns in einer Phase der Operationalisierung digitalethischer Ansätze. Ethik sei dabei mehr als Compliance mit der KI-Verordnung. Es sei daher entscheidend, Digitalethik nicht auf das Abarbeiten von Checklisten zu verkürzen, sondern sie als einen diskursiven Multi-Stakeholderprozess zu verstehen. Dabei gehe es auch um die Symbiose einer holistischen und einer kontextspezifischen Reflexion. Und letztlich seien Reflexionsprozesse auch deshalb wertvoll, weil sie die Menschen zusammenbringen und in den Dialog treten lassen.
In der abschließenden Diskussion waren sich die Teilnehmenden einig: Es gibt noch viel zu tun. Digitale Ethik ist ein ständig wachsendes Feld, dass sich den aktuellen technologischen und gesellschaftlichen Wandlungen anpassen muss. Es reiche daher nicht, sich auf statische Wertekataloge und Checklisten zu verlassen. Ethik erfordere auch konkrete didaktische Ansätze, die ebenfalls Teil einer ausgewogenen digitalethischen Diskussion seien. Darum soll es auch in einem zukünftigen D21-Denkimpuls gehen, in dem auf die Unterschiede zwischen lokalen und globalen Reflexionen geblickt werden soll. Es bleibt also spannend.
