AG-Blog | Quo vadis Digitale Ethik? Der Blick zurück nach vorn
Was ist überhaupt digital ethisch oder digital unethisch? In den letzten Jahren hat sich viel getan bei der Beantwortung dieser Frage – Initiativen sind entstanden, Leitlinien wurden veröffentlicht, auch die Politik beschäftigt sich mittlerweile damit. Zeit für eine Standortbestimmung unserer AG Digitale Ethik.
Berlin. Wo befinden wir uns in der Diskussion zur digitalen Ethik? Nachdem sie in den vergangenen Jahren – erfreulicherweise – immer mehr Aufmerksamkeit erlangt hat, war es an der Zeit, zu reflektieren: Wo haben sich Schärfen und wo haben sich Unschärfen ergeben? Wie möchten wir als Arbeitsgruppe Ethik der Initiative D21 im kommenden Jahr auf digitale Ethik schauen? Welches Denkmuster bietet uns eine Grundlage dafür? Anfang März traf sich die AG Ethik vor Ort in Berlin, um anhand von Inputs aus der Regulierungs- sowie aus der Wirtschaftsperspektive über diese Fragen zu diskutieren.
Status Quo: Von Leitlinien ins Handeln kommen?
Das neue AG-Leitungstandem, Dr. Sarah J. Becker und Jens-Rainer Jänig, begrüßte die Mitglieder der AG mit einem diskussionsintensiven Programm im Leihamt Loft – denn die Beantwortung der Frage, wo es für die digitale Ethik hin geht, erfordert Austausch und Perspektivenvielfalt. Zunächst verschaffte die AG-Leitung allen erst einmal einen Überblick: Wo stehen wir als Arbeitsgruppe seit unserer Gründung, und wo steht die digitale Ethik? Seit knapp fünf Jahren tue sich viel: Neben immer mehr Unternehmen, die sich aktiv mit digitaler Ethik auseinandersetzen, gebe es auch immer mehr Veröffentlichungen von der öffentlichen Seite, beispielsweise 2019 das Gutachten der Datenethikkommission oder 2022 der Entwurf der EU-Verordnung zu Künstlicher Intelligenz. Leitlinien würden emporspießen, aber welche Verbindlichkeit und welche Prüfung geht damit einher? Und: „Kann ein Standard auf etwas angewendet werden, dass es noch gar nicht gibt?“ Mit dieser Frage setzte Sarah Becker den Ton für die Diskussionen des Tages.
Unternehmen als Treiber – aber was kommt wirklich bei der Gesellschaft an?
Den Faden griff Lajla Fetic, Senior Expert Tech Governance und Digitalpolitik bei der Bertelsmann Stiftung, im ersten Impuls des Tages auf. Sie nahm die regulatorische Perspektive auf digitale Ethik in den Fokus. Das Projekt „reframe[Tech] – Algorithmen fürs Gemeinwohl“, das Fetic bei der Bertelsmann Stiftung co-leitet, nimmt die Ausrichtung von KI am Gemeinwohl in den Blick. Ziel ist es unter anderem, Lösungen für Kontrolle algorithmischer Risiken zu erarbeiten.
Auf Fetics erster Folie sind groß Elon Musk und der Papst zu sehen – der Einstieg sorgt kurz vor dem Weltfrauentag für Schmunzler im Publikum. Was beide eint: Sie positionieren sich zu KI-Ethik. Doch welche Entwicklungen dies jeweils zur Folge hat, werde kontrovers diskutiert. Fetic zeigte auf, dass es große Tech-Unternehmen sind, das Scheinwerferlicht auf digitale Ethik geworfen haben: „Es wird thematisiert, es wird bearbeitet, es gibt Veröffentlichungen.“ Dabei gebe es aber auch fragwürdige personelle Entscheidungen, wie etwa die von zweifelhaften Umständen begleitete Entlassung von Timnit Gebru bei Google im Jahr 2020. Unternehmen seien insgesamt zwar Treiber der KI-Ethik und positionieren sich lautstark, in der Praxis würde das aber bislang zu zu wenigen Veränderungen führen. Was kommt in der Gesellschaft davon an? Die Frage stellte Fetic sich selbst und den AG-Mitgliedern. Denn wenn KI immer stärker Teil unseres Alltags wird, sei es wichtig, zu unterstreichen, dass Digitalpolitik Gesellschaftspolitik ist.
Fetic formulierte als Antwort auf ihre selbstgestellte Frage sechs konkrete To-Do‘s für den zukünftigen Weg der digitalen Ethik, über die die AG im Anschluss ausgiebig diskutierte:
- Ethik-Guidelines allein reichen nicht aus: Es braucht dafür Anwendungsübersetzungen.
- Scope und Risikopotentiale abwägen: Kriterien dafür könnten z. B. potenzieller Schaden und potentielle Abhängigkeiten sein.
- Operationalisierung der abstrakten ethischen Prinzipien: Wie kann ein Prinzip wie z. B. Fairness messbar gemacht und aus Managementperspektive umgesetzt werden?
- Vielfältige Perspektiven in Hard- und Soft-Governance einbringen: Leichte Zugänglichkeit als ein Ziel der Umsetz- und Durchsetzbarkeit der kommenden KI-Verordnungen.
- Kompetenzen in der Verwaltung aufbauen: Hier werden nicht nur IT-Kompetenzen, sondern auch Kompetenzen der Digitalen Ethik benötigt. (Hierzu hat die Initiative D21 2022 einen Denkimpuls veröffentlicht.)
- Inspiration und Mut: Chancen von Algorithmen und KI nutzen, z. B. durch Mut und Lust auf Koalitionen mit Unternehmen.
Umsetzung von digitalethischen Prozessen in Unternehmen – Wie kann sie funktionieren?
Für die AG ging es im Anschluss weiter mit einer Unternehmensperspektive auf digitale Ethik. IKEA als global agierendes Unternehmen bietet für die Arbeitsgruppe Ethik eine interessante Perspektive: Einerseits sind für ein solches international agierendes Großunternehmen natürlich internationale Regularien relevant, die sonst im Diskurs nicht immer eine Rolle spielen. Auf der anderen Seite ist IKEA auch ein Usecase, in den man in der Digitalethik-Community in Deutschland bisher noch nicht viel Einblick bekommen konnte. Giovanni Leoni hat als Global Head of Algorithm and AI Ethics konkret an der Ausgestaltung und Umsetzung von digitaler Ethik bei IKEA mitgewirkt. Er stellte der AG eine Bandbreite an Themen vor, die in diesem Zusammenhang in seiner Arbeit eine Rolle gespielt haben. In Leonis Augen sind die wichtigen Felder, die es in einem großen Unternehmen im Zusammenhang mit digitaler Ethik im Blick zu behalten gilt, zum einen die Voraussetzungen und Auswirkungen auf organisationaler Ebene, zum anderen die verschiedenen Ebenen des Ökosystems, also Mitarbeitende, Gesellschaft oder Regularien.
Auf organisationaler Ebene sei es eine wichtige Voraussetzung für eine erfolgreiche Umsetzung digitaler Ethik, dass moderne Strukturen und Prozesse etabliert seien. Dazu gehörten etwa klare Business Ownership, zeitgemäßes Data Governance oder abteilungsübergreifende Partnerschaften für digitale Ethik. Robustheit und Daten, die die reale Welt repräsentieren, seien ebenfalls ein wichtiger Faktor, da sie Relevanz für algorithmische Prozesse und damit passgenauere Produkte generieren. Als Beispiele für Auswirkungen auf organisationaler Ebene nannte Leoni, dass – insbesondere durch digitales Vertrauen – Wert und damit ein langfristig nachhaltiges Business-Modell geschaffen werden könne.
Für das Ökosystem hob er Mitarbeitende hervor, da deren Mindset ein großer Gelingensfaktor sei. Es sei nötig, dass sie Verständnis für ein Re-Design von Prozessen als Grundlage für KI-Ethik entwickeln. Dies könne funktionieren, wenn man seine Mitarbeitenden zum digital-ethischen Verständnis des Unternehmens weiterbilde und „Ethics by Design“-Prinzipien in neue Prozesse integriere. Je stärker das Bewusstsein der Mitarbeitenden für Digital Ethics sei, desto mehr spiegle es sich letztlich auch in ihrer Arbeit wider: „Zustimmung innerhalb des Unternehmens ist essenziell, sei es durch Transparenz, durch Erklärung oder auf anderen Wegen.“ Zu guter Letzt spielen laut Leoni auch Compliance und regulatorische Aspekte eine Rolle: Nicht nur das Streben danach, zukünftige rechtliche Vorgaben bereits heute zu erfüllen, sondern auch die Einbettung in existierende Policy Frameworks im Unternehmen seien hier zu beachten:
Corporate Responsibility drückt sich auch darin aus, dass Erwartungen erfüllt werden, die (noch) keine rechtliche Verbindlichkeit besitzen.
Die (zukünftige) Aufgabe der AG Digitale Ethik
Ganz der Natur der Arbeitsgruppe Ethik entsprechend leiteten die Mitglieder und Gäste in der folgenden Diskussionsrunde munter neue Fragen aus dem Gehörten ab, mit denen sie sich auch in Zukunft beschäftigen wollen: Wie werden Projekte identifiziert, die ethischen Support brauchen? Oder wie geht man damit um, wenn Technologien Mitarbeitende ersetzen?
Zum Abschluss ging die AG-Leitung nochmal auf eine konzeptionelle Ebene: Jens-Rainer Jänig und Sarah Becker haben einen Vorschlag zur Struktur für die AG Ethik mithilfe eines Denkmusters erarbeitet. Dieses wurde gemeinsam reflektiert und mit weiteren Perspektiven ergänzt: Welche Rolle spielt das sozio-technische System als Betrachtungsgegenstand – und welche Rolle die Umwelt? Sollten wir nicht auch eine Gestaltungs- und Möglichkeitenperspektive aufnehmen? Bewegen wir uns als AG Ethik eher im Sicht-, Gestaltungs- oder Zukunftsraum? Es gibt also noch viele weitere, spannende Diskussionen für die Arbeitsgruppe, denen wir in den nächsten Sitzungen weiter auf den Grund gehen werden.
