AG-Blog | Legal vs. Legitim: Im Spannungsfeld der digital-ethischen Regulierung
In Zeiten kurzer Entwicklungszyklen und einer hohen Innovationsgeschwindigkeit steht die Regulierung von Technologien im Widerspruch zu zumeist langwierigen Gesetzgebungsprozessen. Dadurch entsteht für Unternehmen ein Zwiespalt: Auch wenn der Einsatz oder die Nutzung einer Anwendung legal ist – ist es legitim? Diese und weitere Fragen der ethischen Regulierung von Technologien wie etwa Künstlicher Intelligent (KI) diskutierte die AG Digitale Ethik in ihrer letzten Sitzung im Jahr 2023.
Berlin. Die Dynamik von technischen Innovationen und die Entwicklungsrate bei Unternehmen haben sich in den letzten Jahren rasant gesteigert. Zeitgleich bleiben Gesetzgebungsverfahren komplex und langwierig. Welche Rolle spielen nun Unternehmen als Treiber von Innovationen in der Gesetzgebung zur digitalen Ethik? Und wie kann vor dem Hintergrund der aktuellen Dynamiken eine zukunftsgerichtete und resiliente Struktur bei der Gesetzgebung etabliert werden? Über diese Fragen tauschten sich im November die Mitglieder der AG Digitale Ethik in der Telefónica Lounge in Berlin aus.
Das Spannungsverhältnis der ethischen Regulierung von Technologien
Thanos Rammos, Rechtsanwalt und Partner bei TaylorWessing, gab der AG zunächst einen Überblick über den Status Quo der Rechtsgrundlagen, mit deren Hilfe Technologien reguliert werden sollen. Fraglich sei dabei, ob auch aus ethischer Perspektive etwas geregelt werde. Grundsätzlich seien alle Regulierungsvorhaben durch die Frage nach dem Verhältnis von Recht und Moral geprägt, so Rammos. Beispielsweise seien manchmal moralisch fragwürdige Handlungen rechtlich ggf. zulässig. Moralische und rechtliche Verbindlichkeit könnten daher unter Umständen vor diesem Hintergrund ein Spannungsverhältnis für Unternehmen bilden.
Ethisches oder moralisches Verhalten von Unternehmen werde nur teilweise und indirekt in der Legislative berücksichtigt. In der Exekutive scheine eine ethische Dimension teilweise als Maßstab herangezogen zu werden, wenn etwa Behörden sich bei Stellungnahmen verleiten lassen, Gesetze durch ihr Ermessen weit auszulegen. Beispiele gebe es sowohl im Datenschutz- als auch im Verbraucherschutzbereich. Aus diesem Grund und weil Unternehmen zum Teil auch aus eigenem Antrieb vor dem Hintergrund eines modernen Kund*innenleitbildes ethische Prinzipien berücksichtigen würden, werde eine „Unternehmensethik“ immer wichtiger. Sie werde auch beim Umgang mit KI oder Daten mehr und mehr berücksichtigt.
Regulierung habe zugleich den Nachteil der Reaktivität. Geregelt würden Sachverhalte, die bereits bei Inkrafttreten von Gesetzen ggf. veraltet sind. Technikoffene und zukunftsgerichtete Regulierung stelle somit eine große Herausforderung für Legislative und Exekutive dar. Beispiele wie der Data Act oder der Digital Service Act (DSA) der EU würden zeigen, dass Gesetzgebungszyklen Innovationen nicht einbremsen möchten:
- Der Data Act möchte ein Open Data-Konzept manifestieren, um zwischen Hersteller*innen von Produkten und anderen Marktteilnehmern wie Start-ups eine Gleichberechtigung auf dem „Datenmarkt“ zu schaffen.
- Der AI Act verfolge bisher einen horizontalen Ansatz und unterteile in Risikokategorien. Deren Einordnung liege auch eine ethische Wertung zugrunde.
Rammos stellte abschließend jedoch fest:
Wenngleich den rechtlichen Regulierungen wie dem Data Act oder AI Act ethische Prinzipien zugrunde liegen, steht die Politik weiterhin vor der immer gleichen Herausforderung: Sie muss Gesetze zur Regulierung von Technologien erarbeiten, die sich stetig weiterentwickeln. Manche der Geschäftsmodelle von heute werden sich morgen massiv gewandelt haben.
Herausforderungen nicht nur bei der Erarbeitung – auch bei Umsetzung und Überprüfung von Rechtsgrundlagen
Die sich daran anschließende große Frage, ob Technologiekonzerne überhaupt im Voraus reguliert werden können, bejahte Dr. Joachim Bühler, CEO des TÜV-Verbandes und zweiter Impulsgeber der Sitzung. Aus seiner Sicht sei eine solche Regulierung im Voraus grundsätzlich möglich, da die EU beispielsweise beim Thema Nachhaltigkeit mit dem Green Deal zukunftsgerichtete Richtlinien vorgegeben habe. Bei der Digitalisierung hänge die Regulierung allerdings schon lange den Entwicklungen hinterher, was eine vorausschauende Gesetzgebung erschwere. Der TÜV sei einer der Akteur*innen, die solche gesetzlichen Regulierungen in die Praxis umsetzen müsse, Standards und Vorgaben erlasse und deren Einhaltung überprüfe.
Digitale Innovationen durchdringen die Gesellschaft dabei immer schneller. Das Telefon hat noch 27 Jahre gebraucht, um die Marke von einer Million Nutzer*innen zu knacken; Netflix hat dafür nur 3,5 Jahre gebraucht – und ChatGTP sogar nur 5 Tage.
Diese Dynamik stelle Regulierung, Umsetzung und auch die Überprüfung, ob bestehende Regeln eingehalten werden, vor große und neue Herausforderungen. Beim Thema KI stellten sich etwa ganz neue Fragen: Mit welchen Datensätzen werden KIs trainiert? Wie schaffen wir es, menschliche Fehler nicht durch technische zu ersetzen? Und ist ein Bild echt oder nicht?
Laut einer TÜV-Umfrage sähe eine Mehrheit der Menschen KI als eine Gefahr für die Demokratie an. Deswegen befürworte ein Großteil der Gesellschaft und auch der Wirtschaft, ethische Grundsätze in gesetzliche Regulierungen von Technologien wie etwa den EU AI Act zu übersetzen. Diesen halte er mit seinem risikobasierten Ansatz für eine gute Idee zur Umsetzung von Regulierungsbestrebungen. Noch würden die Werkzeuge dazu fehlen, solche Regulierungen umzusetzen und ihre Einhaltung zu kontrollieren. Genau da setze der TÜV aber mit seinem neuen „TÜV AI.Lab“ an: Hier wolle man gesellschaftliche und regulatorische Anforderungen in Prüfkriterien und -Prozesse umsetzen und die Entwicklung von Standards für die Prüfung sicherheitskritischer KI-Anwendungen begleiten. So könne man die über Jahrzehnte aufgebaute Kompetenz an der Schnittstelle von Regulierung, Compliance und Umsetzung auch in neuen Technologiefeldern nutzen.
Ethische und wertebasierte KI-Regulierung in Unternehmen
Und wie ist die Perspektive von unternehmen auf digital-ethische Regulierungen? Wie setzen sich solche Prozesse ganz praktisch um? Tatsächlich hätten sich Prüfmethoden in Prozessen sowie (Produkt-)Standards bei SAP durch die Einführung von KI grundlegend geändert, so Camila Lombana, AI Ethics Expert und Strategic Designer bei SAP. Lombana gab den Teilnehmer*innen der AG am Beispiel der Themen Datenmanagement und KI einen Einblick, wie SAP die Digitalisierung ethisch reguliert. SAP habe schnell realisiert, dass bestehende Regeln für Datenmanagement sich nicht auf KI-Technologien übertragen ließen, da beide unterschiedliche Ziele hätten. Deswegen habe SAP entschieden, ethische und wertebasierte Leitlinien für KI in einem Dokument festzulegen, das für das gesamte Unternehmen verbindlich sei:
Unsere ethischen Leitlinien für den KI-Einsatz verändern den Umgang mit unseren eigenen technischen Lösungen grundlegend.
So habe SAP eine komplett neue Governance- und Steuerungsstruktur für den KI-Einsatz etabliert. Des Weiteren betonte sie, wie wichtig es sei, dass sich diese Richtlinien auch in den Produkten der Unternehmen widerspiegeln. Denn nur dadurch könnten ethische Grundsätze effektiv in die digitale Welt transportiert werden und die Unternehmensrichtlinien ihre Wirkung vollständig entfalten.
„Menschen müssen die Technologie verstehen, um ethische Entscheidungen zu treffen.“
Jeanne-Marie Schwarz, Head of Global Innovation & Digital Policy bei Bayer, gab der AG Einblicke darin, wie das Life-Sciences-Unternehmen KI ethisch reguliert. Bayer habe seit 2021 einen externen Bioethikrat mit unabhängigen Expert*innen, der das Unternehmen u. a. in Fragen zum ethischen Umgang mit KI berate. Zudem habe Bayer eigene Bioethische Prinzipien, die unternehmensweite Standards im Hinblick auf die Nutzung von neuen Technologien in Forschung und Entwicklung vorgeben.
Insbesondere digitale Kompetenzen der Mitarbeitenden seien wichtig, um einen verantwortungsvollen Umgang mit diesen Technologien in Unternehmen zu erreichen. Ein grundlegendes Verständnis von KI, Algorithmen und Daten zu erlernen, versetze Mitarbeitende in die Lage, mithilfe der Technologie besser zu entscheiden.
Menschen müssen die Technologie verstehen, um ethische Entscheidungen zu treffen – da hilft eine Regulierung alleine nicht.
Mit Blick auf die rechtlichen Regulierungsvorhaben der Politik sagte Schwarz: „Ich denke, wir brauchen irgendwann eine Konvergenz der verschiedenen Regulierungsinitiativen. Das würde es für Unternehmen und andere leichter machen.“ Da sich grundlegenden Prinzipien der verschiedenen Vorhaben etwa der EU, USA, G7 oder der OECD ähneln würden, sei der Weg vielleicht gar nicht so schwer.
Über den Tellerrand hinaus: Die Zukunft ethischer Regulierung von KI
In der anschließenden Fishbowl (eine Podiums-Diskussion, bei der stets ein Platz frei ist, den das Publikum besetzen kann) diskutierten Impulsgeber*innen und Teilnehmer*innen gemeinsam über den verantwortungsvollen Umgang mit und die Entwicklung von KI. Dabei debattierten die Teilnehmenden über Themen wie die Normierung und Standardsetzung für KI, die Einbindung des Globalen Südens bei diesen Fragestellungen und das Spannungsfeld zwischen rechtlicher Regulierung und hoher Innovationsdynamik.
Die fruchtbaren Diskussionen machten deutlich, wie sehr das Thema der digital-ethischen Regulierung und die damit einhergehenden Fragestellungen den AG-Mitgliedern unter den Nägeln brennt. So saßen sie noch eine ganze Weile beisammen und führten die Gespräche fort. Wir freuen uns schon jetzt darauf, diese Diskussionen auch im neuen Jahr gemeinsam weiterzuführen.
Wahl der AG-Leitung
Bei der AG-Sitzung wurden außerdem die Ergebnisse der turnusgerechten Wahl der AG-Leitung verkündet. Die amtierenden Co-Vorsitzenden Dr. Sarah J. Becker (Deloitte) und Jens-Rainer Jänig (mc-quadrat | Vorstandsmitglied der Initiative D21) kandidierten für ein weiteres Jahr und wurden von den AG-Mitgliedern wiedergewählt. Ihnen gebührt großer Dank für die tolle Zusammenarbeit – jetzt freuen wir uns auf das, was kommt. Herzlichen Glückwunsch!
