Wie können die Rechte der EntwicklerInnen und NutzerInnen von Algorithmischen Systemen gewährleistet und geschützt werden? Was braucht es für Regulierungen und auf welchen Ebenen? Diese Fragen standen im Mittelpunkt der gemeinsamen Sitzung der AG Ethik und der Unterarbeitsgruppe (UAG) Algorithmen-Monitoring am 23. September 2019.

Ergebnisse der UAG Algorithmen-Monitoring

Die UAG der AG Ethik beschäftigt sich vor dem Hintergrund der wachsenden Bedeutung von Algorithmen bei technologischen Entwicklungen mit dem immensen Potential aber auch mit den steigenden Herausforderungen, die diese Entwicklung mit sich bringt. Dr. Irina Eckardt von KPMG stellte als Vorsitzende der im Juli 2018 gegründeten UAG Algorithmen-Monitoring die Ergebnisse vor. Drei Themenkreise stehen im Fokus der Betrachtungen: der sozio-ökonomische Kontext, der technologische Kontext und der rechtlich-ethische Kontext. Seit der Gründung der UAG veröffentlichte diese bereits zwei Denkimpulse. Den ersten zum Thema “Bias in Algorithmischen Systemen”(Link) und einen weiteren mit dem Titel “Transparenz und Nachvollziehbarkeit in Algorithmischen Systemen”(Link). Ein dritter Denkimpuls mit dem Thema “Verantwortung für algorithmische Systeme” erscheint voraussichtlich am 5. November.

Als übergreifende Zusammenfassung wurden Leitlinien für den ethischen Umgang mit Algorithmen-Monitoring entwickelt. Diese wurden in der Sitzung kritisch besprochen und diskutiert. Anhand von Fragebögen konnten sich die Mitglieder der AG auch schriftlich aktiv in die Gestaltung der finalen Leitlinien einbringen. Am Mittwoch, den 20. November 2019, findet ab 17:00 im Microsoft Atrium die große Abschlussveranstaltung der UAG Algorithmen-Monitoring statt. Weitere Informationen zur Veranstaltung finden Sie hier.

Ethik von algorithmischen Systemen als kollektive architektonische Entscheidung

Anregend und kontrovers wurde es im Anschluss beim Vortrag von Lorena Jaume-Palasí von The Ethical Tech Society zum Thema, Algorithmen als immaterielle Infrastruktur und eine Ethik des Kollektiven. Lorena Jaume-Palasí beleuchtete das Thema der Ethik von algorithmischen Systemen aus einem innovativen technisch-philosophischen Blickwinkel. Bei der Kreation von notwendigen Standards in algorithmischen Systemen steht nicht mehr das Individuum im Zentrum der Betrachtungen, weshalb neue gesellschaftliche Maßnahmen erforderlich sind. Kernpunkt war die Abwendung von der individualrechtlichen Ebene, hin zur kollektiven Ebene. Die Referentin betonte die Wichtigkeit struktureller Lösungen anstelle von individuellen, da eine Gesellschaft mehr als die Summe ihrer Individuen sei. Auch Zwischenwirkungen und Interaktionen müssen berücksichtigt werden. Der Ansatz, algorithmische Systeme als neue Infrastruktur mit einer eigenen Sprache, die keine digitalen Rechte benötigen, sondern eine digitale Interpretation der Grundrechte, wurde ausgiebig und kontrovers unter den BesucherInnen der AG diskutiert.

Ethik verändert sich nicht durch die Digitalisierung, sondern der Umgang damit

Carsten Kestermann von Amazon Web Services und Mitglied des D21-Vorstandes berichtete über die Chancen von Machine Learning im Kontext von Ethik und Regulierung. Er sprach darüber, wie in seinem Unternehmen mit ethischen Fragen umgegangen wird und über seine Ansichten zu Themen, wie autonomes Fahren. Dies ist eines vieler Beispiele für wichtige ethische Entscheidungen, die getroffen werden müssen, bei der Nutzung algorithmischer Systeme. Analoge Autos sind auf den Schutz der Insassen optimiert. Soll das bei digitalen / autonom-fahrenden Autos so fortgeführt werden? Carsten Kestermann sprach davon, dass es keine getrennte analoge und digitale Ethik gibt, sondern nur eine allgemeingültige Ethik existiert, die entsprechend übersetzt werden muss.
Zum Thema Arbeitsplatzverlust durch Künstliche Intelligenz, sprach er von einer Verschiebung der Jobs von niedriger Qualifikation hin zu einer hohen Qualifikation. Carsten Kestermann betonte, dass es wichtig für Amazon Web Services ist, dass am Ende eines Entscheidungsprozess immer noch der Mensch steht und die Maschine nur eine unterstützende Rolle einnimmt. Demnach ist es wichtig, Möglichkeiten zur Fort- und Weiterbildung für ArbeitnehmerInnen zu schaffen, damit diese den digitalen Wandel souverän durchlaufen können.

Die nächste Sitzung der AG Ethik findet am 7. November 2019 statt, Informationen dazu finden Sie hier. Die Abschlussveranstaltung der UAG Algorithmen-Monitoring findet am 20. November 2019 statt, weitere Informationen dazu finden Sie hier.