UAG Algorithmen-Monitoring

Vor dem Hintergrund des immensen Potenzials von Algorithmen sowie ihrer wachsenden Bedeutung bei technologischen Entwicklungen auf der einen Seite und der wachsenden algorithmischen Komplexität, der Intransparenz und der steigenden Herausforderungen, die diese Entwicklung mit sich bringt, auf der anderen, startete die Initiative D21 eine Unterarbeitsgruppe (UAG) der AG Ethik zur Bearbeitung von Fragestellungen rund um das Thema „Algorithmen-Monitoring“. Im Kick-Off-Meeting am 17. Juli 2018 identifizierten die Teilnehmenden folgende relevante Themenkreise:

• Sozio-ökonomischer Kontext: Welche sozialen und ökonomischen Vor- und Nachteile entstehen durch Algorithmen und kann man diesen gegebenenfalls entgegenwirken? Welche Auswirkungen auf Mensch und Gesellschaft sind zu erwarten? Weitere Fragen entstehen rund um die Wahrnehmung politischer Ereignisse, die Entwicklung von sogenannten „Echo Chambers“ und die cross-sektorale Veränderung von Arbeit wie wir sie bisher kennen?
• Technologischer Kontext: Durch die hohe Komplexität der Algorithmen, die mit dem maschinellen Lernen verbundenen sind, ist die konzeptionelle Gestaltung eines Monitorings nicht ohne technische Expertise umzusetzen. Wie kann man ein Algorithmen-Monitoring entwickeln? Mit welchen Schwierigkeiten ist zu rechnen?
• Rechtlich-Ethischer Kontext: Welche ethischen Fragen haben Einfluss auf die Gesetze in einer Gesellschaft? Welche legislativen Schritte müssten erfolgen, um Algorithmen regulieren zu können? Welche rechtliche Grundlage sichert die faire Regulierung algorithmischer Systeme? Was sollte algorithmischen Systemen erlaubt sein? Welche Konsequenzen sind bei Missbrauch oder Fehlern zu erwarten? Wie ist die Rechtsprechung dynamisch genug zu gestalten, um mit der schnellen Entwicklung technischer Systeme Schritt zu halten?

Im Rahmen der UAG Algorithmen-Monitoring sprachen Expert*innen aus Unternehmen, Forschung, Politik, Verwaltung und Zivilgesellschaft über Fragen von Bias als unerwünschtes Vorurteil oder bewusste Förderung. Sie diskutierten über das richtige Maß von Transparenz für allgemeine Nachvollziehbarkeit und überlegten, wer welche Verantwortung im Entwicklungszyklus von Auftrag bis zum Einsatz algorithmischer Systeme übernimmt. Zusammengefügt sind nun Leitlinien für Algorithmen-Monitoring (#AlgoMon) entstanden, die am 20. November 2019 öffentlich präsentiert und diskutiert wurden. Zum Bericht

Zur Homepage der #AlgoMon Leitlinien für den ethischen Umgang mit Algorithmen-Monitoring.

Es fanden folgende Sitzungen statt:

• Regulierung von Algorithmen (23.09.2019)
• Wer übernimmt Verantwortung für algorithmische Systeme? (19.07.2019)
• Virtuelles Treffen (28.06.2019)
• Virtuelles Treffen (10.05.2019)
• Künstliche Intelligenz kontrollieren? (29.04.2019)
• Virtuelles Treffen (15.03.2019)
• Virtuelles Treffen (08.02.2019)
• Bias, Algorithmen und menschenrechtliche Sorgfaltspflicht (12/2018)
• Virtuelles Treffen (11/2018)
• Start der Expertengruppe in der UAG Algorithmen-Monitoring (19.10.2018)
• Kick-Off für UAG Algorithmen-Monitoring (17.07.2018) 

Ansprechpartnerinnen

Vorsitz

Dr. Irina Eckardt
D21-Vorstand und Leiterin der UAG Algorithmen-Monitoring

Ansprechpartnerin in der Geschäftsstelle

Lena-Sophie Müller
Geschäftsführerin Initiative D21

 To the English Version

Am Mittwoch, 20. November 2019 fand die öffentliche Präsentation der #AlgoMon Leitlinien für den ethischen Umgang mit Algorithmen-Monitoring statt.

DENKIMPULSE ZUR DIGITALEN ETHIK

Bias in algorithmischen Systemen

Bei der wachsenden Anwendung algorithmischer Systeme im Alltag stellen sich deren Einschränkungen als eine der entscheidenden Gerechtigkeitsfragen in der Digitalen Gesellschaft dar. Warum spielen sogenannte Bias in algorithmischen Systemen eine besondere Rolle? Wo kommen sie her, warum werden sie von Menschen in das System eingebracht und wie sollte damit umgegangen werden, um negative Folgen zu verhindern?

• Autorinnen: Corinna Balkow (Initiative D21 e. V.), Dr. Irina Eckardt (Vorständin Initiative D21 e. V. | KPMG)
• Veröffentlichung: März 2019