Vor dem Hintergrund des immensen Potenzials von Algorithmen sowie ihrer wachsenden Bedeutung bei technologischen Entwicklungen auf der einen Seite und der wachsenden algorithmischen Komplexität, der Intransparenz und der steigenden Herausforderungen, die diese Entwicklung mit sich bringt, auf der anderen, startete die Initiative D21 eine Unterarbeitsgruppe (UAG) der AG Ethik zur Bearbeitung von Fragestellungen rund um das Thema „Algorithmen-Monitoring“. Im Kick-Off-Meeting am 17. Juli 2018 identifizierten die Teilnehmenden folgende relevante Themenkreise:

  • Sozio-Ökonomischer Kontext: Welche sozialen und ökonomischen Vor- und Nachteile entstehen durch Algorithmen und kann man diesen gegebenenfalls entgegengewirken? Welche Auswirkungen auf Mensch und Gesellschaft sind zu erwarten? Weitere Fragen entstehen rund um die Wahrnehmung politischer Ereignisse, die Entwicklung von sogenannten „Echo Chambers“ und die cross-sektorale Veränderung von Arbeit wie wir sie bisher kennen?
  • Technologischer Kontext: Durch die hohe Komplexität der Algorithmen, die mit dem maschinellen Lernen verbundenen sind, ist die konzeptionelle Gestaltung eines Monitorings nicht ohne technische Expertise umzusetzen. Wie kann man ein Algorithmen-Monitoring entwickeln? Mit welchen Schwierigkeiten ist zu rechnen?
  • Rechtlich-Ethischer Kontext: Welche ethischen Fragen haben Einfluss auf die Gesetze in einer Gesellschaft? Welche legislativen Schritte müssten erfolgen, um Algorithmen regulieren zu können? Welche rechtliche Grundlage sichert die faire Regulierung algorithmischer Systeme? Was sollte algorithmischen Systemen erlaubt sein? Welche Konsequenzen sind bei Missbrauch oder Fehlern zu erwarten? Wie ist die Rechtsprechung dynamisch genug zu gestalten, um mit der schnellen Entwicklung technischer Systeme Schritt zu halten?

Teilnahme

Unsere Arbeitsgruppen stehen interessierten Akteuren grundsätzlich zur Mitwirkung offen. Dies ist ein Ausdruck unserer Strategie, den Wandel der Gesellschaft in Zusammenarbeit mit Politik, Wirtschaft und weiteren Akteuren zu gestalten. Bitte beachten Sie, dass Mitglieder und Förderer der D21 bevorzugt aufgenommen werden. Falls Sie über Veranstaltungen und Publikationen informiert werden möchten, wenden Sie sich gern an die Leitung der Arbeitsgruppe: algomon@initiatived21.de

Ansprechpartnerin

Vorsitz

Dr. Irina Eckardt
D21-Vorstand und Leiterin der UAG Algorithmen-Monitoring

Ansprechpartnerin in der Geschäftsstelle

Corinna Balkow
Referentin Digitale Gesellschaft

Am Mittwoch, 20. November 2019 findet die öffentliche Präsentation der #AlgoMon Leitlinien für den ethischen Umgang mit Algorithmen-Monitoring statt.

DENKIMPULSE ZUR DIGITALEN ETHIK

denkimpuls-algomon-bias-zuschnitt

BIAS IN ALGORITHMISCHEN SYSTEMEN

Bei der wachsenden Anwendung algorithmischer Systeme im Alltag stellen sich deren Einschränkungen als eine der entscheidenden Gerechtigkeitsfragen in der Digitalen Gesellschaft dar. Warum spielen sogenannte Bias in algorithmischen Systemen eine besondere Rolle? Wo kommen sie her, welche Verantwortung haben die Menschen im System und wie sollte damit umgegangen werden?

Zum Denkimpuls „Bias in Algorithmischen Systemen“

cover-uag-denkimpuls-transparenz-zuschnitt

TRANSPARENZ UND NACHVOLLZIEHBARKEIT ALGORITHMISCHER SYSTEME

In der Diskussion um transparente Gestaltung algorithmischer Systeme wird der Fokus oft auf die Bereitstellung von Informationen durch beteiligte Unternehmen gelegt. Dabei wird oft außer Acht gelassen, dass viele Menschen mit diesen Informationen wenig anfangen können. Sie brauchen eigentlich eine nachvollziehbare Aufarbeitung.

Zum Denkimpuls „Transparenz und Nachvollziehbarkeit“

VERANTWORTUNG FÜR ALGORITHMISCHE SYSTEME

Ausblick: Die Verortung von Verantwortung sowie das vorausschauende Antizipieren von ethisch fraglichem oder rechtlich noch unklarem Handeln ist eine komplizierte Aufgabe. Zudem ist es oftmals die Komplexität der algorithmischen Systeme selbst, welche eine Rückführung von Verantwortung erschwert. Im Denkimpuls wird untersucht, inwieweit die Übernahme von Verantwortung in einem komplexen Umfeld verlangt werden kann. Dabei werden relevante Fragestellungen identifiziert und aus sozioökonomischer, technologischer und ethisch-rechtlicher Sicht analysiert.

Veröffentlichung am 20.11.2019