Vor dem Hintergrund des immensen Potenzials von Algorithmen sowie ihrer wachsenden Bedeutung bei technologischen Entwicklungen auf der einen Seite und der wachsenden algorithmischen Komplexität, der Intransparenz und der steigenden Herausforderungen, die diese Entwicklung mit sich bringt, auf der anderen, startete die Initiative D21 eine Unterarbeitsgruppe (UAG) der AG Ethik zur Bearbeitung von Fragestellungen rund um das Thema „Algorithmen-Monitoring“. Im Kick-Off-Meeting am 17. Juli 2018 identifizierten die Teilnehmenden folgende relevante Themenkreise:

  • Sozio-Ökonomischer Kontext: Welche sozialen und ökonomischen Vor- und Nachteile entstehen durch Algorithmen und kann man diesen gegebenenfalls entgegengewirken? Welche Auswirkungen auf Mensch und Gesellschaft sind zu erwarten? Weitere Fragen entstehen rund um die Wahrnehmung politischer Ereignisse, die Entwicklung von sogenannten „Echo Chambers“ und die cross-sektorale Veränderung von Arbeit wie wir sie bisher kennen?
  • Technologischer Kontext: Durch die hohe Komplexität der Algorithmen, die mit dem maschinellen Lernen verbundenen sind, ist die konzeptionelle Gestaltung eines Monitorings nicht ohne technische Expertise umzusetzen. Wie kann man ein Algorithmen-Monitoring entwickeln? Mit welchen Schwierigkeiten ist zu rechnen?
  • Rechtlich-Ethischer Kontext: Welche ethischen Fragen haben Einfluss auf die Gesetze in einer Gesellschaft? Welche legislativen Schritte müssten erfolgen, um Algorithmen regulieren zu können? Welche rechtliche Grundlage sichert die faire Regulierung algorithmischer Systeme? Was sollte algorithmischen Systemen erlaubt sein? Welche Konsequenzen sind bei Missbrauch oder Fehlern zu erwarten? Wie ist die Rechtsprechung dynamisch genug zu gestalten, um mit der schnellen Entwicklung technischer Systeme Schritt zu halten?

In der Gruppe ist die Entstehung mehrer Denkimpulse geplant.

  • BIAS IN ALGORITHMISCHEN SYSTEMEN

Bei der wachsenden Anwendung algorithmischer Systeme im Alltag stellen sich deren Einschränkungen als eine der entscheidenden Gerechtigkeitsfragen in der Digitalen Gesellschaft dar. Warum spielen sogenannte Bias in algorithmischen Systemen eine besondere Rolle? Wo kommen sie her, welche Verantwortung haben die Menschen im System und wie sollte damit umgegangen werden?

Zum Denkimpuls „Bias in Algorithmischen Systemen“

Ansprechpartnerin

Vorsitz

Dr. Irina Eckardt
D21-Vorstand und Leiterin der UAG Algorithmen-Monitoring

Ansprechpartnerin in der Geschäftsstelle

Corinna Balkow
Referentin Digitale Gesellschaft

Die nächsten Sitzungen finden statt am:

Teilnahme

Unsere Arbeitsgruppen stehen interessierten Akteuren grundsätzlich zur Mitwirkung offen. Dies ist ein Ausdruck unserer Strategie, den Wandel der Gesellschaft in Zusammenarbeit mit Politik, Wirtschaft und weiteren Akteuren zu gestalten. Bitte beachten Sie, dass Mitglieder und Förderer der D21 bevorzugt aufgenommen werden. Falls Sie über Veranstaltungen und Publikationen informiert werden möchten, wenden Sie sich gern an die Leitung der Arbeitsgruppe: algomon@initiatived21.de