denkimpuls_datengestutztes-handeln_preview_ausschnitt

#15 | Potenziale und Grenzen des datengestützten Handelns. Was sagen Kennzahlen und Daten (nicht) aus?

Was ist durch Daten abbildbar und wo liegen die Grenzen der Datifizierung? Welche Aussagekraft über die Realität haben Daten? Wie beeinflussen die Kennzahlen datengestützte Entscheidungen und ab wann wird aus „datengestützt“ „datengetrieben“? Für diese Fragen gibt das Papier Denkanstöße und macht Vorschläge für Antworten.

  • Autor: Dr. Nikolai Horn (iRights.Lab)
  • Veröffentlichung: Juni 2020

Projektsteckbrief

Projektzeitraum
ab 2017

Ansprechpartner
Lena-Sophie Müller
+49 30 5268722 52
lena-sophie.mueller@initiatived21.de

algomon-guidelines-eng-cover

#14 | Guidelines for monitoring algorithmic systems

These 9 guidelines for monitoring algorithmic system should provide orientation.  They include basic questions for further discussion and serve as a call to action for continuous review and further development in the areas of bias, transparency and explainability, and responsibility for algorithmic systems.

  • Published: November 2019 | Translation: March 2020
  • Created in the working group Monitoring of Algorithms
algomon-responsibility-en-cover

#13 | Responsibility for algorithmic systems

Due to the complexity of the algorithmic systems and the large number of actors involved in the commissioning, development and use of algorithmic systems, tracing the origins of erroneous decisions and identifying those responsible is currently an extremely difficult task. A more transparent design forms the basis for achieving comprehensive traceability.

  • Authors: Corinna Balkow (Initiative D21 e. V.), Dr. Irina Eckardt (Initiative D21 e. V. / KPMG)
  • Published: November 2019 | Translation: March 2020
  • Created in the working group Algorithm Monitoring
AlgoMon Transparency Cover

#12 | Transparency and explainability of algorithmic systems

Transparency is a prerequisite for explainability. Information becomes explainable when the connections that led to the creation of information and its immediate effects are understood by a given person. In relation to the understanding of algorithmic systems transparency and explainability can be in conflict with each other.

  • Authors: Corinna Balkow (Initiative D21 e. V.), Dr. Irina Eckardt (Initiative D21 e. V. / KPMG)
  • Published: November 2019 | Translation: March 2020
  • Created in the working group Algorithm Monitoring
English cover of Bias in algorithmic systems

#11 | Bias in algorithmic systems

By considering different types of biases, better standards can be created that inform the identification and thus the suitable handling of biases. It is important to consider the interests of the people who commission, plan, specify, develop, test and deploy algorithmic systems. In addition, the qualitative expertise of the data providers must be ensured, and social expectations and requirements must be considered.

  • Authors: Corinna Balkow (Initiative D21 e. V.), Dr. Irina Eckardt (Initiative D21 e. V. / KPMG)
  • Published: June 2019 | Translation: March 2020
  • Created in the working group Monitoring of Algorithms
AlgoMon Leitlinien Cover

#10 | 9 Leitlinien zum Algorithmen-Monitoring

Die Leitlinien dienen beim Monitoring algorithmischer Systeme als Orientierung, wichtige Fragen nach der Verantwortlichkeit und Kontrolle, der Nichtdiskriminierung, der Transparenz und Nachvollziehbarkeit sowie der Nachhaltigkeit zu berücksichtigen.

  • Veröffentlichung: November 2019
  • Leitlinien entstanden im Rahmen der UAG Algorithmen-Monitoring
denkimpuls-verantwortung-cover

#9 | Verantwortung für algorithmische Systeme

Die Verortung von Verantwortung sowie das vorausschauende Antizipieren von ethisch fraglichem oder rechtlich noch unklarem Handeln ist eine komplizierte Aufgabe. Zudem ist es oftmals die Komplexität der algorithmischen Systeme selbst, welche eine Rückführung von Verantwortung erschwert.

  • Autoren: Corinna Balkow (Initiative D21 e. V.), Dr. Irina Eckardt (Initiative D21 e. V. / KPMG)
  • Veröffentlichung: November 2019
  • Denkimpuls entstand im Rahmen der UAG Algorithmen-Monitoring
denkimpuls-transparenz-cover

#8 | Transparenz und Nachvollziehbarkeit

In der Diskussion um transparente Gestaltung algorithmischer Systeme wird der Fokus oft auf die Bereitstellung von Informationen durch beteiligte Unternehmen gelegt. Dabei wird oft außer Acht gelassen, dass viele Menschen mit diesen Informationen wenig anfangen können. Sie brauchen eigentlich eine nachvollziehbare Aufarbeitung.

  • Autoren: Corinna Balkow (Initiative D21 e. V.), Dr. Irina Eckardt (Initiative D21 e. V. / KPMG)
  • Veröffentlichung: Juni 2019
  • Denkimpuls entstand im Rahmen der UAG Algorithmen-Monitoring
denkimpuls-algomon-bias-gedreht

#7 | Bias in algorithmischen Systemen

Bei der wachsenden Anwendung algorithmischer Systeme im Alltag stellen sich deren Einschränkungen als eine der entscheidenden Gerechtigkeitsfragen in der Digitalen Gesellschaft dar. Warum spielen sogenannte Bias in algorithmischen Systemen eine besondere Rolle? Wo kommen sie her, warum sind sie oft „menschengemacht“ und wie sollte damit umgegangen werden, um negative Folgen zu verhindern?

  • Autoren: Corinna Balkow (Initiative D21 e. V.), Dr. Irina Eckardt (Initiative D21 e. V. / KPMG)
  • Veröffentlichung: März 2019
  • Denkimpuls entstand im Rahmen der UAG Algorithmen-Monitoring
denkimpuls05_verwaltung

#5 | Künstliche Intelligenz – Assistenz oder Konkurrenz in der zukünftigen Verwaltung?

Auch im Kontext der öffentlichen Verwaltung wird künstliche Intelligenz die Arbeits- und Lebenswelt der Zukunft stark beeinflussen. Im Fokus der Diskussion stehen hierbei einerseits die beschränkten Ressourcen der öffentlichen Hand sowie der Wunsch nach Effizienz und kostengünstiger Leistungserbringung. Andererseits ist aber auch festzustellen, dass MitarbeiterInnen in der Verwaltung teils bis zu einem Viertel ihrer Arbeitszeit mit repetitiven Routinetätigkeiten verbringen.

  • Autoren: Astrid Aupperle, Thomas Langkabel, Katharina Ramsauer (Microsoft Deutschland GmbH)
  • Veröffentlichung: Februar 2018
denkimpuls-ki-und-medizin-gedreht-2

#6 | Einsatz von Künstlicher Intelligenz in der Medizin

Der Gesundheitssektor und die moderne Medizin sind durch das Innovationspotenzial der KI und der daraus resultierenden Auswirkungen auf herkömmliche Verfahrens- und Behandlungsweisen in besonderem Maße betroffen. Unter dem Einfluss der Digitalisierung ist die Medizin bereits seit längerem und auch in Zukunft einem andauernden Wandel unterworfen.

  • Autoren: Astrid Aupperle, Thomas Langkabel, Niklas Giersberg (Microsoft Deutschland GmbH)
  • Veröffentlichung: Februar 2018
denkimpuls04_wirtschaft

#4 | Einsatz von Künstlicher Intelligenz in der Wirtschaft

Im Zuge der Digitalisierung sind verschiedene Technologien entstanden, bei vielen von ihnen ist ihr wahres Potenzial noch gar nicht wirklich erforscht worden, doch sie alle haben laut Wissenschaft und IT-Industrie das Zeug dazu, das nächste „Big Thing“ zu sein. Schlagwörter wie Big Data, Blockchain, Cloud oder Künstliche Intelligenz fallen immer wieder, ohne dass viele wissen, was wirklich dahintersteckt. Fakt ist aber, dass sich schon jetzt ganze Branchen durch diese Technologien neu- und weiterentwickelt haben, Start Ups zu millionenschweren Unternehmen wurden und die traditionelle Industrie intensiv versucht, sich diese neuen technologischen Möglichkeiten zu Nutze zu machen.

  • Autoren: Astrid Aupperle, Thomas Langkabel, Lukas Klein (Microsoft Deutschland GmbH)
  • Veröffentlichung: Februar 2018
denkimpuls03_pflege

#3 | Roboter als persönliche Assistenten für ältere Menschen

Unterstützung durch Assistenzroboter in der Pflege ist keine Zukunftsvision, seit Herbst 2017 ist das Realität.  Roboter sind mittlerweile intelligent und programmiert, emotional zu wirken – sie können Menschen kontrollieren und beeinflussen. Die Diskussion über Wert- und Moralvorstellungen muss von der Gesellschaft, von Unternehmen und der Politik jetzt geführt werden.

  • Autoren: Martin Vesper (digitalSTROM / Initiative D21 e. V.), Carolin Hoffmann (digitalSTROM)
  • Veröffentlichung: November 2017
denkimpuls02_denkmuster

#2 | Warum wir uns mit Digitaler Ethik beschäftigen sollten – Ein Denkmuster

Dieser Denkimpuls gibt Hilfestellung (1) beim Verständnis, warum Digitalisierung zu gesellschaftlich relevanten ethischen Fragestellungen führt („Das Digitale“ und „Die Ethik“) und (2) bietet ein Denkmuster zur Identifizierung und systematischen Bearbeitung von Zielkonflikten in bestimmten Situationen („Lebensbereichen“). Ziel ist es, EntscheiderInnen bei einer umsichtigen Gestaltung der digitalen Transformation im Einklang mit der Gesellschaft zu unterstützen.

  • Autoren: Lena-Sophie Müller (Initiative D21 e. V.), Nicolai Andersen (Initiative D21 e. V. / Deloitte)
  • Veröffentlichung: November 2017
denkimpuls01_grundlage

#1 | Grundlagen der digitalen Ethik – Eine normative Orientierung in der vernetzten Welt

Digitale Ethik fragt nach dem Guten und Richtigen im Digitalen Wandel. Der ethische Diskurs bietet eine Orientierung, mit dessen Hilfe der Digitalisierungsprozess freiheitsfördernd gestaltbar wird.

  • Autor: Dr. Nikolai Horn (Stiftung Datenschutz)
  • Veröffentlichung: August 2017