#17 | Datenraum Gesundheit: Die Lösung ethischer Fragestellung als Voraussetzung für Innovationen im Gesundheitswesen
Die Autor*innen widmen sich dem Spannungsfeld der Datennutzung im Gesundheitswesen. Sie richten den Blick auf die Bedeutung von Daten für Innovationen im Gesundheitsbereich und den Schutz von Daten basierend auf einer digital-ethischen Perspektive.
- Autorinnen: Dr. Annerose Nisser, Benno Herrmann, Dr. Oliver Arentz (VDI Technologiezentrum GmbH), Dr. Nikolai Horn (iRights.Lab), Dr. Sarah Becker, Dr. André Nemat (Institute for Digital Transformation in Healthcare GmbH)
- Veröffentlichung: Juni 2022
Projektsteckbrief
Projektzeitraum
ab 2017
Ansprechpartnerin
Dr. Marie Blachetta
+49 30 7675853-54
marie.blachetta@initiatived21.de
#16 | Ein digitalethischer Kompetenzrahmen aus der Praxis und für die Praxis
Der Denkimpuls leitet sechs Kompetenzarten ab, die eine Grundlage für Benennung und Analyse von digitalethischen Kompetenzen bieten. Die Definition und Identifikation der Kompetenzarten – aufgegliedert nach Rollen, Kompetenzarten und -niveaus – bieten Ansatzpunkte für Aus- und Weiterbildung.
- Autorinnen: Alina Lorenz (NExT e. V., IT-Systemhaus der Bundesagentur für Arbeit), Anita Klingel (NExT e. V.)
- Veröffentlichung: Juni 2022
#15 | Potenziale und Grenzen des datengestützten Handelns. Was sagen Kennzahlen und Daten (nicht) aus?
Was ist durch Daten abbildbar und wo liegen die Grenzen der Datifizierung? Welche Aussagekraft über die Realität haben Daten? Wie beeinflussen die Kennzahlen datengestützte Entscheidungen und ab wann wird aus „datengestützt“ „datengetrieben“? Für diese Fragen gibt das Papier Denkanstöße und macht Vorschläge für Antworten.
- Autor: Dr. Nikolai Horn (iRights.Lab)
- Veröffentlichung: Juni 2020
#14 | Guidelines for monitoring algorithmic systems
These 9 guidelines for monitoring algorithmic system should provide orientation. They include basic questions for further discussion and serve as a call to action for continuous review and further development in the areas of bias, transparency and explainability, and responsibility for algorithmic systems.
- Published: November 2019 | Translation: March 2020
- Created in the working group Monitoring of Algorithms
#13 | Responsibility for algorithmic systems
Due to the complexity of the algorithmic systems and the large number of actors involved in the commissioning, development and use of algorithmic systems, tracing the origins of erroneous decisions and identifying those responsible is currently an extremely difficult task. A more transparent design forms the basis for achieving comprehensive traceability.
- Authors: Corinna Balkow (Initiative D21 e. V.), Dr. Irina Eckardt (Initiative D21 e. V. / KPMG)
- Published: November 2019 | Translation: March 2020
- Created in the working group Algorithm Monitoring
#12 | Transparency and explainability of algorithmic systems
Transparency is a prerequisite for explainability. Information becomes explainable when the connections that led to the creation of information and its immediate effects are understood by a given person. In relation to the understanding of algorithmic systems transparency and explainability can be in conflict with each other.
- Authors: Corinna Balkow (Initiative D21 e. V.), Dr. Irina Eckardt (Initiative D21 e. V. / KPMG)
- Published: November 2019 | Translation: March 2020
- Created in the working group Algorithm Monitoring
#11 | Bias in algorithmic systems
By considering different types of biases, better standards can be created that inform the identification and thus the suitable handling of biases. It is important to consider the interests of the people who commission, plan, specify, develop, test and deploy algorithmic systems. In addition, the qualitative expertise of the data providers must be ensured, and social expectations and requirements must be considered.
- Authors: Corinna Balkow (Initiative D21 e. V.), Dr. Irina Eckardt (Initiative D21 e. V. / KPMG)
- Published: June 2019 | Translation: March 2020
- Created in the working group Monitoring of Algorithms
#10 | 9 Leitlinien zum Algorithmen-Monitoring
Die Leitlinien dienen beim Monitoring algorithmischer Systeme als Orientierung, wichtige Fragen nach der Verantwortlichkeit und Kontrolle, der Nichtdiskriminierung, der Transparenz und Nachvollziehbarkeit sowie der Nachhaltigkeit zu berücksichtigen.
- Veröffentlichung: November 2019
- Leitlinien entstanden im Rahmen der UAG Algorithmen-Monitoring
#9 | Verantwortung für algorithmische Systeme
Die Verortung von Verantwortung sowie das vorausschauende Antizipieren von ethisch fraglichem oder rechtlich noch unklarem Handeln ist eine komplizierte Aufgabe. Zudem ist es oftmals die Komplexität der algorithmischen Systeme selbst, welche eine Rückführung von Verantwortung erschwert.
- Autoren: Corinna Balkow (Initiative D21 e. V.), Dr. Irina Eckardt (Initiative D21 e. V. / KPMG)
- Veröffentlichung: November 2019
- Denkimpuls entstand im Rahmen der UAG Algorithmen-Monitoring
#8 | Transparenz und Nachvollziehbarkeit
In der Diskussion um transparente Gestaltung algorithmischer Systeme wird der Fokus oft auf die Bereitstellung von Informationen durch beteiligte Unternehmen gelegt. Dabei wird oft außer Acht gelassen, dass viele Menschen mit diesen Informationen wenig anfangen können. Sie brauchen eigentlich eine nachvollziehbare Aufarbeitung.
- Autoren: Corinna Balkow (Initiative D21 e. V.), Dr. Irina Eckardt (Initiative D21 e. V. / KPMG)
- Veröffentlichung: Juni 2019
- Denkimpuls entstand im Rahmen der UAG Algorithmen-Monitoring
#7 | Bias in algorithmischen Systemen
Bei der wachsenden Anwendung algorithmischer Systeme im Alltag stellen sich deren Einschränkungen als eine der entscheidenden Gerechtigkeitsfragen in der Digitalen Gesellschaft dar. Warum spielen sogenannte Bias in algorithmischen Systemen eine besondere Rolle? Wo kommen sie her, warum sind sie oft „menschengemacht“ und wie sollte damit umgegangen werden, um negative Folgen zu verhindern?
- Autoren: Corinna Balkow (Initiative D21 e. V.), Dr. Irina Eckardt (Initiative D21 e. V. / KPMG)
- Veröffentlichung: März 2019
- Denkimpuls entstand im Rahmen der UAG Algorithmen-Monitoring
#6 | Einsatz von Künstlicher Intelligenz in der Medizin
Der Gesundheitssektor und die moderne Medizin sind durch das Innovationspotenzial der KI und der daraus resultierenden Auswirkungen auf herkömmliche Verfahrens- und Behandlungsweisen in besonderem Maße betroffen. Unter dem Einfluss der Digitalisierung ist die Medizin bereits seit längerem und auch in Zukunft einem andauernden Wandel unterworfen.
- Autoren: Astrid Aupperle, Thomas Langkabel, Niklas Giersberg (Microsoft Deutschland GmbH)
- Veröffentlichung: Februar 2018
#5 | Künstliche Intelligenz – Assistenz oder Konkurrenz in der zukünftigen Verwaltung?
Auch im Kontext der öffentlichen Verwaltung wird künstliche Intelligenz die Arbeits- und Lebenswelt der Zukunft stark beeinflussen. Im Fokus der Diskussion stehen hierbei einerseits die beschränkten Ressourcen der öffentlichen Hand sowie der Wunsch nach Effizienz und kostengünstiger Leistungserbringung. Andererseits ist aber auch festzustellen, dass MitarbeiterInnen in der Verwaltung teils bis zu einem Viertel ihrer Arbeitszeit mit repetitiven Routinetätigkeiten verbringen.
- Autoren: Astrid Aupperle, Thomas Langkabel, Katharina Ramsauer (Microsoft Deutschland GmbH)
- Veröffentlichung: Februar 2018
#4 | Einsatz von Künstlicher Intelligenz in der Wirtschaft
Im Zuge der Digitalisierung sind verschiedene Technologien entstanden, bei vielen von ihnen ist ihr wahres Potenzial noch gar nicht wirklich erforscht worden, doch sie alle haben laut Wissenschaft und IT-Industrie das Zeug dazu, das nächste „Big Thing“ zu sein. Schlagwörter wie Big Data, Blockchain, Cloud oder Künstliche Intelligenz fallen immer wieder, ohne dass viele wissen, was wirklich dahintersteckt. Fakt ist aber, dass sich schon jetzt ganze Branchen durch diese Technologien neu- und weiterentwickelt haben, Start Ups zu millionenschweren Unternehmen wurden und die traditionelle Industrie intensiv versucht, sich diese neuen technologischen Möglichkeiten zu Nutze zu machen.
- Autoren: Astrid Aupperle, Thomas Langkabel, Lukas Klein (Microsoft Deutschland GmbH)
- Veröffentlichung: Februar 2018
#3 | Roboter als persönliche Assistenten für ältere Menschen
Unterstützung durch Assistenzroboter in der Pflege ist keine Zukunftsvision, seit Herbst 2017 ist das Realität. Roboter sind mittlerweile intelligent und programmiert, emotional zu wirken – sie können Menschen kontrollieren und beeinflussen. Die Diskussion über Wert- und Moralvorstellungen muss von der Gesellschaft, von Unternehmen und der Politik jetzt geführt werden.
- Autoren: Martin Vesper (digitalSTROM / Initiative D21 e. V.), Carolin Hoffmann (digitalSTROM)
- Veröffentlichung: November 2017
#2 | Warum wir uns mit Digitaler Ethik beschäftigen sollten – Ein Denkmuster
Dieser Denkimpuls gibt Hilfestellung (1) beim Verständnis, warum Digitalisierung zu gesellschaftlich relevanten ethischen Fragestellungen führt („Das Digitale“ und „Die Ethik“) und (2) bietet ein Denkmuster zur Identifizierung und systematischen Bearbeitung von Zielkonflikten in bestimmten Situationen („Lebensbereichen“). Ziel ist es, EntscheiderInnen bei einer umsichtigen Gestaltung der digitalen Transformation im Einklang mit der Gesellschaft zu unterstützen.
- Autoren: Lena-Sophie Müller (Initiative D21 e. V.), Nicolai Andersen (Initiative D21 e. V. / Deloitte)
- Veröffentlichung: November 2017
#1 | Grundlagen der digitalen Ethik – Eine normative Orientierung in der vernetzten Welt
Digitale Ethik fragt nach dem Guten und Richtigen im Digitalen Wandel. Der ethische Diskurs bietet eine Orientierung, mit dessen Hilfe der Digitalisierungsprozess freiheitsfördernd gestaltbar wird.
- Autor: Dr. Nikolai Horn (Stiftung Datenschutz)
- Veröffentlichung: August 2017