Ethics & Wine: Potenziale und Grenzen des datengestützten Handelns
Bei der Entscheidungsfindung spielen Daten und Kennzahlen eine große Rolle. Sie ermöglichen eine faktenbasierte Abwägung und können so zu einer sinnvollen Problemlösung beitragen. Dabei können sich aber ethische Probleme ergeben können, welche die AG Ethik beim virtuellen Wein- und Diskutierabend „Ethics & Wine“ am 29. April 2020 diskutierte.
Berlin/virtuell. Daten und Kennzahlen ermöglichen eine faktenbasierte Abwägung und können so zu einer sinnvollen Problemlösung beitragen. Datengestützte Entscheidungen gelingen jedoch nur, wenn das Quantifizierbare gemessen und das nicht Quantifizierbare als nicht messbar behandelt wird. Kann man beispielsweise Emotionen quantifizieren? Kann man Liebe messen oder den Wert von Leben gegeneinander abwägen? Und welche Rolle dürfen Zahlen bei der Entscheidung über das Leben spielen? Diese Fragen diskutierte die AG Ethik beim erstmals stattfindenden virtuellen Wein- und Diskutierabend „Ethics & Wine“ am 29. April 2020
Wann führen datengestützte Entscheidungen zu ethischen Problemen?
Zu dieser Problematik stellte Dr. Nikolai Horn (Philosoph/Capgemini) Thesen und Argumente aus seinem in Kürze erscheinenden Denkimpuls Potenziale und Grenzen des datengestützten Handelns. Was sagen Kennzahlen und Daten (nicht) aus? vor. In seinem Impulsvortrag verdeutlichte er anhand der Unterscheidung zwischen „komplexen“ und „komplizierten“ Problemen, wann datengestützte Entscheidungen grundsätzlich zu ethischen Problematiken führen können. Derartige ethische Probleme treten laut Horn auf, wenn
- Komplexität als Kompliziertheit behandelt werde,
- die Messung das zu Messende verändere oder
- die Messergebnisse zum Selbstzweck avancieren.
Horn plädierte dafür, das Bewusstsein für die relative Aussagekraft bestimmter Indikatoren zu schärfen. Zudem gelte es, Transparenz über die Wahl und Begründung der verwendeten Indikatoren herzustellen und somit eine Kultur des pragmatischen Hinterfragens von Kennzahlen zu etablieren. Unter diesen Bedingungen könne man das Potenzial von Daten und Kennzahlen nutzen, müsse sich aber auch deren Grenzen bewusst sein.
Der Einfluss von Daten und Kennzahlen auf menschliche Entscheidungen
In einer Replik auf Nikolai Horns Impuls erläuterte Dr. Sarah Becker (Institute for Digital Transformation in Healthcare), wie Daten auch bei komplexen Problemen eine Entscheidungshilfe darstellen. Dies verdeutlichte sie anhand des praktischen Beispiels einer Zyklus-App, welche anhand unterschiedlicher Daten die Fruchtbarkeit einer Frau berechnet. Die Fruchtbarkeit werde durch verschiedenste Faktoren beeinflusst und sei deswegen komplex zu bestimmen. Trotz der Komplexität treffe die App Aussagen auf die Fruchtbarkeit und beeinflusse letzten Endes das Verhalten einer Frau, was gewollt sei.
Dies warf die Frage nach dem Einfluss von Daten und Kennzahlen auf menschliche Entscheidungen auf. Die Teilnehmer*innen von Ethics & Wine diskutierten Dilemma-Situationen, insbesondere im medizinischen Kontext: Ein hochaktuelles Dilemma in der Corona-Krise, wo bereits ÄrztInnen bei Kapazitätsengpässen anhand von Kennzahlen über die Behandlung von PatientInnen entscheiden mussten. Dies führte zur Diskussion, inwiefern Zahlen die Entscheidung über Leben beeinflussen oder beeinflussen dürfen und wie objektiv derartige Kennzahlen überhaupt sind. Wenn ein Individuum, zum Beispiel eine Ärztin, ihre Entscheidungen ausnahmslos über Empfehlungen von Daten trifft, bedeutet das eine Entlassung aus der individuellen Verantwortung? Wer trägt in einem solchen Fall die Verantwortung für die aus der Entscheidung resultierenden Ergebnisse? Und was, wenn sich jemand bewusst gegen die Zahlenempfehlungen entscheidet? Wie hoch ist der Rechtfertigungsdruck auf die EntscheiderInnen in einer solchen Situation?
Eine in der Diskussion zentrale These war, dass Menschen die finale Entscheidung über Probleme treffen und die „letzte Meile“ damit analog bleiben soll. Zudem sind Transparenz und Nachvollziehbarkeit wichtig. Nicht nur, um Manipulation zu verhindern, sondern auch, um das Modell zu kennen, mit dem etwas erkannt werden soll. Letztendlich geht es weniger um Transparenz und Nachvollziehbarkeit, sondern vor allem um Vertrauen und Vertrauensanker bei der Anwendung von algorithmischen Systemen.
Philosophieren und Wein trinken im interdisziplinären Kreis
Bei „Ethics & Wine“ betrachteten 17 heterogene Diskutant*innen die Frage nach Potenzialen und Grenzen von datengestütztem Handeln aus unterschiedlichen Perspektiven. So kam aus einer philosophischen Perspektive der Gedanke auf, dass wir genau so, wie wir mit digitalen Systemen, beziehungsweise Quantifizierungen eine Komplexitätsreduktion, also eine Vereinfachung, betreiben, es auch alltäglich analog mit der Sprache tun. Ob digital oder sprachlich, wir konstruieren ständig die Welt. Aus der juristischen Perspektive wurde angemerkt, dass man Kennzahlen durchaus als Hilfe oder Stütze für eine Entscheidung verwenden kann, sich jedoch darauf nicht als ausschließliche Entscheidungsgrundlage verlassen sollte. Es wäre außerdem wichtig, für die relative Aussagefähigkeit der Kennzahlen zu sensibilisieren, um einem „blinden Vertrauen“ oder einer “ Auslagerung der Arbeit und Verantwortung“ in und auf KI-Systeme vorzubeugen.
