Denkimpuls zu Transparenz und Nachvollziehbarkeit Algorithmischer Systeme veröffentlicht
Innerhalb der UAG „Algorithmen-Monitoring“ ist ein neuer Denkimpuls entstanden. Im Fokus steht, in welchem Verhältnis Transparenz und Nachvollziehbarkeit für unterschiedliche Arten der Nutzung stehen.
Algorithmische Systeme werden längst in unzähligen Bereichen angewendet und erleichtern dabei eine Vielzahl der alltäglichen Aufgaben. Sie begleiten Menschen – oft unbemerkt – von der Aufnahme an einer bestimmten Schule oder Universität, über Bewerbungsverfahren, mögliche Beförderungen bis zur Beurteilung der Kreditwürdigkeit. Wir alle nutzen algorithmische Systeme bewusst oder unbewusst. Es zeigt sich, dass die Menschen zwischen Misstrauen gegenüber algorithmischen Systemen, die bspw. Empfehlungen anzeigen, auf deren Basis Entscheidungen getroffen werden, und blindem Vertrauen in die Technik schwanken. Hauptsächlich liegt dies wohl am Unwissen der Nutzenden. Die wenigsten Menschen verstehen die Kriterien, nach denen die Systeme ihre Berechnungen durchführen.
Algorithmische Systeme sind keine eigenständigen Subjekte, die von sich aus handeln. Je häufiger sie als entscheidendes Element wahrgenommen werden und je weniger allgemein verständlich sie durch ihre Komplexität werden, desto stärker wächst Misstrauen und das Verlangen nach Kontrolle. Um das Vertrauen in algorithmische Systeme zu stärken, wird daher gefordert, sie transparenter zu gestalten und dadurch nachvollziehbarer zu machen. Denn gerade hier bietet sich die Chance, Entscheidungen, die bisher nach „menschlichem Ermessen“ getroffen wurden, auf eine transparente, gerechte und verbindliche Basis zu stellen. Darin liegt großes Potential.
Ziel dieses Denkimpulses ist es, zu untersuchen, in welchem Verhältnis Transparenz und Nachvollziehbarkeit für unterschiedliche Arten der Nutzung, sowie verschiedene Gruppen stehen. Dabei wurden relevante Fragestellungen identifiziert und sich mit diesen aus sozioökonomischer, technologischer und ethisch-rechtlicher Sicht auseinandergesetzt.
