14. Dezember 2023: Is this fAIr? Der Einsatz von KI im Human Resource Management

Berlin, virtuell. KI-basierte Tools werden zunehmend in der Rekrutierung und in der Karriereentwicklung genutzt, um den Prozess effizienter und objektiver zu gestalten. Einsatzmöglichkeiten sind z. B. KI-basiertes Screening von Lebensläufen, asynchrone Video-Interviews oder auch Chatbots. Diese Tools bringen allerdings nicht nur Vorteile mit sich, weshalb es umso wichtiger ist, auch die Reaktionen von Mitarbeitenden und Bewerbenden zu berücksichtigen.

Beim dritten Event der virtuellen Dialogreihe „Digital Responsibility“ im Rahmen der Digital Future Challenge am 14. Dezember haben Speaker*innen und Teilnehmende daher den Fokus auf die Reaktionen beim Einsatz von KI im Human Ressource Management (HRM) gerichtet. Unter der Moderation von Jan Quaing (Deutsche Bundesumweltstiftung) hielt Dr. Alina Köchling einen Impulsvortrag über die neuesten Entwicklungen und ging dabei auf aktuelle Forschungsergebnisse zu den Reaktionen der Mitarbeitenden und Bewerbenden ein. Auch die ethische Perspektive spielte bei dem Treffen eine Rolle: Roberta Barone berichtete als Data Ethics Projektmanagerin bei Stepstone Deutschland aus der digitalethischen Praxis in einem Unternehmen.

Wie werden KI-Anwendungen im HRM eingesetzt?

Dr. Alina Köchling bringt eine mehrjährige Forschungsexpertise auf dem Gebiet der KI im HRM mit. Sie berichtete, dass mittlerweile bis zu 86 Prozent der Arbeitgeber*innen technologiegestützte Videosoftware für ihre Interviews verwenden würden. Generell steige die Zahl der Unternehmen, die KI-Tools für die Unterstützung ihres Rekrutierungs- und Selektionsprozess nutzen. Häufige Verwendungszwecke für die KI-Anwendungen seien:

• das algorithmische Prüfen von Lebensläufen
• Telefon- und Chatinterviews
• (asynchrone) Video-Interviews (bspw. über HireVue)

Die Algorithmen seien in der Lage Mimik, Gestik, Sprache und prosodische Informationen (z. B. Tonhöhe, Intonation, Pausen) aus dem Videomaterial zu extrahieren und zu evaluieren. Als Vorteile seien eine höhere Produktivität, die Minimierung von Risiken, eine höhere Objektivität, Ersparnisse an Kosten und Zeit sowie ein Anstieg der Effizienz. Gerade der Punkt der Risikominimierung sei dabei ein gern gesehener Vorteil seitens der Recruiter*innen: Die KI könne so eingesetzt werden, dass sie die Mitarbeitenden im Entscheidungsprozess unterstützt und somit einen Teil der Verantwortung der Entscheidung und möglicher Folgen übernimmt. Dennoch sei es wichtig diese Vorteile auch kritisch zu betrachten:

KI-Anwendungen im Rekrutierungsprozess und in der Karriereentwicklung

Eine sehr beliebte Anwendung seien die asynchronen Video-Interviews. Allein im Jahr 2021 seien 7,5 Millionen Bewerbungsinterviews mithilfe von „HireVue“ durchgeführt worden. Diese Anwendung nutzt KI-Systeme, um zu entscheiden, welche Bewerbenden am besten für den Job geeignet sind. Anhand von Fragen und der Analyse von bis zu 500.000 Datenpunkten bei Gesichtsbewegungen, Wortwahl und Stimme werden den HR-Mitarbeitenden im Anschluss die Entscheidungen der Anwendung präsentiert. Eine ebenfalls häufige Anwendung sei das Chat-Interview. Dabei analysiere ein Chatbot die Bewerbenden anhand ihrer Wortwahl, der Ausdrucksweise und der Syntax. Der Chatbot nutze dafür offene Fragen zur Selbsteinschätzung über Erfahrung und Situationseinschätzung. Anhand der gesammelten Datenpunkte könne er dann beispielsweise eine Analyse über ein mögliches Abwanderungsrisiko erstellen; damit soll das Risiko für „Job Hopping“ verringert werden können.

Die negativen Aspekte der KI-Nutzung

Obwohl sich der Einsatz KI-gestützter Anwendungen im HRM zunehmend immer größerer Beliebtheit erfreue, sei das Feedback seitens der Bewerbenden größtenteils negativ, so Köchling. Die meisten bevorzugen das „traditionelle“ Bewerbungsgespräch gegenüber dem asynchronen Video-Interview. Der Einsatz von KI wirke sich negativ auf die wahrgenommene Möglichkeit, zu performen, und die „perceived creepiness“ aus. Darüber hinaus führen KI-gestützte Bewerbungsgespräche im Vergleich zu herkömmlichen Interviews zu mehr Bedenken hinsichtlich des Datenschutzes.

Konsequenzen für Organisationen und Unternehmen

Organisationen sollten also mögliche negative Reaktionen von Bewerbenden und Mitarbeitenden bei der Implementierung von KI-basierten Tools berücksichtigen. Es werde ein Bewusstsein dafür benötigt, dass der Einsatz von KI die wahrgenommene Attraktivität des Unternehmens und die Fluktuationsabsicht negativ beeinflussen kann. KI-Anwendungen sollten am besten als Entscheidungshilfe und nicht als alleinige Entscheidungsgrundlage eingesetzt werden. Um der negativen Wahrnehmung entgegenzuwirken, solle die Implementierung also gründlich geplant und überprüft sowie in Zusammenarbeit mit den Mitarbeitenden umgesetzt werden. Manager*innen sollten den Prozess transparenter machen, z. B. indem sie genau erklären, wie die KI Entscheidungen unterstützt oder trifft. Auch die Vorteile der KI-Anwendung sollten von den Manager*innen ausführlich erläutert werden, so Köchling.

Der Aufstieg der KI-Ethik

Mit den Fortschritten im Bereich KI in den letzten Jahren und dem steigenden Interesse daran erfreut sich das Themengebiet der KI-Ethik immer größerer Relevanz. Über diesen „Aufstieg der KI-Ethik“ sprach Roberta Barone von Stepstone in ihrem Impuls. Diese sei generell als ein Beispiel für angewandte Ethik zu verstehen, die sich auf jene normativen Fragen fokussiere, die durch die Konzeption, Entwicklung, Umsetzung und Nutzung von KI aufgeworfen werden. Laut Barone gehe mit dem Höhepunkt des Interesses an KI und KI-Ethik die Notwendigkeit von Regulationen beim Einsatz von KI einher:

Der AI Act der Europäischen Union soll diese Regulationen in die Tat umsetzen. Anwendungen von KI werden darin drei Risikokategorien zugeordnet:

• Inakzeptables Risiko: Solche Anwendungen und Systeme (z. B. staatlich betriebenes Social Scoring, wie es in China eingesetzt wird), sind verboten.
• Hohes Risiko: Solche Anwendungen (z. B. ein Tool zum Scannen von Lebensläufen, das eine Rangfolge von Bewerber*innen erstellt) unterliegen besonderen rechtlichen Anforderungen.
• Nicht ausdrücklich verboten oder als risikoreich eingestuft: Solche Anwendungen bleiben weitgehend unreguliert.

Verantwortungsvolle KI-Prinzipien

Die verantwortungsvolle Entwicklung und Nutzung von KI müsse aber darüber hinaus gewisse Prinzipien erfüllen, um ethisch korrekt zu sein, so Barone:

• Unabhängigkeit: KI-Systeme sollten auf den Menschen ausgerichtete Gestaltungsprinzipien verfolgen und ihm sinnvolle Wahlmöglichkeiten lassen. So würden beispielsweise selbstfahrende Autos ein Problem darstellen, die dem Passagier verbieten, automatisierte Entscheidungen zu überschreiben.
• Fairness: KI-Systeme müssen eine gleichmäßige und gerechte Kosten-Nutzen-Rechnung gewährleisten und sicherstellen, dass keine Vorurteile, Diskriminierung oder Stigmatisierung durch die wirken. Ein Negativbeispiel wäre hier eine KI, die bei einigen Hautfarben nicht so gut differenzieren kann, da sie nur mit einer bestimmten Hautfarbe trainiert wurde.
• Schadensprävention: KI-Systeme sollten keine Schäden verursachen oder sich anderweitig nachteilig auf den Menschen auswirken. So wäre beispielsweise ein Chatbot schädlich, der bei den Nutzenden Zuneigung erzeugt und sie von ihm abhängig macht.
• Erklärbarkeit: Die Prozesse hinter KI-Systemen müssen transparent sein, ihre Fähigkeiten und ihr Zweck offen kommuniziert werden und Entscheidungen nachvollziehbar sein. Ein KI-Kreditbewertungssystem, das seine Entscheidungen nicht erklären kann, würde gegen den Grundsatz der Erklärbarkeit verstoßen.

Verantwortungsvolle KI im Einsatz

Stepstone sei sich als Unternehmen der Auswirkungen seiner Technologien bewusst und bemühe sich, mit KI eine positive Wirkung zu entfalten. Beispielsweise versuche man aktiv, gegen bestimmte Biases zu arbeiten. Als KI-Anwendungen in der Vergangenheit vorurteilsbehaftete Karrierevorschlägen für Frauen gezeigt haben, habe man KI-Anwendungen so trainiert, dass Jobangebote auf der Basis von Jobtiteln und Standort und nicht nach Geschlechtervorurteilen präsentiert werden. Dies könne allgemein durch konsequentes Testen der Datenbanken und Ergebnisse verbessert werden – nicht nur für Geschlecht, sondern eine Vielzahl weiterer Variablen. Man brauche ein Framework, dass vor dem Hintergrund von KI-Ethik und -Regulierungen entsteht:

Der faire Einsatz von KI-Anwendungen im HRM ist ein hochkomplexes und spannendes Thema, das die Anwesenden auch weiterhin beschäftigen wird, das zeigt sich in der anschließenden Diskussion. Mit steigendem Interesse am Einsatz von KI-gestützten Anwendungen in der Rekrutierung und in der Karriereentwicklung wird auch die Diskussion um den fairen Einsatz von KI immer relevanter werden. Wichtig ist, dass sowohl aus gesellschaftlicher als auch aus unternehmerischer Perspektive die ethischen Grundlagen sowie die Prinzipien für einen verantwortungsvollen Einsatz von KI bedacht werden. Gleichzeitig sollten von der Regierungsseite die rechtlichen Grundlagen für die Regulierungen des KI-Einsatzes geschaffen werden – sowohl auf nationaler als auch internationaler Ebene, mithilfe von Gesetzen wie dem AI Act.

Weitere Termine der virtuellen Dialogreihe

• KI for Future? Ökologische Nachhaltigkeitsbewertung von Künstlicher Intelligenz (Nachbericht)
• Ein Jahr ChatGPT – Welche Auswirkung hat die Anwendung auf die digitale Gesellschaft? (Nachbericht)