Verantwortungsvolle Nutzung von KI-gestützten HR-Tools

Künstliche Intelligenz (KI) spielt in den HR-Abteilungen vieler Unternehmen bereits in mehreren Bereichen eine Rolle. Eine Umfrage unter mehr als 700 Unternehmen ergab, dass ungefähr 30 % KI im Recruiting nutzen oder die Verwendung von KI planen. Im Augenblick setzen bereits 14 % der befragten Unternehmen KI-gestützte Tools zur Optimierung ihrer Stellenanzeigen ein.

Heutzutage können KI-Tools als Unterstützung bei der Prüfung von Lebensläufen, beim Kandidaten-Scoring und beim Talent-Sourcing für offene Stellen eingesetzt werden. Weitere Nutzungsmöglichkeiten für diese Technologie sind das Verfassen von Stellenbeschreibungen, das Erkennen von Aufstiegschancen für Mitarbeiter*innen und sogar das Senden automatisierter Nachrichten an Bewerber*innen. 

„Für alle erdenklichen Szenarien wird mittlerweile ein KI-Tool erstellt“, sagt Trey Causey, Head of Responsible AI und Senior Director of Data Science bei Indeed. 

Die Komplexität der Tools ist jedoch unterschiedlich – genau wie das Augenmerk der Entwickler*innen auf damit verbundene Risiken. Unternehmen sollten sich der verschiedenen Risiken bei der Verwendung von KI bewusst sein und Strategien entwickeln, wie sie diese Technologie verantwortungsvoll nutzen können. 

KI hat das Potenzial, menschlichen Bias besonders im Bereich des Recruitings zu reduzieren, so bessere Chancen für Arbeitnehmer*innen zu schaffen und Routineaufgaben zu optimieren. Dadurch können HR-Expert*innen sich auf die menschlichen Aspekte ihres Jobs konzentrieren. Allerdings kann KI auch universelle Bias fördern oder verstärken und somit dazu führen, dass Geld und Zeit verschwendet werden. 

Hier finden Sie vier Schritte, mit denen Unternehmen Risiken erkennen und sicherstellen können, dass sie KI gerecht, ethisch und effektiv nutzen.

Inline Motion Graphic Here

1. Bewerten Sie die Risiken und Vorteile für Ihr Unternehmen

Bringen Sie zuerst in Erfahrung, ob KI-Tools Ihrem Unternehmen im Bereich HR nützlich sein können. KI-Systeme können Prozesse verbessern, beispielsweise lassen sich deutlich mehr Kandidat*innen finden und bewerten, als es manuell möglich wäre. 

„Da kein System perfekt ist, kann es dabei auch zu mehr Fehlern kommen“, so Jey Kumarasamy von Luminos.Law, einer auf KI spezialisierten Anwaltskanzlei. „Selbst mit einer Genauigkeit von 90 % – und das ist großzügig – gibt es bei der Verarbeitung von Tausenden Bewerbungen eine große Anzahl, die falsch bewertet werden.“ 

Wenn KI-gestützte HR-Tools bewertet werden sollen, muss das Grundverständnis vorhanden sein, dass diese Tools nicht perfekt sind. „Bias lassen sich nicht vermeiden, daher müssen Unternehmen sich mögliche Gegenmaßnahmen überlegen oder akzeptieren, dass sie ein Risiko darstellen“, erklärt Trey Causey. 

Während einige Unternehmen dieses Risiko zugunsten einer höheren Produktivität eingehen, sind die potenziellen Fehler für andere nicht mit ihren Werten vereinbar oder führen angesichts strengerer Regelungen zu einer zu hohen Komplexität. 

Wenn Sie KI nutzen möchten, wählen Sie Ihre Tools mit Bedacht aus. Eine KI, die Transkripte von Vorstellungsgesprächen bereitstellt, ist beispielsweise in der Regel wenig risikobehaftet, auch wenn das Ergebnis schlecht sein kann, falls die Spracheingabe von Nichtmuttersprachler*innen stammt. Dagegen ist eine KI, die Bewerber*innen basierend auf ihren Videogesprächen bewertet, „wahrscheinlich der problematischste Bereich, da hier viele Risiken bestehen und dies auf viele Weise schiefgehen kann“, sagt Jey Kumarasamy.

Letztendlich sollte KI von Menschen ausgeführte Prozesse verbessern und nicht ersetzen. Stellen Sie vor der Einführung von KI-Tools sicher, dass Ihr HR-Team ausreichend besetzt ist, sodass jeder Schritt aller Prozesse, die mit KI automatisiert werden, von einem Menschen überprüft werden kann. Überlassen Sie Menschen die wichtigen HR-Angelegenheiten, z. B. finale Recruitingentscheidungen, Beförderungen und Unterstützung für Mitarbeiter*innen. HR-Expert*innen haben viel mehr Zeit für diese wichtigen Aufgaben und sind flexibler, wenn KI die Routineaufgaben übernimmt.

2. Überprüfen Sie Drittanbieter von KI-gestützten Tools

Wenn Sie entschieden haben, welche Art von KI-Tools für die Bedürfnisse Ihres Unternehmens am besten geeignet ist, können Sie potenzielle Anbieter mit spezifischen Fragen kontaktieren, wie beispielsweise: 

• Wie wird das System überprüft? Wann wurde es zuletzt getestet und welche Kennzahlen wurden verwendet?
• Wurde von interner oder externer Seite getestet?
• Wie wird Bias reduziert? Wenn der Anbieter sagt, dass der Bias minimal ist, erfragen Sie, was das in diesem Fall bedeutet und wie dieser Bias gemessen wird. 
• Können Sie die Kennzahlen für den Test als potenzieller Kunde einsehen?
• Wird der Anbieter nach der Bereitstellung die Schulung Ihrer Mitarbeiter*innen unterstützen, damit diese das System konfigurieren und warten können, wenn die Leistung des Modells nachlässt?
• Hält sich der Anbieter an aktuelle und neue Vorschriften? „Ich habe letztes Jahr mit einem Anbieter gesprochen und gefragt, ob er sich an eine bestimmte Vorschrift hält – und er hatte davon noch nie zuvor gehört“, berichtet Trey Causey. Das war nicht nur ein Warnsignal, sondern „es hatte auch eindeutig und direkt Auswirkungen auf das Produkt.“ 
• Unterstützt der Anbieter Sie bei von Ihnen durchgeführten KI-Audits? „Wenn Sie ein KI-Audit durchführen, muss der Anbieter eventuell dabei helfen. Das ist normalerweise nicht die beste Zeit, um herauszufinden, dass er nicht mit Ihnen arbeiten oder Ihnen die Dokumentation oder die Ergebnisse zukommen lassen möchte“, sagt Jey Kumarasamy.

3. Identifizieren und überwachen Sie Bias

KI-Algorithmen sind nur so frei von Bias wie die Daten, mit denen sie trainiert werden. Arbeitgeber haben keinen Einfluss darauf, wie Algorithmen entwickelt werden, doch es gibt einige Regeln, die bei der Implementierung befolgt werden sollten. Der Ethikbeirat HR Tech hat sogar seine eigenen Richtlinien für den verantwortungsvollen Einsatz von KI in der Personalarbeit veröffentlicht.

Außerdem können Unternehmen die sogenannte „kontrafaktische Analyse“ nutzen, um herauszufinden, wie ein KI-Modell mit verschiedenen Eingaben umgeht. Wenn eine KI zum Beispiel Lebensläufe von Kandidat*innen für eine Stelle bewertet, tauschen Sie den Namen oder die Schule aus. Stuft die KI die Kandidat*innen dann anders ein? 

„Diese Methode wird seit den 50er-Jahren angewendet. Soziolog*innen senden Lebensläufe an Arbeitgeber und ändern dabei nur einen Aspekt ab, um herauszufinden, wie unterschiedlich die Rückrufrate ausfällt“, so Trey Causey. „Wir können dasselbe mit KI tun und eine Menge vorhandene sozialwissenschaftliche Erkenntnisse für die Bewertung von Bias bei KI-Modellen heranziehen.“

Überwachen Sie bei der Implementierung stets die KI-Systeme, um diskriminierende Muster zu identifizieren und zu korrigieren, wenn sie erkennbar werden. Halten Sie sich des Weiteren über Entwicklungen bei der Forschung in den Bereichen Data Science und KI auf dem Laufenden. „Wenn Menschen Entscheidungen treffen, ist es schwer zu wissen, ob sie voreingenommen sind“, sagt Trey Causey. „Sie können nicht in ihren Kopf schauen, um herauszufinden, warum sie Kandidat*innen akzeptieren oder ablehnen – bei einem Modell ist das jedoch möglich.“

Es gibt keine Standardtests, um Bias von HR-Tools zu bewerten. Arbeitgeber sollten jedoch mindestens verstehen, wie KI im Unternehmen genutzt wird. Dazu könnte beispielsweise gehören, ein Inventar aller verwendeten KI-Modelle zu pflegen. In den Unternehmen sollten die Anwendungsfälle für die Tools dokumentiert werden sowie die Anbieter, die sie bereitgestellt haben. 

Im besten Fall kommen bei einem Audit verschiedene Abteilungen, darunter interne Teams für rechtliche Angelegenheiten sowie Data Scientists, mit externen Rechtsanwält*innen oder dritten Auditor*innen zusammen. 

4. Bleiben Sie den Entwicklungen in der Gesetzgebung voraus

Automatisierte HR-Tools bergen für Unternehmen nicht nur potenzielle Risiken für ihren Ruf sowie finanzielle Risiken, sondern auch rechtliche, da in Reaktion auf die Ausbreitung von KI am Arbeitsplatz schnell neue Gesetze verabschiedet werden. 

In der Europäischen Union sollen mit dem vorgeschlagenen Gesetz über künstliche Intelligenz KI-Anwendungen basierend auf ihrem Potenzial, diskriminierend oder nicht sicher zu sein, Risikostufen zugeordnet werden. Diese sollen dann den auf der jeweiligen Stufe basierenden Vorschriften unterliegen. Gemäß dem aktuellen Vorschlag werden KI-Anwendungen, mit denen Lebensläufe bewertet werden, als „Hochrisiko“-Anwendungen eingestuft, für die strenge Compliance-Anforderungen eingehalten werden müssten.

„Es gibt diesen Irrglauben, dass ein Gesetz KI-Systeme nicht betrifft, wenn sie nicht explizit genannt werden“, so Jey Kumarasamy. „Das stimmt nicht, besonders dann nicht, wenn es um die Arbeit geht.“ Das Unternehmen haftet in diesem Zusammenhang für jegliche Bias, egal ob das Ergebnis auf Menschen oder ein KI-System zurückzuführen ist.

Audits sind ein guter Ausgangspunkt, doch eine ausführlichere Strategie für die KI-Governance ist die beste Methode zur Vorbereitung auf neue regulatorische Vorgaben und um sicherzustellen, dass Ihre KI effektiv und gerecht arbeitet. 

Governance-Systeme dokumentieren die Prinzipien des Unternehmens im Hinblick auf KI und schaffen Prozesse für die fortlaufende Bewertung von Tools, damit Probleme erkannt und behoben werden können. Indeed hat beispielsweise eigene Prinzipien für die ethische und nutzbringende Verwendung von KI im Unternehmen entwickelt und öffentlich gemacht. Außerdem wurde ein abteilungsübergreifendes AI Ethics-Team ins Leben gerufen, das Tools, Systeme und Prozesse entwickelt, um dafür zu sorgen, dass diese Technologie verantwortungsvoll eingesetzt wird. 

Sogar mit Schutzmaßnahmen sind die neuen KI-Tools komplex und nicht frei von Fehlern. 

Bemühungen um eine verantwortungsvolle Nutzung sind jedoch die Grundlage für die Entwicklung besserer Prozesse. KI kann Menschen helfen, effizienter und weniger voreingenommen zu sein – allerdings nur, wenn diese sie entsprechend überwachen. Es ist zum Beispiel möglich, kritisch über die Parameter nachzudenken, mit denen ein KI-Algorithmus die Qualifikation für eine Stelle bewertet. So wird die Beurteilung von Kandidat*innen erheblich verbessert. 

„Wie finden wir wirklich heraus, was es bedeutet, auf der Arbeit Erfolg zu haben?“, fragt Trey Causey. Beim kompetenzbasierten Recruiting kann es weniger Bias geben, als wenn sich auf die Namen von Schulen oder Unternehmen verlassen wird. Hier kann KI auf eine Weise trainiert werden, die bei Menschen eventuell nicht möglich ist. „Durch KI besteht ein großes Potenzial für Chancengleichheit unter Jobsuchenden“, so Causey.