In welche KI-Kategorie fallen Assistenzsysteme für das Personalwesen?

Leser2015 schrieb am 22.02.2024 20:44:

Aus meiner Sicht muss das nicht schlechter sein, denn eine Maschine entscheidet zumindest vorurteilsfrei allein auf der Grundlage der konkreten Vorgaben für das Anforderungsprofil, um das es gehen soll. Bereits mit echten Personendaten aus der Realität vortrainierte KI kann eigentlich nur dann zum Problem werden, wenn sie dadurch, von den Programmierenden unbeabsichtigt, verbreitete Vorstellungen, etwa zu geschlechtsbezogenen Rollenstereotypen im Kontext einer Entscheidung zur Berufswahl, verinnerlichen musste, weil solche Klischees in Gesellschaften nun einmal tatsächlich existieren. Die Herausforderung wird darin bestehen, einem anhand realer Daten lernenden KI-System zugleich soziale Normen vorzugeben.

Die Maschine entscheidet nicht vorurteilsfrei. Kann sie prinzipiell nicht.
Der zu beurteilend Mensch hat verschiedene zu nutzende Eigenschaften.
Verschiedene Eigenschaften lassen sich prinzipiell, so wie Apfel und Birnen,
nicht vergleichen.
Eine vergleichende Bewertung verschiedener Eigenschaften ist somit
prinzipiell von Aussen vorzugeben.
Man wird diese Vorgaben in einem Algorithmus verstecken und so Objektivität
vortäuschen.
Es ist deshalb zu fordern, dass diese Vorgaben explizit und nachprüfbar offen gelegt
werden.

Es ist allerdings auch zu beachten, dass die Angaben der Bewerber nicht
immer, ob aus Unkenntnis oder Bewusst, den erforderlichen Genauigkeitsgrad
besitzen.

MfG Bernays

Fritz (5) schrieb am 22.02.2024 22:20:

Leser2015 schrieb am 22.02.2024 20:44:

Aus meiner Sicht muss das nicht schlechter sein, denn eine Maschine entscheidet zumindest vorurteilsfrei allein auf der Grundlage der konkreten Vorgaben für das Anforderungsprofil, um das es gehen soll. Bereits mit echten Personendaten aus der Realität vortrainierte KI kann eigentlich nur dann zum Problem werden, wenn sie dadurch, von den Programmierenden unbeabsichtigt, verbreitete Vorstellungen, etwa zu geschlechtsbezogenen Rollenstereotypen im Kontext einer Entscheidung zur Berufswahl, verinnerlichen musste, weil solche Klischees in Gesellschaften nun einmal tatsächlich existieren. Die Herausforderung wird darin bestehen, einem anhand realer Daten lernenden KI-System zugleich soziale Normen vorzugeben.

Die Maschine entscheidet nicht vorurteilsfrei. Kann sie prinzipiell nicht.
Der zu beurteilend Mensch hat verschiedene zu nutzende Eigenschaften.
Verschiedene Eigenschaften lassen sich prinzipiell, so wie Apfel und Birnen,
nicht vergleichen.
Eine vergleichende Bewertung verschiedener Eigenschaften ist somit
prinzipiell von Aussen vorzugeben.
Man wird diese Vorgaben in einem Algorithmus verstecken und so Objektivität
vortäuschen.
Es ist deshalb zu fordern, dass diese Vorgaben explizit und nachprüfbar offen gelegt
werden.

Es ist allerdings auch zu beachten, dass die Angaben der Bewerber nicht
immer, ob aus Unkenntnis oder Bewusst, den erforderlichen Genauigkeitsgrad
besitzen.

MfG Bernays

Unklar, es geht eben darum, was genau man unter einem Vorurteil versteht und wie sich hier Mensch und Maschine womöglich ganz prinzipiell unterscheiden.

Alle Menschen haben Vorurteile, die es überhaupt erst ermöglichen, unter Zeitdruck zu einer Entscheidung zu kommen, die sich natürlich im Nachhinein, also nach einem umfangreichen Beurteilungsprozess auch einmal als komplett falsch herausstellen kann; wie etwa gelegentliche Freisprüche in Gerichtsverfahren belegen, die schließlich vorkommen, obwohl zur Eröffnung eines solchen Verfahrens sogar mehrere Fachleute eine Verurteilung für überwiegend wahrscheinlich halten müssen, denn sonst sollte es gar nicht erst stattfinden.

Und es gibt wohl immer dort, wo Menschen miteinander interagieren, eine reine Sachebene, bei Bewerbungen beispielsweise den Nachweis der geforderten fachlichen Qualifikation, und eine zwischenmenschliche, bei der es darum geht, ob jemand Neues ziemlich gut oder eher schlecht in ein schon bestehendes Team passt. Bei Bewerbungsunterlagen wie vor Gericht sollen zudem formale Kriterien eine große Rolle spielen, also ob jemand die Angelegenheit mit dem nötigen Ernst angeht, was für ein grundsätzliches Verständnis der jeweiligen Spielregeln spricht, aber leider nicht zuletzt auch die körperliche Attraktivität eines Menschen, die für eine Maschine stets ein Rätsel bleiben wird, sofern man sie nicht entsprechend programmiert.

Wie die Einschätzung einer einzelnen Person so hat natürlich auch die vergleichende Bewertung mehrerer Personen im Rahmen eines Bewerbungsvorgangs mit Blick auf ein konkretes Anforderungsprofil immer diese verschiedenen Ebenen, die allerdings nicht immer in vollem Umfang nach außen kommuniziert werden. Jedenfalls sehe ich nicht, warum hier eine Künstliche Intelligenz ungerechter entscheiden sollte als entsprechend ausgebildete Menschen, eher im Gegenteil, zumal man durch den neuen EU AI Act vielleicht sogar mehr Auskunftsrechte erhalten könnte als bisher gegenüber menschlichen Personalverantwortlichen.

Bei meinem ersten Kommentar ging es mir eigentlich besonders um eine andere Frage, nämlich wie KI-Technologien in die dort genannten vier verschiedenen Risikoklassen eingeordnet werden, denn jedes Assistenzsystem im Personalwesen könnte definitionsgemäß bereits ein »System mit unannehmbarem Risiko« darstellen, sofern die Zeitebene für eine Beurteilung von Menschen aufgrund deren Verhaltens oder biometrischer Daten keinerlei Rolle spielte, denn genau solche Daten fallen bei Bewerbungen neben denen zur rein fachlichen Qualifikation zwangsläufig immer an. Solche Fragen kamen wohl auch in der Diskussion rund um KI-Systeme zur Gesichtserkennung auf, denn unter Sicherheitsaspekten könnte es dort vielleicht doch Ausnahmen geben, etwa wenn es um Kontrolle oder Durchsetzung eines Hausrechts geht, zum Beispiel in Bereichen der Gastronomie.

Ich hatte mich bewusst auf einen einfachen Teil ihres thematisch umfangreichen
Beitrages bezogen.
In Ihrer Antwort beschreiben sie sehr schön den Umfang des Bewertungsproblemes.
Die Objektivierung, im Sinne einer kalkülmässigen Festschreibung, ist ein
Herausforderung und mit sehr viel Arbeit verbunden. Es müssen
eindeutige Festlegungen erfolgen. Deren Sinnhaftigkeit zeigt die konkrete Anwendung
des Kalküles auf. Was in einem Wechselspiel Verbesserungen nach sich zieht.
Und, wie sie bereits betonten, die Bewertung ist reproduzierbar objektiviert.
In der Summe: Die Maschine ist ein schönes Hilfsmittel, die Substanz kommt
von aussen.

Schönen Abend noch.

MfG Bernays