Das Datenqualitätsframework aus KITQAR soll anhand von verschiedenen Anwendungsszenarien validiert und verfeinert werden. Wir arbeiten gemeinsam mit einem breit aufgestellten Stakeholderkreis an verschiedenen Szenarien, um den Praxisbezug und den Transfer von Ergebnissen sicher zu stellen.
Hier veröffentlichen wir die verschiedenen Szenarien und aktualisieren sie im Laufe des Projektes regelmäßig.
Jana Kusturica bewirbt sich nach zwei Jahren Elternzeit über ein Online-Bewerbungstool auf der Webseite eines Unternehmens auf eine Stellenanzeige als kaufmännische Assistentin. Die Stelle passt aus ihrer Sicht sehr gut zu ihren Erfahrungen und Qualifikationen.
Jana erhält nach 2 Minuten eine Absage mit der Begründung, dass andere Kandidat*innen noch besser als sie geeignet waren. Andere Gründe für die Ablehnung erhält sie nicht. Durch die sehr schnelle Reaktionszeit der Personaler und die generische Begründung hat Jana den Verdacht, dass die Vorauswahl der eingehenden Bewerbungen automatisiert durch eine KI erfolgt ist. Als Jana per E-Mail bei den Personalern nachfragt, bestätigen diese, dass ein automatisiertes System auf Basis von KI zum Einsatz kam.
Nun fragt sich Jana, auf Basis welcher Variablen diese KI ihr Profil als nicht geeignet für die Stelle eingestuft, bzw. nicht einmal eine menschliche Begutachtung der Bewerbungsunterlagen oder eine Einladung zu einem Auswahlgespräch empfohlen hat. Auf erneute Rückfrage bei den Personalern erhält sie die Antwort, dass ihr leider keine Auskunft für die Gründe der Ablehnung gegeben werden können, das System namens Personoptikum sei aber „bereits erfolgreich eingesetzt wurde“ und „objektiv entscheide“.
Jana recherchiert nun nach der Software und findet die Webseite des Unternehmens, welches Personoptikum vertreibt. Der Werbetext für die Software lässt verlauten, dass „die KI mit unzähligen Lebensläufen von Stellenbewerbern in den USA“ trainiert worden sei und nun „stetig mit neuen Daten verbessert würde“. Die Software erspare den Personalern 70% der normalen Bearbeitungszeit für die geeignete Besetzung einer Stelle, unabhängig vom Einsatzgebiet.
Jana schreibt nun der Firma eine E-Mail und bittet sie, ihr eine Einschätzung zu geben, warum die Software sie trotz ihrer Qualifikationen als nicht geeignet für die Stelle eingestuft hat. Sie fragt explizit, ob das schlechte Rating mit ihrem serbischen Namen oder ihrer Auszeit nach der Geburt ihres Kindes zusammenhängen könnte. Sie erhält zur Antwort, dass die Software nur ein Gesamtrating errechne und einzelne Entscheidungen „komplex“ und deswegen nicht so einfach auf einen Faktor (wie die Elternzeit) heruntergebrochen werden kann. Außerdem sei die Software „blind für sensible Variablen wie Name, Geschlecht und Herkunft“. Jana fragt, ob sie den automatisierten Auswahlprozess nachstellen könnte, in dem sie ihren Lebenslauf selbst einmal in die Software lädt. Sie erhält zur Antwort, dass sie dafür die Software kaufen müsste (was sie sich nicht leisten kann).
Jana wird auch in unzähligen anderen Bewerbungsprozessen abgelehnt. Dabei handelt es sich um sehr unterschiedliche Stellenbeschreibungen und Qualifikationsanforderungen. Die Software, welche sie so kategorisch ablehnt, ist aber zunehmend dieselbe – Personoptikon.