07. Juni 2024

Streichen Sie "Wie sind Sie auf uns aufmerksam geworden?" im Bewerbungsformular
Ob „Wie sind Sie auf uns aufmerksam geworden?“, „Wie haben Sie von uns erfahren?“ oder welche Formulierung auch immer: Diese
weiterlesen27. Mai 2025
Lesezeit: 12 Min. HRRecruiting
Stellen Sie sich folgendes Szenario vor: Sie bewerben sich über 100 Mal – und werden jedes einzelne Mal abgelehnt. Nicht von Menschen, sondern von einer KI. Willkommen in Derek Mobleys Albtraum und Workdays schlimmsten Tagen seit der Firmengründung.
Der Fall Derek Mobley vs. Workday Inc. ist mehr als nur eine weitere Diskriminierungsklage. Es ist der Moment, in dem die HR-Branche schmerzhaft lernt: Wer Algorithmen entscheiden lässt, könnte bald selbst vor Gericht stehen.
Zwar läuft das Verfahren bereits seit Februar 2023 (mit einer entscheidenden überarbeiteten Klage im Februar 2024), aber weitere Ereignisse haben es 2024/2025 in die Schlagzeilen katapultiert: die Genehmigung als Sammelklage im Mai 2025 und der EU AI Act. Und das ironische Tüpfelchen auf dem I? Während Workday sich gegen KI-Diskriminierungsvorwürfe wehrt, feuerte das Unternehmen im Februar 2025 kurzerhand 1.750 Mitarbeiter – um sie durch KI zu ersetzen.
Willkommen in der Welt, in der Ihr Recruiting-Tool plötzlich Ihr größtes Haftungsrisiko wird.
Derek Mobley ist kein gewöhnlicher Kläger. Der über 40-jährige afroamerikanische IT-Experte wurde zum unfreiwilligen Helden einer Revolution. Seine Mission? Beweisen, dass Workdays KI-System systematisch ältere Bewerber diskriminiert.
Die in der Klageschrift aufgeführten Zahlen sprechen eine deutliche Sprache:
Über 100 Bewerbungen, 100 % Ablehnungsquote.
Manche Absagen kamen so schnell, dass sie geradezu beleidigend wirkten – wie die Ablehnung um 1:50 Uhr nachts, nur 55 Minuten nach der Bewerbung um 12:55 Uhr. Kein Mensch hatte seine Unterlagen je gesehen. Nur die KI. Und die sagte: “Nein.”
Mobley ist damit nicht allein. Vier weitere Kläger, alle über 40, alle mit ähnlichen Geschichten:
Das Muster ist so klar wie erschreckend: 2:40 Uhr morgens, 23:00 Uhr abends, Sonntagmorgen – Workdays KI arbeitet rund um die Uhr daran, Menschen über 40 auszusortieren.
Hier wird es interessant für jeden, der in der Recruiting-Branche arbeitet: Workday ist nicht irgendein kleiner Anbieter. Die Zahlen, die in der Klageschrift genannt werden, sind schwindelerregend:
Die beunruhigenden Fakten aus der Gerichtsakte:
Das bedeutet: Wenn Workdays KI Sie ablehnt, sind über ein Fünftel aller Jobs in den USA für Sie praktisch unerreichbar. Workday ist nicht nur irgendein Software-Anbieter – es ist quasi der unsichtbare Gatekeeper des amerikanischen Arbeitsmarktes geworden. Auch deutsche Unternehmen setzen zunehmend auf den amerikanischen Riesen.
Mit 9,6 % Marktanteil im HCM-Bereich und sogar 33,8 % im Core HR-Segment ist das Unternehmen der unangefochtene Platzhirsch. Diese Marktdominanz macht jeden Bias in Workdays Algorithmen zu einem systemischen Problem für Millionen von Bewerbern.
Workdays System ist ein Meisterwerk der Automatisierung, das diese gigantischen Zahlen erst möglich macht:
Das Problem? Diese historischen Daten sind oft voller Bias. Wenn früher hauptsächlich jüngere Kandidaten eingestellt wurden, “lernt” die KI: Jung = gut, alt = schlecht. Bei 266 Millionen gescreenten Bewerbungen pro Jahr wird aus einem kleinen Bias ein massives gesellschaftliches Problem.
Der Fall Workday ist beileibe kein Einzelfall – er ist das jüngste Kapitel einer erschreckenden Serie von KI-Diskriminierungsskandalen, die zeigt: Die Tech-Branche lernt nicht aus ihren Fehlern.
Bereits 2018 sorgte Amazon für Schlagzeilen, als Reuters aufdeckte , dass der E-Commerce-Gigant heimlich ein KI-Recruiting-Tool entwickelt hatte – und es wieder einstellen musste, weil es systematisch Frauen diskriminierte .
HireVue, ein weiterer Marktführer für KI-Recruiting, geriet wegen systematischer Diskriminierung in die Schlagzeilen:
Obwohl KI als Heilsbringer die Effizienz steigern und Diskriminierung verringern soll, zeigt auch eine Studie der University of Washington das klare Gegenteil. Die Forscher variierten 120 Vornamen – aufgeteilt nach Hautfarbe (weiß/schwarz) und Geschlecht – in echten Lebensläufen. Drei KI-Systeme von Mistral AI, Salesforce und Contextual AI bewerteten diese Bewerbungen anhand von über 500 realen Stellenausschreibungen aus neun Berufsfeldern – von HR über Ingenieurswesen bis zum Lehramt. Das Ergebnis: über 3 Millionen Vergleiche mit ernüchternden Erkenntnissen:
Auch diese Studie betont einen Mangel an Regulierung und unabhängiger Überprüfung von KI-Systemen, was ganz offensichtlich zu unerkannter Diskriminierung führen kann.
Sieben Jahre nach Amazon macht Workday exakt dieselben Fehler:
Das Workday-Beispiel und die anderen Beispiele zeigen: KI-Bias ist kein Betriebsunfall, sondern ein systemisches Problem. Die Tech-Branche hat aus den Fällen von Amazon, HireVue und vielen anderen nichts gelernt.
Der Workday-Fall zeigt perfekt, wie aus einer “normalen” Einzelklage ein medialer Sturm werden kann:
Die neuesten Gerichtsdokumente enthüllen eine verstörende Tatsache: Demnach hat Workday seine KI-Systeme nie systematisch auf Diskriminierung getestet.
Im Rahmen des Beweisverfahrens forderten Mobleys Anwälte von Workday die Herausgabe von “Gruppenmitgliedschaftsdaten für die Evaluationsdaten… die zur Bewertung von Bias und demografischen Disparitäten für die fraglichen Modelle verwendet wurden”.
Workday represents that ‘no such data exists.’
Workdays Antwort: Solche Daten existieren nicht.
Was das bedeutet: Ein Unternehmen, das 266 Millionen Bewerbungen pro Jahr verarbeitet, über 22 % des US-Arbeitsmarktes kontrolliert und allein im betreffenden Zeitraum laut eigenen Aussagen 1,1 Milliarden Absagen verschickt hat, hat offenbar nie überprüft, ob seine Algorithmen diskriminieren.
Das Gericht genehmigte die Sammelklage für alle Personen über 40 Jahre, die zwischen September 2020 und heute über Workdays Plattform abgelehnt wurden. Ein nicht zu leugnendes Problem, das das Ende von Workday bedeuten könnte. Denn Workday selbst spekuliert, dass die Sammelklage “hunderte Millionen Menschen” umfassen könnte. Das Gericht kontert trocken:
“Wenn die Sammelklage hunderte Millionen Menschen umfasst, dann deshalb, weil Workday plausibel beschuldigt wird, gegen eine breite Masse von Bewerbern diskriminiert zu haben. Angeblich weit verbreitete Diskriminierung ist kein Grund, eine Benachrichtigung zu verweigern.”
Spannend an dieser Stelle ist die aktuell entstandene Diskussion, wie man denn nun möglicherweise die Bewerber erreichen möchte, die von der Diskriminierung betroffen sind. Das geht vom direkten Anschreiben der Betroffenen bis hin zu Social Media-Posts, was dem Ganzen noch mehr Aufmerksamkeit zukommen lässt, als ohnehin schon.
In Fall Mobley vs. Workday erkannte das Gericht die sogenannte “Agent Theory” an: Workday handelt nicht nur als neutraler Tool-Anbieter, sondern als „Agent“ der Arbeitgeber. Wenn die KI diskriminiert, haftet Workday direkt.
Das ist ein Paradigmenwechsel. Bisher konnten sich KI-Anbieter hinter dem Argument verstecken: “Wir liefern nur die Software, die Entscheidungen treffen andere.” Diese Zeiten sind vorbei.
Das Gericht stellte zudem eindeutig fest, dass Workdays KI-System eine “unified policy” (einheitliche Politik) darstellt, die alle Bewerber gleichermaßen betrifft. Entscheidend ist dabei die Feststellung, dass diese einheitliche diskriminierende Wirkung unabhängig davon besteht, “in welchem Grad bestimmte Arbeitgeber Gewicht auf diese Empfehlungen legen”.
Die Kernaussage des Gerichts ist: Der diskriminierende Algorithmus bleibt derselbe, egal, wie stark einzelne Arbeitgeber die KI-Empfehlungen gewichten oder nutzen. Die Diskriminierung liegt im System selbst, nicht in der individuellen Anwendung durch die Arbeitgeber.
Workday kann sich nicht mehr hinter dem Argument verstecken, dass jeder Kunde das System anders nutzt und Bewerbern es frei steht, ob sie sich über das Tool bewerben oder nicht.
Aus einer unscheinbaren Einzelklage, die man schnell unter den Tisch kehren wollte, sind nun Tür und Tor für eine Massenklage mit potenziell hunderten Millionen Betroffenen geöffnet.
Auffällig ist, was momentan nicht passiert: Bisher hat kein großes Unternehmen öffentlich auf die Workday-Klage reagiert. Das große Schweigen der Workday-Kunden ist fast so laut wie die Klage selbst.
Warum die Kunden schweigen, könnte mehrere Gründe haben, z. B. rechtliche Vorsicht, vertragliche Bindungen, Abhängigkeit – oder das Prinzip Hoffnung: Workday wird’s schon richten, Bewerber werden stillhalten und wir sitzen das Problem so lange aus.
Auch bei Workday herrscht die Ruhe vor dem Sturm. Denn ein Blick in den Newsroom von Workday oder den Blog, also dort wo die Entlassungen angekündigt wurden – offenbart: Kein einziges Wort zur Diskriminierungsklage. Diese „Kommunikationsstrategie” mag 2023, als der Fall noch eine unbekannte Einzelklage war, vielleicht noch funktioniert haben. Doch spätestens seit der Genehmigung der Sammelklage im Mai 2025 ist Schweigen keine Option mehr. Während Medien weltweit über die Klage berichten, tut Workday so, als existiere das Problem nicht. Dieses beredte Schweigen spricht zwar Bände, allerdings nicht in der Sprache, die Kunden hören wollen.
Lange bevor Mobley vor Gericht zog, warnte Investigativjournalistin Hilke Schellmann in ihrem unbedingt lesenswerten Buch “The Algorithm” vor genau diesen Problemen. Ihre Undercover-Tests waren bezeichnend. So bewertete sie bspw. ein Tool als “hochqualifiziert”, obwohl sie Unsinn auf Deutsch sprach.
Schellmanns schockierendste Entdeckung? Ein Lebenslauf-Scanner, der Bewertungen anpasste, sobald er “African American” im CV entdeckte. Systematische Diskriminierung, automatisiert und skaliert.
“We also see that ATS (Applicant Tracking) systems now integrate AI into their processes, but we don’t really know for sure—at least not in the US — which functions companies turn on or off. I have not heard of a country that requires companies to publicly disclose or inform a government agency if these AI tools are active. We simply don’t have that transparency.”
Der Workday-Fall ist ein Beleg dafür.
Während Workday sich also seit einiger Zeit gegen die Vorwürfe wehrt, Menschen durch KI zu diskriminieren, kündigte CEO Carl Eschenbach im Februar 2025 an, 1.750 Mitarbeiter zu entlassen – um “Innovationsinvestitionen wie KI zu priorisieren”.
Die Botschaft ist klar: Menschen raus, KI rein. Für die Mitarbeiter von Workday definitiv ihr Worst Day bei diesem Software-Giganten. Gleichzeitig behauptet Eschenbach: “Es geht darum, Menschen zu unterstützen“. Es entbehrt nicht einer gewissen Ironie, dass Workday seine eigenen KI-Tools für neue Einstellungen nutzt. Und es ist auch nicht unwahrscheinlich, dass so die besten Kandidaten durch genau die Algorithmen aussortiert werden, die gerade in der Kritik stehen.
Der Workday-Fall markiert das Ende der Ära, in der KI-Systeme unbeobachtet über Karrieren entscheiden konnten. Bei 266 Millionen gescreenten Bewerbungen pro Jahr kann von “unbeobachtet” wahrlich keine Rede mehr sein.
Die neue Realität:
Derek Mobleys Kampf gegen Workday ist mehr als nur eine Klage: Er ist ein Weckruf für die gesamte Branche und das weltweite Recruiting. Die Zahlen und Fakten machen deutlich, dass es sich nicht um Einzelfälle, sondern um systemische Probleme handelt.
266 Millionen gescreente Bewerbungen, 24 Millionen Jobangebote, 22 % Marktanteil – das sind keine Statistiken, das sind Schicksale. Millionen von Menschen, deren Schicksal von Algorithmen entschieden wird, die um 2:40 Uhr morgens an einem Sonntag Menschen über 40 aussortieren.
Das große Schweigen der Workday-Kunden zeigt: Die Branche weiß, dass etwas nicht stimmt. Aber Schweigen ist keine Strategie. Während die einen noch hoffen, dass das Problem von selbst verschwindet, können die anderen mit proaktivem Handeln punkten.
Die Geschichten von Amazon (2018), HireVue (2019–2025) und jetzt Workday zeigen ein erschreckendes Muster: Sieben Jahre nach dem ersten großen KI-Bias-Skandal macht die Branche immer noch dieselben Fehler. KI-Diskriminierung ist kein Betriebsunfall, sondern ein systemisches Problem.
Besonders erschreckend: Workday hat nie getestet, ob seine KI diskriminiert. Ein Unternehmen, das über ein Fünftel des US-Arbeitsmarktes kontrolliert, hat nie überprüft, ob seine Algorithmen fair sind. Das ist nicht nur fahrlässig – das ist grob fahrlässig.
Hilke Schellmanns Warnung in „The Algorithm” hat sich als prophetisch erwiesen. Sie dokumentierte systematische Probleme, die nun vor Gericht landen. Ihre Botschaft war klar: Wer KI einsetzt, muss Verantwortung übernehmen.
Workdays “Worst Days” könnten Ihre “Best Days” werden – wenn Sie jetzt handeln. Denn während andere noch diskutieren, können Sie mit fairen, transparenten Recruiting-Prozessen punkten.
Die Zukunft gehört nicht der KI, die um 2:40 Uhr morgens diskriminiert, sondern der KI, die fair entscheidet. Der Workday-Fall zeigt uns den Weg: Technologie muss dem Menschen dienen, nicht umgekehrt.
Die Frage ist nicht mehr, ob KI-Diskriminierung vor Gericht landet, sondern wann Sie selbst das nächste Mal betroffen sind. Workdays „Worst Days“ sind Ihre letzte Warnung.
07. Juni 2024
Ob „Wie sind Sie auf uns aufmerksam geworden?“, „Wie haben Sie von uns erfahren?“ oder welche Formulierung auch immer: Diese
weiterlesen15. Dezember 2022
Was viele bisher nicht für möglich hielten oder als Dystopie einschätzten, ist für Amazons Recruiter scheinbar bittere Realität geworden: Der
weiterlesen
Norman