KI-Einstellungstools stereotypisieren Bewerber stärker als Menschen, neue Forschung zeigt

Wichtigste Punkte

• Forscher von Princeton und der Universität Chicago veröffentlichten im Juli 2025 Ergebnisse, die zeigen, dass große Sprachmodelle (LLMs) Stellenkandidaten in kontrollierten Einstellungssimulationen stärker stereotypisieren als Menschen.
• Bei einer Segregationsskala, bei der 2,0 vollständige Gruppen-zu-Job-Beschränkung bedeutet, erreichten menschliche Teilnehmer 0,84. OpenAIs Reasoning-Modell o3 erreichte 1,83.
• Den Modellen zu sagen, dass sie fair sein sollen, hatte kaum Auswirkungen, aber ein Bonusanreiz für diversifizierte Einstellungen reduzierte die verzerrte Verhaltensweise erheblich.
• Modelle zeigten weniger Voreingenommenheit, wenn ihnen relevante persönliche Details über Kandidaten wie Alter und Ausbildung gegeben wurden, fielen aber in Gruppen-Stereotypisierung zurück, wenn ihnen irrelevante Details wie Haarfarbe gegeben wurden.
• Nach Berichten des MIT Technology Review stehen Unternehmen, die KI zur Lebenslauf-Screening einsetzen, vor einem ernsthaften und weitgehend ungelösten Fairness-Problem.

Bevor ein einziger menschlicher Recruiter Ihren Lebenslauf liest, kann ein KI-System bereits entschieden haben, dass Sie nicht die richtige Besetzung sind. Das ist keine entfernte Sorge mehr. Es ist gegenwärtige Realität bei vielen großen Arbeitgebern.

Neue akademische Forschung zeigt, wie sehr das schief gehen kann.

Forscher der Princeton University und der Universität Chicago führten drei große Sprachmodelle (LLMs, die KI-Technologie hinter Chatbots wie ChatGPT, Claude und Gemini) durch ein simuliertes Einstellungsspiel. Jedes Modell spielte die Rolle eines Einstellungsberaters für eine fiktive Stadt. Über 40 Runden wählte das Modell Kandidaten aus vier erfundenen ethnischen Gruppen aus, um 20 Jobs zu besetzen – von Ärzten und Anwälten bis zu Kinderbetreuern und Hausmeistern.

Hier ist der Haken – die Modelle wussten es nicht: Jeder Kandidat hatte eine gleiche Erfolgschance, unabhängig von der Gruppe.

Die Modelle verhielten sich nicht so. Wenn ein früher Kandidat aus einer Gruppe scheiterte, hörte das Modell schnell auf, diese Gruppe für ähnliche Rollen zu berücksichtigen, und begann stattdessen, sie in niedrigere Jobs zu lenken. Ein schlechtes Ergebnis wurde zur Regel für eine ganze Population.

Menschen tun das auch. Aber die Modelle taten es ungefähr 65 Prozent aggressiver als menschliche Teilnehmer in der ursprünglichen Psychologiestudie, von der das Experiment adaptiert wurde.

Sollten Jobsuchende sich sorgen?

Ja, und hier ist das ehrliche Bild. Die Studie war eine Simulation, kein echtes Einstellungssystem. Echte KI-Einstellungstools erhalten keine sofortige Rückmeldung darüber, ob ein neuer Mitarbeiter sich bewährt hat, was die Voreingenommenheit verlangsamt. Aber das Forschungsteam warnt, dass selbst verspätete Rückmeldung – die Art, die Unternehmen Monate nach der Einstellung erhalten – KI-Systeme immer noch dazu bringen könnte, von kleinen Stichproben zu über-verallgemeinern.

Ryan Liu, ein PhD-Student an Princeton und Mitautor der Studie, sagt, dass LLMs explizit trainiert sind, Verallgemeinerungen aus begrenzten Daten zu bilden. Das ist das, was sie für Codierungsprobleme und Logik-Rätsel nützlich macht. In sozialen Situationen wird dieser gleiche Instinkt zur Stereotypisierung.

Neuere, leistungsfähigere Reasoning-Modelle verschärften die Probleme, statt sie zu verbessern. OpenAIs o3 und DeepSeeks R1 (ein konkurrierendes, in China entwickeltes KI-Reasoning-Modell) zeigten beide stärkere Voreingenommenheit als ältere, einfachere Modelle.

Einem Modell zu sagen, es solle „fair sein", änderte fast nichts. Aber es für vielfältige Einstellungsergebnisse zu belohnen, funktionierte. Die Studie stellte auch fest, dass die KI mit echten relevanten persönlichen Informationen über einen Kandidaten versorgt zu werden – etwa Arbeitsgeschichte oder Bildungsniveau – Stereotypisierung reduzierte. Sie mit irrelevanten Details zu versorgen, wie körperliches Erscheinungsbild, trieb sie direkt zurück zur Sortierung von Menschen nach Gruppe.

Die praktische Konsequenz für jeden, der sich jetzt auf Stellen bewirbt: Fragen Sie Arbeitgeber direkt, ob KI Ihre Bewerbung filtert, und wenn ja, welche Bias-Audits sie bei diesem System durchführen. Es ist eine berechtigte Frage, und ein Unternehmen, das faire Einstellungen ernst nimmt, sollte eine klare Antwort bereit haben.