Um einen reibungslosen Ablauf zu gewährleisten, ist es wichtig, dass den Teilnehmenden Zugang zu einem internetfähigen PC ermöglicht wird. Optimalerweise sollte auf diesen Computern bereits die Bewerber*innen-Ranking-Seite geöffnet sein. Im nächsten Schritt erhalten die Teilnehmenden das Inserat einer Ausbildungsstelle als Industriekaufmann/Industriekauffrau des fiktiven Reinigungsunternehmen SamtpfotenRein (SPR), fünf Bewerbungen sowie fünf zugehörige Blätter, die mit den Namen der Personen aus den Bewerbungen beschriftet sind. Diese Dokumente können entweder direkt ausgehändigt werden oder schon auf den Tischen der Teilnehmenden bereitliegen. Zusätzlich sollten Schreibblätter und Stifte für die Teilnehmenden bereitgestellt werden, um Notizen oder Bewertungen zu den Bewerbungen festhalten zu können.
Zum Abschluss des Workshops setzen sich alle Teilnehmenden zusammen und reflektieren gemeinsam über die Erkenntnisse des Tages. Was wurde gelernt? Feedback? Fragen?
Wie kann man eine “faire” KI schaffen?
Erfassung von Daten ohne Vorurteile
Es wird oft gefordert, dass die verwendeten Daten frei von Vorurteilen sein sollten. Allerdings ist dies leichter gesagt als getan, da Daten die Realität abbilden, wie sie ist – einschließlich bestehender gesellschaftlicher Ungleichheiten und Diskriminierungen. Die Herausforderung liegt darin, Daten so zu bereinigen, dass sie gerechtere Ergebnisse ermöglichen, ohne dabei relevante Kontexte oder Zusammenhänge zu verzerren.
Regelmäßige Überprüfung und Aktualisierung der Daten
Daten und Algorithmen sollten kontinuierlich geprüft und aktualisiert werden, um Verzerrungen zu erkennen und zu beheben. Doch selbst regelmäßige Updates können Vorurteile nicht vollständig beseitigen, da auch die Menschen, die die Updates vornehmen, eigene Perspektiven und unbewusste Annahmen einbringen.
KI als Hilfsmittel in der Personalabteilung
Die Nutzung von KI sollte auf unterstützende Funktionen beschränkt sein und darf keine alleinige Entscheidungsgewalt haben. Es ist wichtig, dass Menschen in der Personalabteilung die Ergebnisse der KI kritisch hinterfragen, anstatt sie ungeprüft zu übernehmen. Dennoch bleibt die Gefahr, dass die scheinbare Objektivität der KI dazu führen könnte, dass Vorurteile auf subtilere Weise reproduziert werden.
Schaffung gesetzlicher Grundlagen, beispielsweise durch den „AI Act“ der Europäischen Union
Der AI Act ist ein Gesetz der EU, das KI-Systeme je nach Risiko für Gesundheit, Sicherheit und Grundrechte reguliert und verbietet Anwendungen mit unannehmbarem Risiko. Es fordert Transparenz und strenge Anforderungen für hochriskante Systeme, um Innovation zu fördern und die Bürger zu schützen.
Vorurteile und Diskriminierung sind tief in der Gesellschaft verankert und können nicht allein durch technische Lösungen oder „faire“ KI beseitigt werden. Eine KI spiegelt immer die Welt wider, aus der ihre Daten stammen, und diese Welt ist weder neutral noch gerecht. Die Vorstellung, Daten vollständig „vorurteilsfrei“ zu gestalten, ist daher äußerst komplex und oft unrealistisch.
Um tatsächlich Fortschritte zu erzielen, ist es notwendig, die gesellschaftlichen Strukturen und Denkmuster zu hinterfragen, die Diskriminierung und Ungleichheit hervorbringen. KI kann hierbei nur ein Werkzeug sein, das Teil einer umfassenderen, interdisziplinären und gesellschaftlichen Anstrengung ist. Ohne diese breitere Perspektive besteht die Gefahr, dass technische Lösungen als Ersatz für tiefgreifende gesellschaftliche Veränderungen gesehen werden.
Wie fühlst du dich beim Ausfüllen der Bewerbung, insbesondere beim Gedanken, dass ein Computer und keine Person deine Angaben bewertet? Wie würde sich die fiktive Person fühlen?
Wie war es für dich, das Ranking zu sehen? Gab es Überraschungen oder Erkenntnisse?
Wie hast du dich gefühlt, als du mit dem Vorurteil-Button experimentiert hast?
Welche Strategien verfolgst du bei der Gestaltung deiner Bewerbung, um das Ranking zu beeinflussen?
Reflexionsfragen für die Personaler*innensicht
Wie war es für dich, Bewerbungen aus der Perspektive einer Personaler*in zu betrachten? Gab es besondere Herausforderungen oder Erkenntnisse?
War dir bewusst, dass heutzutage Personaler*innen oft mit KI-Unterstützung Bewerbungen durchsehen und bewerten? Wie findest du das, besonders wenn du dich selbst bewerben würdest?
Glaubst du, dass die erste Bewertung fair und objektiv war? Welche Aspekte würdest du verbessern?
Wie empfandest du die Aufgabe, verborgene Vorurteile zu identifizieren? War es einfach oder herausfordernd?
Wie könnten sich diese Vorurteile in realen Bewerbungsprozessen auswirken?
Allgemeine Reflexionsfragen
Wie hat diese Erfahrung deine Sichtweise auf den Einsatz von KI in Bewerbungsverfahren verändert?
Wie können Firmen sicherstellen, dass ihre KI-Systeme keine unbeabsichtigten Vorurteile verstärken?
Welche Aspekte in der KI-Bewertung sind dir besonders wichtig oder besorgniserregend?
Indem die Teilnehmenden angeregt werden, über diese Fragen nachzudenken, können sie tiefer in die Materie eintauchen und eine fundierte Grundlage für die Diskussion schaffen.
Diskussion der Fairness, dass für das Abitur viele Punkte vergeben werden, obwohl die Stellenanzeige nur einen mittleren Schulabschluss erfordert.
Überlegungen zur Verhältnismäßigkeit: Könnten Bewerber*innen, die in vielen Bereichen gut sind, aber kein Abitur haben, ungerecht benachteiligt werden?
Vorurteil oder Kriterium? Die Punktevergabe für das Abitur könnte als Vorurteil betrachtet werden, da der Schulabschluss übermäßig gewichtet wird, obwohl die Stellenanzeige nur einen mittleren Schulabschluss erfordert. In diesem Fall könnte es unfair sein, Bewerber*innen mit mittlerem Schulabschluss schlechter zu bewerten, auch wenn sie alle anderen Kriterien erfüllen.
2. Zweites Vorurteil – Teamfähigkeit und Teamsportarten:
Erörterung, ob die Ausübung einer Teamsportart automatisch auf Teamfähigkeit schließen lässt.
Diskussion über die Aussagekraft und Fairness solcher Annahmen im Bewerbungsprozess.
Vorurteil oder Kriterium? Wenn Teamsportarten nur einer von mehreren möglichen Nachweisen für Teamfähigkeit sind (was hierbei der Fall ist), können sie als ein Kriterium angesehen werden.
3. Drittes Vorurteil – Alter der Bewerber*innen:
Diskussion über die Fairness der schlechteren Bewertung älterer Bewerber*innen.
Überlegungen zur Lebenserfahrung und Umständen, die zu einem späteren Einstieg in die Ausbildung oder das Studium geführt haben könnten.
Diskussion über die Bedeutung von Chancengleichheit und Förderung für Menschen, die sich später beruflich neu orientieren.
Vorurteil oder Kriterium? Eine schlechtere Bewertung aufgrund des Alters ist ein Vorurteil. Es basiert nicht auf objektiven Kriterien, sondern auf Annahmen über die Leistungsfähigkeit und Anpassungsfähigkeit älterer Personen.
Die Vorurteile stehen jeweils für sich und werden nicht addiert.
Zusatzinformationen bezüglich KI im Datenschutz
In der Europäischen Union sind Unternehmen durch die Allgemeine Datenschutzverordnung (DSGVO) dazu verpflichtet, transparent darüber zu informieren, wie persönliche Daten verarbeitet werden. Dies beinhaltet normalerweise Angaben dazu, welche Daten gesammelt, wie sie verwendet und wie lange sie gespeichert werden. Wenn KI oder automatisierte Entscheidungsfindungssysteme eingesetzt werden, insbesondere wenn diese Entscheidungen rechtliche Wirkungen haben oder die betroffene Person erheblich beeinträchtigen, müssen Unternehmen dies in ihrer Datenschutzerklärung angeben.
“Allerdings sollte aus Transparenzgründen (Art. 5 Abs. 1 Buchstabe a DSGVO) bereits bei der Stellenausschreibung auf den Einsatz von KI und deren Funktionsweise hingewiesen werden. Achtung: Erfolgt eine vollautomatisierte Absage an Bewerber aufgrund einer KI-Anwendung, handelt es sich um eine automatisierte Einzelentscheidung, die gemäß Art. 22 DSGVO verboten ist. Fällt dagegen der Unternehmer aufgrund eines Rankings der Bewerberdaten durch ein System letztlich selbst die Entscheidung, welche Bewerber zum Vorstellungsgespräch eingeladen werden, so ist der Tatbestand des Art. 22 DSGVO nicht erfüllt.“ (Deichmann+Fuchs, kein Datum)
Die Teilnehmenden nehmen als nächstes die Rolle der Personaler*innen ein.
1. Rollenauswahl
Auf der Startseite wählen die Teilnehmenden die Rolle der Personaler*in aus.
2. Zugang zur Ausbildungsanzeige
Nach der Auswahl ihrer Rolle werden die Teilnehmenden zur Ausbildungsanzeige geleitet.
Dort können sie sich erneut mit den Anforderungen und Details der Stellenausschreibung vertraut machen.
Überblick über Bewerbungen und Kriterien:
Die Teilnehmenden gelangen durch die Navigation zum Ranking, wo sie eine Liste von fünf Bewerbungen finden.
Diese kennen sie bereits aus dem manuellen Ranking. Jede Bewerbung wird anhand verschiedener Kriterien bewertet, die auch im Workshop-Teil „Manuelles Ranking“ vorgeschlagen und verwendet wurden.
Die einzelnen Punktzahlen in jedem Kriterium fließen in eine Gesamtbewertung ein, die als „KI-Bewertung“ bezeichnet wird.
3. Identifizierung von Vorurteilen:
Die Teilnehmenden erhalten die Aufgabe, versteckte Vorurteile zu identifizieren, die nicht immer direkt in den aufgeführten Kriterien erkennbar sind.
Durch Drücken des Vorurteils-Buttons können sie verschiedene Vorurteile durchspielen und ihre Auswirkungen auf das Ranking beobachten.
Im unveränderten Zustand ohne Vorurteile zeigt der Button “Kein Vorurteil” an.
Beim ersten Drücken ändert sich der Name des Button in „Erstes Vorurteil“. Lösung: Der Schulabschluss „Abitur“ erhält sehr viele Punkte.
Beim zweiten Drücken ändert sich der Name des Buttons in „Zweites Vorurteil“. Lösung: Ausübung einer Teamsportart führt zu zusätzlichen Punkten für Teamfähigkeit.
Beim dritten Drücken wird der Button zu „Drittes Vorurteil“ geändert. Lösung: Für Bewerber*innen über 20 Jahre gibt es Punktabzüge.
Ein weiteres Drücken führt wieder zum Ausgangszustand „Kein Vorurteil“.
Diese Aktivität soll die Teilnehmenden dazu anregen, über die subtilen und manchmal nicht offensichtlichen Vorurteile nachzudenken, die in Bewertungsprozessen auftreten können – besonders im Kontext von KI-gestützten Bewertungssystemen. Sie fördert ein kritisches Verständnis dafür, wie solche Vorurteile das Ergebnis beeinflussen und die Notwendigkeit, sich ihrer bewusst zu sein.
Die Teilnehmenden fangen in der Rolle der Bewerber*innen an.
Bewerber*innensicht
1. Bewerbungsprozess:
Auf der Startseite wählen die Teilnehmenden die Rolle der Bewerber*in aus.
Nach der Auswahl werden die Teilnehmenden in der Rolle der Bewerber*in direkt zur Ausbildungsanzeige geleitet.
Die Teilnehmer*innen klicken auf „Jetzt bewerben“ und gelangen zum Bewerbungsformular.
2. Eingabe der Bewerber*innen-ID (BID):
Auf einer der Bewerbungen, die sie zuvor erhalten haben, finden die Teilnehmenden die BID „B001“. Diese tragen sie ins Formular ein und klicken auf „BID abschicken“.
Nach dem Abschicken füllt die Webseite automatisch die Bewerberdaten aus (Name, Alter, Bewerbungstext usw.), basierend auf der eingegebenen BID. Die Teilnehmenden müssen lediglich die Dropdownfelder für bestimmte Kriterien, wie Schulabschluss oder Mathematiknote, manuell ausfüllen.
Hinweis: Die Daten der anderen Bewerber*innen können durch Eingabe der BID ebenfalls in die Eingabemaske geladen werden. Allerdings muss vor dem Absenden der Bewerbung die BID umbenannt werden.
3. Ranking und Vorurteil-Button:
Nach dem Absenden der Bewerbung sehen die Teilnehmenden ihren Platz auf der Seite Ranking, beispielsweise: „Sie sind aktuell auf Platz *** von *** Bewerber*innen.“
Mit dem „Vorurteil-Button“ können sie das Ranking verändern und sehen, wie sich dies auf ihre Position auswirkt. Jedes Mal, wenn auf den Button gedrückt wird, wird ein anderes Vorurteil einbezogen und der Button ändert sich. Dabei sehen sie jedoch nur das Ranking ihrer eigenen Bewerbung, nicht das der anderen Bewerbungen. Das identifizieren der Vorurteile geschieht in der Personaler*innensicht.
Zusätzliche Aktivitäten für Bewerber*innen
Experimentieren mit dem Bewerbungsformular:
Durch Drücken des implementierten „Reload“-Buttons wird die Bewerbung gelöscht, sie können den Prozess mit veränderten Daten wiederholen.
Die Teilnehmenden erhalten die Gelegenheit, eine eigene Bewerbung zu kreieren. Sie können dabei eine fiktive Bewerber*innen-ID (BID) wählen, zum Beispiel ‚Test‘, und werden gebeten, die IDs B001 bis B005 nicht zu verwenden. Diese selbst erstellte Bewerbung kann entweder besonders überzeugend oder bewusst mangelhaft gestaltet werden, um unterschiedliche Bewerbungsstile im Ranking zu erkunden. Natürlich sehen sie immer nur, wie sie selbst gerankt wurden. Dabei sollten Teilnehmende keine eigenen persönliche Daten eingeben, um ungewollte Effekte in der Gruppe oder bei den Teilnehmenden selbst zu vermeiden.
Erkundung der Auswirkungen auf das Ranking:
Das Experimentieren mit dem Ranking ermöglicht den Teilnehmer*innen ein tieferes Verständnis dafür, wie bestimmte Bewerbungsdetails das Ergebnis beeinflussen können.
Nachdem die Teilnehmenden ihre individuellen Rankings erstellt haben, wird eine Diskussionsrunde anberaumt. Diese beleuchtet die verschiedenen Herangehensweisen und Perspektiven im Bewertungsprozess. Je nach Gruppengröße können einige Personen gebeten werden, ihr Ranking vorzustellen und zu erläutern, wie und warum sie die Bewerber*innen in dieser Reihenfolge eingeordnet haben.
Es ist wichtig, zu Beginn der Diskussion zu betonen, dass es bei dieser Übung kein ‚richtig‘ oder ‚falsch‘ gibt. Ziel ist es vielmehr, die Vielfalt der Bewertungskriterien und -methoden zu erkunden und zu verstehen, wie subjektive Faktoren die Beurteilung beeinflussen können.
Die Teilnehmenden sollen teilen, ob und welche eigenen Kriterien sie entwickelt haben, falls sie sich nicht an den vorgegebenen Kriterien orientiert haben. Es ist auch interessant zu erfahren, ob sie ein punktebasiertes System verwendet oder eher intuitiv entschieden haben. Zusätzlich können die Teilnehmenden reflektieren, ob sie bestimmte Aspekte der Bewerbungen zu Rückschlüssen auf die Eignung der Person für den Ausbildungsberuf veranlasst haben.
Diese Diskussion bietet eine wertvolle Gelegenheit, verschiedene Blickwinkel zu verstehen und zu sehen, wie unterschiedlich die Kriterien und Bewertungen ausfallen können.
Zusatzaufgabe für Teilnehmende, die früher fertig sind:
Die Teilnehmende wählen eines der Bewerber*innen-Profile aus, das während des manuellen Rankings verwendet wurde.
Sie verfassen stichpunktartig eine fiktive Rückmeldung, die folgende Elemente enthalten sollte:
Positive Aspekte: Was hat die Bewerber*in gut gemacht? Welche Teile der Fähigkeiten oder des Anschreibens waren besonders überzeugend?
Verbesserungsvorschläge: Welche Bereiche der Bewerbung könnten verbessert werden?
Die Teilnehmenden erhalten min. 10 Minuten Zeit, um sich die Ausbildungsanzeige und die fünf Bewerbungen durchzulesen und dann eine eigene Rangfolge zu erstellen. Hierfür nutzen sie die Blätter mit den Namen der Bewerber*innen-Personas, auf denen rechts oben ein Feld vorgesehen ist, um den jeweiligen Rang der Persona einzutragen.
Es wird empfohlen, die Teilnehmenden zu bitten, ihre Entscheidungen zu begründen, also zu erklären, warum sie bestimmte Personen in einer bestimmten Reihenfolge platziert haben. Sie sollen dazu angeregt werden, eigene Kriterien zu entwickeln und zu reflektieren, warum sie bestimmte Personen für besonders geeignet befinden.
Man hat die Wahl, den Teilnehmenden entweder keine spezifischen Kriterien vorzugeben, um ihre Entscheidungsfindung vollständig eigenständig zu gestalten, oder ihnen eine Liste von Kriterien als Leitfaden zu präsentieren. Kriterien können sein:
Schulabschluss
Praktikumserfahrung
Sicherheit im Umgang mit Zahlen
Sprachliche Ausdrucksweise
Interesse an kaufmännischen Vorgängen
Teamfähigkeit
Entfernung zum Arbeitsort
Hobbys
Die Teilnehmenden können entweder die vorgegebenen Kriterien verwenden, eigene Kriterien entwickeln oder eine Kombination aus beidem wählen. Es steht den Teilnehmenden offen, ob sie eine eher grobe, intuitive Bewertung vornehmen möchten, oder ob sie ein detaillierteres Punktesystem anwenden möchten (bspw. eine Skala von 1 bis 10). Diese Flexibilität ermöglicht es allen Teilnehmenden, einen individuellen Ansatz zu wählen, der der persönlichen Sicht- und Beurteilungsweise entspricht.
Diese Vorgehensweise soll die Teilnehmenden dazu anregen, über die verschiedenen Aspekte und Herausforderungen der Bewertung von Bewerber*innen nachzudenken und zu erkennen, wie unterschiedlich die Bewertungskriterien und -methoden sein können. Es bietet auch eine wertvolle Perspektive darauf, wie subjektiv und vielfältig der Bewertungsprozess sein kann, und hilft dabei, ein tieferes Verständnis für die Komplexität von Entscheidungsfindungsprozessen in der realen Arbeitswelt zu entwickeln.
Es bietet sich an, grundlegende Begriffe, wie Vorurteile, Bias, Kriterium, Stereotypen, Diskriminierung und Merkmale von Diskriminierung mit den Teilnehmenden zu besprechen und einzuordnen. Bevor näher über KI im Bewerbungsprozess gesprochen wird, ist es wichtig, die Unterschiede zwischen den objektiven Kriterien und den potenziellen Vorurteilen zu verstehen.
Kriterien:
1. Berufserfahrung und Bildungsniveau:
Die KI bewertet die Berufserfahrung und das Bildungsniveau der Bewerber*innen anhand festgelegter Maßstäbe. Beispielsweise könnte sie die Anzahl der Jahre in einer bestimmten Branche oder das Vorhandensein bestimmter Abschlüsse berücksichtigen.
Beispiel: Ein*e Bewerber*in mit einem Masterabschluss und fünf Jahren Erfahrung in einer relevanten Position wird objektiv höher bewertet als ein*e Bewerber*in mit einem Bachelorabschluss und zwei Jahren Erfahrung.
2. Fähigkeiten und Kompetenzen
Die KI analysiert spezifische Fähigkeiten und Kompetenzen, die in den Bewerbungsunterlagen genannt werden, wie Programmierkenntnisse oder Projektmanagementfähigkeiten.
Beispiel: Ein*e Bewerber*in, der*die im Lebenslauf spezifische Programmiersprachen wie Python und JavaScript erwähnt, wird höher eingestuft als jemand, der keine solche Fähigkeiten angibt.
3. Sprachliche Ausdrucksfähigkeit
Die KI bewertet die sprachliche Ausdrucksfähigkeit anhand von Grammatik, Sprachverständnis und Wortwahl in Anschreiben oder Motivationsschreiben.
Beispiel: Ein*e Bewerber*in, der*die ein fehlerfreies und gut strukturiertes Anschreiben einreicht, erhält eine bessere Bewertung als ein*e Bewerber*in mit vielen grammatikalischen Fehlern.
(Menschliche) Vorurteile:
1. Äußerlichkeiten
Menschliche Rekrutierer*innen könnten Bewerber*innen aufgrund ihres Erscheinungsbildes, ihrer Kleidung oder anderer äußerlicher Merkmale bevorzugen oder benachteiligen.
Beispiel: Ein*e Bewerber*in, der*die bei einem Vorstellungsgespräch in formeller Kleidung erscheint, könnte unbewusst bevorzugt werden gegenüber ein*er Bewerber*in in weniger formeller Kleidung, obwohl dies keinen Einfluss auf die tatsächliche Qualifikation hat.
2. Ähnlichkeits-Vorurteil
Rekrutierer*innen könnten Bewerber*innen bevorzugen, die ihnen selbst ähnlich sind, sei es durch gemeinsame Interessen, Bildungshintergrund oder kulturelle Merkmale.
Beispiel: Ein*e Rekrutierer*in, der*die selbst an derselben Universität wie die Bewerber*innen studiert hat, könnte diese unbewusst bevorzugen, unabhängig von deren tatsächlicher Eignung für die Position.
3. Konfirmationsbias
Informationen könnten so interpretiert werden, dass sie bestehende Überzeugungen der Rekrutierer*innen bestätigen.
Beispiel: Wenn ein*e Rekrutierer*in glaubt, dass ältere Bewerber*innen weniger anpassungsfähig sind, könnte er*sie dazu neigen, Informationen in der Bewerbung eines älteren Kandidat*in negativ zu interpretieren, selbst wenn diese objektiv betrachtet keinen Grund zur Ablehnung darstellen.
Zusammenfassend
Die wesentlichen Unterschiede zwischen den vermeintlich objektiven Kriterien der KI und den potenziellen Vorurteilen menschlicher Rekrutierer*innen liegen in der Art und Weise, wie die Bewertungen vorgenommen werden. Menschliche Rekrutierer*innen sind anfällig für subjektive Eindrücke und unbewusste Vorurteile. KI-Systeme entscheiden anhand festgelegter Kriterien. Diese sind jedoch nicht immer transparent und objektivierbar, da die KI aus menschlichen Daten „lernt“.
