Diskussion über die identifizierten Vorurteile

1. Erstes Vorurteil – Schulabschluss und Abitur:

• Diskussion der Fairness, dass für das Abitur viele Punkte vergeben werden, obwohl die Stellenanzeige nur einen mittleren Schulabschluss erfordert.
• Überlegungen zur Verhältnismäßigkeit: Könnten Bewerber*innen, die in vielen Bereichen gut sind, aber kein Abitur haben, ungerecht benachteiligt werden?
• Vorurteil oder Kriterium? Die Punktevergabe für das Abitur könnte als Vorurteil betrachtet werden, da der Schulabschluss übermäßig gewichtet wird, obwohl die Stellenanzeige nur einen mittleren Schulabschluss erfordert. In diesem Fall könnte es unfair sein, Bewerber*innen mit mittlerem Schulabschluss schlechter zu bewerten, auch wenn sie alle anderen Kriterien erfüllen.

2. Zweites Vorurteil – Teamfähigkeit und Teamsportarten:

• Erörterung, ob die Ausübung einer Teamsportart automatisch auf Teamfähigkeit schließen lässt.
• Diskussion über die Aussagekraft und Fairness solcher Annahmen im Bewerbungsprozess.
• Vorurteil oder Kriterium? Wenn Teamsportarten nur einer von mehreren möglichen Nachweisen für Teamfähigkeit sind (was hierbei der Fall ist), können sie als ein Kriterium angesehen werden.

3. Drittes Vorurteil – Alter der Bewerber*innen:

• Diskussion über die Fairness der schlechteren Bewertung älterer Bewerber*innen.
• Überlegungen zur Lebenserfahrung und Umständen, die zu einem späteren Einstieg in die Ausbildung oder das Studium geführt haben könnten.
• Diskussion über die Bedeutung von Chancengleichheit und Förderung für Menschen, die sich später beruflich neu orientieren.
• Vorurteil oder Kriterium? Eine schlechtere Bewertung aufgrund des Alters ist ein Vorurteil. Es basiert nicht auf objektiven Kriterien, sondern auf Annahmen über die Leistungsfähigkeit und Anpassungsfähigkeit älterer Personen.

Die Vorurteile stehen jeweils für sich und werden nicht addiert.

Zusatzinformationen bezüglich KI im Datenschutz

In der Europäischen Union sind Unternehmen durch die Allgemeine Datenschutzverordnung (DSGVO) dazu verpflichtet, transparent darüber zu informieren, wie persönliche Daten verarbeitet werden. Dies beinhaltet normalerweise Angaben dazu, welche Daten gesammelt, wie sie verwendet und wie lange sie gespeichert werden. Wenn KI oder automatisierte Entscheidungsfindungssysteme eingesetzt werden, insbesondere wenn diese Entscheidungen rechtliche Wirkungen haben oder die betroffene Person erheblich beeinträchtigen, müssen Unternehmen dies in ihrer Datenschutzerklärung angeben.

“Allerdings sollte aus Transparenzgründen (Art. 5 Abs. 1 Buchstabe a DSGVO) bereits bei der Stellenausschreibung auf den Einsatz von KI und deren Funktionsweise hingewiesen werden. Achtung: Erfolgt eine vollautomatisierte Absage an Bewerber aufgrund einer KI-Anwendung, handelt es sich um eine automatisierte Einzelentscheidung, die gemäß Art. 22 DSGVO verboten ist. Fällt dagegen der Unternehmer aufgrund eines Rankings der Bewerberdaten durch ein System letztlich selbst die Entscheidung, welche Bewerber zum Vorstellungsgespräch eingeladen werden, so ist der Tatbestand des Art. 22 DSGVO nicht erfüllt.“ (Deichmann+Fuchs, kein Datum)

Die Teilnehmenden nehmen als nächstes die Rolle der Personaler*innen ein.

1. Rollenauswahl

Auf der Startseite wählen die Teilnehmenden die Rolle der Personaler*in aus.

2. Zugang zur Ausbildungsanzeige

• Nach der Auswahl ihrer Rolle werden die Teilnehmenden zur Ausbildungsanzeige geleitet.
• Dort können sie sich erneut mit den Anforderungen und Details der Stellenausschreibung vertraut machen.

Überblick über Bewerbungen und Kriterien:

Die Teilnehmenden gelangen durch die Navigation zum Ranking, wo sie eine Liste von fünf Bewerbungen finden.

• Diese kennen sie bereits aus dem manuellen Ranking. Jede Bewerbung wird anhand verschiedener Kriterien bewertet, die auch im Workshop-Teil „Manuelles Ranking“ vorgeschlagen und verwendet wurden.
• Die einzelnen Punktzahlen in jedem Kriterium fließen in eine Gesamtbewertung ein, die als „KI-Bewertung“ bezeichnet wird.

3. Identifizierung von Vorurteilen:

• Die Teilnehmenden erhalten die Aufgabe, versteckte Vorurteile zu identifizieren, die nicht immer direkt in den aufgeführten Kriterien erkennbar sind.
• Durch Drücken des Vorurteils-Buttons können sie verschiedene Vorurteile durchspielen und ihre Auswirkungen auf das Ranking beobachten.
• Im unveränderten Zustand ohne Vorurteile zeigt der Button “Kein Vorurteil” an.

• Beim ersten Drücken ändert sich der Name des Button in „Erstes Vorurteil“. Lösung: Der Schulabschluss „Abitur“ erhält sehr viele Punkte.
• Beim zweiten Drücken ändert sich der Name des Buttons in „Zweites Vorurteil“. Lösung: Ausübung einer Teamsportart führt zu zusätzlichen Punkten für Teamfähigkeit.
• Beim dritten Drücken wird der Button zu „Drittes Vorurteil“ geändert. Lösung: Für Bewerber*innen über 20 Jahre gibt es Punktabzüge.
• Ein weiteres Drücken führt wieder zum Ausgangszustand „Kein Vorurteil“.

Diese Aktivität soll die Teilnehmenden dazu anregen, über die subtilen und manchmal nicht offensichtlichen Vorurteile nachzudenken, die in Bewertungsprozessen auftreten können – besonders im Kontext von KI-gestützten Bewertungssystemen. Sie fördert ein kritisches Verständnis dafür, wie solche Vorurteile das Ergebnis beeinflussen und die Notwendigkeit, sich ihrer bewusst zu sein.

Die Teilnehmenden fangen in der Rolle der Bewerber*innen an.

Bewerber*innensicht

1. Bewerbungsprozess:

Auf der Startseite wählen die Teilnehmenden die Rolle der Bewerber*in aus.

Nach der Auswahl werden die Teilnehmenden in der Rolle der Bewerber*in direkt zur Ausbildungsanzeige geleitet.

Die Teilnehmer*innen klicken auf „Jetzt bewerben“ und gelangen zum Bewerbungsformular.

 

2. Eingabe der Bewerber*innen-ID (BID):

Auf einer der Bewerbungen, die sie zuvor erhalten haben, finden die Teilnehmenden die BID „B001“. Diese tragen sie ins Formular ein und klicken auf „BID abschicken“.

Nach dem Abschicken füllt die Webseite automatisch die Bewerberdaten aus (Name, Alter, Bewerbungstext usw.), basierend auf der eingegebenen BID. Die Teilnehmenden müssen lediglich die Dropdownfelder für bestimmte Kriterien, wie Schulabschluss oder Mathematiknote, manuell ausfüllen.

Hinweis: Die Daten der anderen Bewerber*innen können durch Eingabe der BID ebenfalls in die Eingabemaske geladen werden. Allerdings muss vor dem Absenden der Bewerbung die BID umbenannt werden.

3. Ranking und Vorurteil-Button:

Nach dem Absenden der Bewerbung sehen die Teilnehmenden ihren Platz auf der Seite Ranking, beispielsweise: „Sie sind aktuell auf Platz *** von *** Bewerber*innen.“

Mit dem „Vorurteil-Button“ können sie das Ranking verändern und sehen, wie sich dies auf ihre Position auswirkt. Jedes Mal, wenn auf den Button gedrückt wird, wird ein anderes Vorurteil einbezogen und der Button ändert sich. Dabei sehen sie jedoch nur das Ranking ihrer eigenen Bewerbung, nicht das der anderen Bewerbungen. Das identifizieren der Vorurteile geschieht in der Personaler*innensicht.

Zusätzliche Aktivitäten für Bewerber*innen

1. Experimentieren mit dem Bewerbungsformular:
   • Durch Drücken des implementierten „Reload“-Buttons wird die Bewerbung gelöscht, sie können den Prozess mit veränderten Daten wiederholen.
   • Die Teilnehmenden erhalten die Gelegenheit, eine eigene Bewerbung zu kreieren. Sie können dabei eine fiktive Bewerber*innen-ID (BID) wählen, zum Beispiel ‚Test‘, und werden gebeten, die IDs B001 bis B005 nicht zu verwenden. Diese selbst erstellte Bewerbung kann entweder besonders überzeugend oder bewusst mangelhaft gestaltet werden, um unterschiedliche Bewerbungsstile im Ranking zu erkunden. Natürlich sehen sie immer nur, wie sie selbst gerankt wurden. Dabei sollten Teilnehmende keine eigenen persönliche Daten eingeben, um ungewollte Effekte in der Gruppe oder bei den Teilnehmenden selbst zu vermeiden.
2. Erkundung der Auswirkungen auf das Ranking:
   • Das Experimentieren mit dem Ranking ermöglicht den Teilnehmer*innen ein tieferes Verständnis dafür, wie bestimmte Bewerbungsdetails das Ergebnis beeinflussen können.