Diskussion des KI-basierten Rankings

Diskussion über die identifizierten Vorurteile

1. Erstes Vorurteil – Schulabschluss und Abitur:

• Diskussion der Fairness, dass für das Abitur viele Punkte vergeben werden, obwohl die Stellenanzeige nur einen mittleren Schulabschluss erfordert.
• Überlegungen zur Verhältnismäßigkeit: Könnten Bewerber*innen, die in vielen Bereichen gut sind, aber kein Abitur haben, ungerecht benachteiligt werden?
• Vorurteil oder Kriterium? Die Punktevergabe für das Abitur könnte als Vorurteil betrachtet werden, da der Schulabschluss übermäßig gewichtet wird, obwohl die Stellenanzeige nur einen mittleren Schulabschluss erfordert. In diesem Fall könnte es unfair sein, Bewerber*innen mit mittlerem Schulabschluss schlechter zu bewerten, auch wenn sie alle anderen Kriterien erfüllen.

2. Zweites Vorurteil – Teamfähigkeit und Teamsportarten:

• Erörterung, ob die Ausübung einer Teamsportart automatisch auf Teamfähigkeit schließen lässt.
• Diskussion über die Aussagekraft und Fairness solcher Annahmen im Bewerbungsprozess.
• Vorurteil oder Kriterium? Wenn Teamsportarten nur einer von mehreren möglichen Nachweisen für Teamfähigkeit sind (was hierbei der Fall ist), können sie als ein Kriterium angesehen werden.

3. Drittes Vorurteil – Alter der Bewerber*innen:

• Diskussion über die Fairness der schlechteren Bewertung älterer Bewerber*innen.
• Überlegungen zur Lebenserfahrung und Umständen, die zu einem späteren Einstieg in die Ausbildung oder das Studium geführt haben könnten.
• Diskussion über die Bedeutung von Chancengleichheit und Förderung für Menschen, die sich später beruflich neu orientieren.
• Vorurteil oder Kriterium? Eine schlechtere Bewertung aufgrund des Alters ist ein Vorurteil. Es basiert nicht auf objektiven Kriterien, sondern auf Annahmen über die Leistungsfähigkeit und Anpassungsfähigkeit älterer Personen.

Die Vorurteile stehen jeweils für sich und werden nicht addiert.

Zusatzinformationen bezüglich KI im Datenschutz

In der Europäischen Union sind Unternehmen durch die Allgemeine Datenschutzverordnung (DSGVO) dazu verpflichtet, transparent darüber zu informieren, wie persönliche Daten verarbeitet werden. Dies beinhaltet normalerweise Angaben dazu, welche Daten gesammelt, wie sie verwendet und wie lange sie gespeichert werden. Wenn KI oder automatisierte Entscheidungsfindungssysteme eingesetzt werden, insbesondere wenn diese Entscheidungen rechtliche Wirkungen haben oder die betroffene Person erheblich beeinträchtigen, müssen Unternehmen dies in ihrer Datenschutzerklärung angeben.

“Allerdings sollte aus Transparenzgründen (Art. 5 Abs. 1 Buchstabe a DSGVO) bereits bei der Stellenausschreibung auf den Einsatz von KI und deren Funktionsweise hingewiesen werden. Achtung: Erfolgt eine vollautomatisierte Absage an Bewerber aufgrund einer KI-Anwendung, handelt es sich um eine automatisierte Einzelentscheidung, die gemäß Art. 22 DSGVO verboten ist. Fällt dagegen der Unternehmer aufgrund eines Rankings der Bewerberdaten durch ein System letztlich selbst die Entscheidung, welche Bewerber zum Vorstellungsgespräch eingeladen werden, so ist der Tatbestand des Art. 22 DSGVO nicht erfüllt.“ (Deichmann+Fuchs, kein Datum)