Wenn der Algorithmus mitentscheidet!

Beim Business Breakfast am 16. September drehte sich alles um das Thema KI und Arbeitsrecht. Zu Gast war Nicolaus Mels-Colloredo, Partner bei PHH Rechtsanwält:innen, der uns durch die rechtlichen Leitplanken für den Einsatz von KI im Bewerbungsverfahren und im Arbeitsverhältnis geführt hat. 

Die Key Learnings: 

• KI im Job ist kein rechtsfreier Raum. Auch ohne eigene Spezialgesetze greifen schon heute KI-VO, DSGVO, Arbeitsverfassungsrecht und Gleichbehandlungsrecht ineinander.
• KI-Anwendungen in der Personalauswahl (CV-Screening, Ranking, Bewertung von Interviews) gelten als Hochrisiko-Systeme. Emotionserkennung und biometrische Kategorisierung sind verboten, eine vollautomatisierte Absage ist unzulässig.
• Kontrollmaßnahmen wie Leistungsscoring oder die Auswertung von E-Mails bedürfen der Zustimmung des Betriebsrats – ohne sie ist die Maßnahme rechtsunwirksam.
• Auch interne KI-Richtlinien sind kein Selbstläufer: Sobald sie überwachende Elemente enthalten – etwa wenn protokolliert wird, wer welche Prompts eingibt oder wie die Tools genutzt werden – braucht es dafür ebenfalls die Zustimmung des Betriebsrats, sonst gilt die Richtlinie nicht.
• Bei Diskriminierungsvorwürfen im Zusammenhang mit KI reicht es, wenn Betroffene diese glaubhaft machen – die Beweislast liegt dann beim Unternehmen. Dokumentiertes Bias-Testing ist der wichtigste Schutz. 

Wir danken allen, die dabei waren und natürlich dem Vortragenden für die spannenden Einblicke!