„Die Letztentscheidung muss zwingend ein Mensch treffen“
Künstliche Intelligenz wird zunehmend im Recruiting eingesetzt. Befürworter sehen darin die Chance auf objektivere Auswahlverfahren, Kritiker warnen vor algorithmischer Diskriminierung. Wie bewerten Sie den Einsatz von KI bei der Personalgewinnung aus rechtlicher Sicht?
Lelley: KI im Recruiting bietet enorme Chancen für effizientere Prozesse. Rechtlich bewegen wir uns jedoch in einem sensiblen Bereich, insbesondere beim AGG. KI-Systeme lernen aus historischen Daten. Enthalten diese diskriminierende Muster, reproduziert die KI diese und diskriminiert mittelbar. Das BAG setzt die Anforderungen an den Diskriminierungsschutz hoch an. Arbeitgeber müssen sicherstellen, dass Algorithmen transparent arbeiten. Ein „Blindflug“ bei der Softwareauswahl ist fahrlässig. Wir raten Unternehmen, Trainingsdaten kritisch zu hinterfragen und regelmäßige Audits durchzuführen, um eine Haftung nach § 15 AGG zu vermeiden.
Franzmann: Da KI-Systeme auf historischen Daten basieren, besteht die konkrete Gefahr mittelbarer Diskriminierung im Sinne von § 3 Abs. 2 AGG. Dies gilt insbesondere dann, wenn Trainingsdaten strukturelle Benachteiligungen enthalten und diese durch die Systeme reproduziert werden.
Vor diesem Hintergrund ist es erforderlich, dass eingesetzte Systeme nachvollziehbar und überprüfbar sind. Arbeitgeber trifft insoweit eine gesteigerte Organisations- und Kontrollpflicht, um Diskriminierungsrisiken zu minimieren. Aus Arbeitnehmersicht ist daher ein restriktiver und transparenter Einsatz solcher Technologien geboten.
Die neue EU-KI-Verordnung (AI Act) stuft KI-Systeme im HR-Bereich, insbesondere solche zur Einstellung oder Kündigung, als „Hochrisiko-Systeme“ ein. Welche konkreten Pflichten kommen damit auf Unternehmen zu, die solche Systeme nutzen wollen?
Lelley: Die EU-KI-Verordnung bringt einen Paradigmenwechsel. Dass Systeme als Hochrisiko-KI eingestuft werden, schafft erst einmal Rechtssicherheit. Ab August 2026 müssen Unternehmen strenge Compliance-Vorgaben erfüllen: Risikomanagementsysteme, technische Dokumentation und hohe Datenqualität zur Vermeidung von Bias. Besonders wichtig: Es muss stets eine menschliche Aufsicht gewährleistet sein. Die KI darf die Letztentscheidung nicht allein treffen. Zudem treffen den Arbeitgeber weitreichende Transparenzpflichten. Wer diese ignoriert, riskiert Bußgelder und Reputationsverlust.
Franzmann: Die Einstufung von KI-Systemen im Personalbereich als Hochrisiko-Systeme durch die EU-KI-Verordnung ist aus rechtlicher Sicht konsequent. Für die Praxis wird entscheidend sein, dass die vorgesehenen Anforderungen nicht lediglich formal umgesetzt werden. Besondere Bedeutung kommt der vorgeschriebenen menschlichen Aufsicht zu. Diese darf nicht auf eine bloße Plausibilitätskontrolle reduziert werden, sondern muss eine eigenständige inhaltliche Prüfung gewährleisten, um den Anforderungen insbesondere aus Art. 22 DSGVO gerecht zu werden.
Ein besonders heikles Thema ist die „Kündigung durch KI“. Ist es nach deutschem Arbeitsrecht überhaupt zulässig, dass ein Algorithmus über die Beendigung eines Arbeitsverhältnisses entscheidet?
Lelley: Eine rein durch KI getroffene Kündigungsentscheidung ist unzulässig. Art. 22 DSGVO verbietet automatisierte Entscheidungen. Der EuGH hat in seinem SCHUFA-Urteil (Az. C-634/21) den Begriff sehr weit gefasst. Wenn eine KI-Analyse einer Entscheidung maßgeblich zugrunde liegt, ist Art. 22 DSGVO berührt. Eine Kündigung ist der stärkste Eingriff ins Arbeitsverhältnis. Die Letztentscheidung muss also zwingend ein Mensch treffen. KI darf aber zur Vorbereitung genutzt werden.
Franzmann: Eine ausschließlich automatisierte Kündigungsentscheidung ist nach geltendem Recht unzulässig. Kollege Lelley weist zu Recht auf die EuGH-Rechtsprechung hin, wonach bereits eine maßgebliche Vorprägung der Entscheidung durch ein KI-System problematisch sein kann.
Aus Arbeitnehmersicht ist daher sicherzustellen, dass die Entscheidung über eine Kündigung auf einer eigenständigen menschlichen Bewertung beruht. KI kann lediglich unterstützend eingesetzt werden, etwa zur Strukturierung von Entscheidungsgrundlagen.
Wenn ein Bewerber oder Mitarbeiter vermutet, durch eine KI-Entscheidung diskriminiert worden zu sein – wie sieht es mit der Beweislastaus? Die Algorithmen sind oft eine „Blackbox“.
Lelley: Die „Blackbox“-Problematik macht es Betroffenen schwer, Diskriminierung nachzuweisen. Das AGG sieht in § 22 jedoch eine Beweislasterleichterung vor: Beweist der Betroffene Indizien für eine Benachteiligung, muss der Arbeitgeber beweisen, dass kein Verstoß vorlag. Der EuGH und das BAG legen die Hürden für Indizien zunehmend niedriger an. Ich rate dringend von „Blackbox“-Systemen ab. Unternehmen müssen „erklärbare KI“ einsetzen, bei der Entscheidungsparameter nachvollziehbar sind. In der Praxis ist das gar nicht so einfach.
Franzmann: Die eingeschränkte Nachvollziehbarkeit vieler KI-Systeme führt zu erheblichen praktischen Problemen bei der Durchsetzung von Rechten nach dem AGG. Zwar sieht § 22 AGG eine Beweiserleichterung vor, wonach bereits Indizien für eine Benachteiligung ausreichen. In der Praxis ist es jedoch für Betroffene häufig schwierig, entsprechende Indizien darzulegen, wenn Entscheidungsprozesse nicht transparent sind. Daraus folgt, dass Arbeitgeber gehalten sind, nur solche Systeme einzusetzen, deren Funktionsweise hinreichend dokumentiert und erklärbar ist. Andernfalls laufen sie Gefahr, ihrer Darlegungslast im Streitfall nicht nachkommen zu können.
Welche Rolle spielt der Betriebsrat bei der Einführung von KI-Systemen im Personalbereich? Hat er ein Vetorecht?
Lelley: Der Betriebsrat hat starke Mitbestimmungsrechte. Zentral ist § 87 Abs. 1 Nr. 6 BetrVG. Da KI-Systeme zur Bewerberauswahl objektiv geeignet sind, das Verhalten oder die Leistung der Arbeitnehmer zu überwachen, besteht ein zwingendes Mitbestimmungsrecht. Zudem gilt nach § 80 Abs. 3 BetrVG die Hinzuziehung eines Sachverständigen durch den Betriebsrat bei KI als erforderlich. Ich empfehle, den Betriebsrat frühzeitig und transparent einzubeziehen. Aber zu diesem Punkt interessiert mich natürlich auch besonders, was Herr Kollege Franzmann denkt.
Franzmann: Herr Lelley hat Zutreffendes zur Einführung von KI-Systemen gesagt, von daher geht mein Blick auf die Nutzung. KI-Systeme sind lernende Systeme, die sich bei ihrer tagtäglichen Anwendung entwickeln. In Betriebsvereinbarungen ist von daher zuregeln, welche Funktionalitäten genutzt werden dürfen. Sodann sind Überprüfungsrhythmen festzulegen und die konkrete Anwendung der Systeme zu evaluieren. Aber zurück zur Ausgangsfrage: Nein, kein Vetorecht. KI-Anwendungen sind Teil der Mitbestimmung in sozialen Angelegenheiten, mithin ist die Einigungsstelle das Konfliktlösungsmodell.
Zum Abschluss ein Blick in die Zukunft: Wie wird sich die Rolle der Personalabteilung durch den zunehmenden Einsatz von KI verändern? Wird der „Faktor Mensch“ überflüssig?
Lelley: Aus meiner Sicht sieht es so aus: Der „Faktor Mensch“ wird nicht überflüssig, seine Rolle wandelt sich aber. KI nimmt der Personalabteilung administrative Routinearbeit ab, vom Sichten der Lebensläufe bis zu Standardanfragen. Das schafft Freiräume. Personalverantwortliche werden zu strategischen Beratern und „KI-Managern“. Sie müssen Algorithmen interpretieren, ethische Leitplanken setzen und die gesetzlich geforderte menschliche Aufsicht gewährleisten. Empathie und das Gespür für Unternehmenskultur kann keine KI ersetzen.
Franzmann: Zusammenfassend lässt sich festhalten, dass der Einsatz von KI im Personalbereich rechtlich zulässig, aber nur unter engen Voraussetzungen verantwortbar ist. Die bestehenden Vorgaben aus AGG, DSGVO und künftig der EU-KI-Verordnung setzen Grenzen, die in der Praxis konsequent einzuhalten sind. Entscheidend wird sein, dass diese Instrumente nicht nur formell umgesetzt werden, sondern tatsächlich wirksamen Schutz vor Diskriminierung und Intransparenz bieten. Gerade im Arbeitsverhältnis, das durch ein strukturelles Ungleichgewicht geprägt ist, bedarf es besonderer Sorgfalt. KI kann zur Unterstützung beitragen – sie darf jedoch weder die rechtliche Verantwortung des Arbeitgebers noch die notwendige menschliche Entscheidungsfindung ersetzen.
Dr. Jan Tibor Lelley
