„Eine fehlerhafte Entscheidung allein ist nicht automatisch rechtswidrig“

1105
 Bild: fidaolga/stock.adobe.com
Bild: fidaolga/stock.adobe.com

Welche Chancen und Risiken sehen Sie in der Nutzung von KI-Systemen im Einstellungsprozess aus arbeitsrechtlicher Perspektive?

Lelley: KI-basierte Systeme bieten Unternehmen große Chancen, insbesondere durch die Automatisierung von Routineaufgaben wie der Sichtung von Bewerbungsunterlagen. Hier spart man nicht nur Zeit, sondern kann auch objektivere Entscheidungen ermöglichen, da persönliche Vorurteile von Menschen reduziert werden. Gleichzeitig birgt der Einsatz von KI Risiken, insbesondere im Hinblick auf potenzielle Diskriminierungen. Auch Algorithmen können fehlerhaft oder voreingenommen sein – Stichwort fehlerhafte Datensätzen. Damit werden wir wohl erst einmal leben müssen.

Franzmann: Ja, wir stehen vor einschneidenden Änderungen und wie stets sind mit Änderungen neben den Chancen auch Sorgen verbunden. Innovationen lassen sich nicht aufhalten, von daher wäre es töricht, sich den Möglichkeiten Künstlicher Intelligenz zu verschließen. Die Frage bleibt aber, können wir sie gestalten? Kollege Lelley spricht zu Recht die Gefahren einer Verselbständigung an. Wie schaffen wir es, dass KI Hilfestellungen bei der Entscheidungsfindung liefert, ohne die Entscheidung selbst zu fällen.

Wie können Unternehmen sicherstellen, dass KI-gestützte Entscheidungen im Personalmanagement mit den Vorschriften des AGG in Einklang stehen?

Lelley: Arbeitgeber sollten sicherstellen, dass die Kriterien, die die KI anwendet, objektiv und sachlich gerechtfertigt sind. Es empfiehlt sich, interne Prozesse zur Überwachung der KI-Entscheidungen einzuführen, um sicherzustellen, dass keine rechtswidrigen Benachteiligungen entstehen. Die Zusammenarbeit mit spezialisierten Dienstleistern und regelmäßige Schulungen können ebenfalls dazu beitragen, Diskriminierungsrisiken zu minimieren.

Franzmann: Schon sind wir in unserem Arbeitsumfeld, die Betriebsverfassung bietet den Rahmen zur Implementierung Künstlicher Intelligenz im Betrieb. Durch die Ergänzung von Satz 2und 3 in § 80Abs. 3BetrVG ist klargestellt, dass sich der Betriebsrat externer Expertise zum Thema versichern kann. Bereits die Frage, welches Tool mit welcher Konfiguration zum Einsatz kommt, kann wegweisend sein. Wie sind die Algorithmen gebaut, wie laufen danach die Auswahlentscheidungen? Nach der Implementierung muss das System mit aussagekräftigen Reports nachgehalten werden.

Muss man denn überhaupt Arbeitnehmer über den Einsatz von KI im Bewerbungsprozess oder bei Leistungsbeurteilungen informieren? Und welche Mitbestimmungsrechte haben Betriebsräte in diesem Zusammenhang? Sehen Sie da Verbesserungsbedarf?

Lelley: Den rechtlichen Rahmen bilden erst einmal die DSGVO und weiter das BDSG und dann natürlich auch das BetrVG. Dazu kommt aber jetzt ja auch: Arbeitgeber, die Künstliche Intelligenz einsetzen, sind nach der KI-Verordnung als sog. Betreiber einzustufen. Das ist in Art. 3KI-VO definiert. Viele der in der Personalarbeit verwendeten KI-Systeme sind als Hochrisikotechnologie eingestuft. Ja, richtig gehört, Hochrisiko! Das löst dann noch einmal weitere Pflichten des Betreibers aus; bspw. die Informationspflicht vor Inbetriebnahme und Verwendung, die gegenüber Arbeitnehmervertretern und betroffenen Arbeitnehmern zu erfüllen ist. Das kann man in Art. 26Abs. 7KI-VO nachlesen. Aber die Mitbestimmung hier weiter ausdehnen, also über die schon existierende Mitbestimmung zu den technischen Überwachungseinrichtungen? Dazu sehe ich an sich keinen Anlass.

Franzmann: Einverstanden, Herr Lelley. Mit dem bisherigen betriebsverfassungsrechtlichen Instrumentenkasten lässt sich arbeiten. Zu empfehlen ist eine Rahmenvereinbarung KI. Diese nimmt die einzelnen Tools in den Blick und ordnet sie nach der „Schwere des Eingriffs“ zu und gestaltet hieraus unterschiedliche Mitwirkungsrechte, von der reinen Information bei unterstützenden Systemen bis zur Mitbestimmung bei arbeitsplatzersetzenden und entscheidungsabnehmenden Systemen.

Was sind die rechtlichen Konsequenzen, wenn eine KI-basierte Entscheidung im Personalbereich zu einer fehlerhaften oder unrechtmäßigen Diskriminierung führt?

Lelley: Wenn durch den Einsatz von KI eine Diskriminierung entsteht, können Arbeitgeber haftbar gemacht werden. Betroffene Bewerber oder Arbeitnehmer können Entschädigung oder Schadensersatz gem. § 15 AGG geltend machen. Um solche Konsequenzen zu vermeiden, sollten Unternehmen die Funktionsweise der KI nachvollziehbar dokumentieren und ein Fehlermanagement etablieren. Eine fehlerhafte Entscheidung allein ist aber ja nicht automatisch rechtswidrig.

Franzmann: Für einen möglichen Schadensersatzprozess ist es unwesentlich, ob eine fehlerhafte weil diskriminierende Maßnahme durch menschliches Handeln oder automatisiert erfolgt; entscheidend ist, dass die Maßnahme dem Arbeitgeber zuzurechnen ist. Transparente Prozesse und die Dokumentation der einzelnen Prozessschritte sorgen im Ergebnis dafür, dass Verantwortlichkeiten erkannt und letztlich verteilt werden können. Und ja, Transparenz ist sicherlich kein Hinderungsgrund für die Fehlerbeseitigung.

Wie können Unternehmen die datenschutzrechtlichen Vorgaben, insbesondere im Hinblick auf die DSGVO, bei der Nutzung von KI-Systemen im Arbeitsrecht einhalten?

Lelley: Die DSGVO stellt strenge Anforderungen an den Umgang mit personenbezogenen Daten. Das gilt auch beim Einsatz von KI-Systemen. Denn die DSGVO geht der KI-VO vor. Unternehmen müssen sicherstellen, dass sie nur Daten erheben und verarbeiten, die für den jeweiligen Zweck erforderlich sind. Eine Rechtsgrundlage wie die Einwilligung des Bewerbers bzw. Arbeitnehmers oder die Erforderlichkeit der Datenverarbeitung im Arbeitsverhältnis (§ 26 BDSG) muss gegeben sein.

Franzmann: Arbeitsrechtliche Einwilligungen stehen oft am Anfang des Arbeitsverhältnisses. Der Bewerber unterschreibt nicht nur den Arbeitsvertrag und die Dienstwagenrichtlinie o. ä., sondern auch und insbesondere Einwilligungen zur Datenverarbeitung. Aber: Solche Erklärungen sind widerrufbar und dann bleibt der Arbeitgeberseite lediglich die Erlaubnisnorm nach § 26Abs. 1und 2 BDSG. Hier können Betriebsvereinbarungen helfen, deren normative Wirkung als Kollektivvereinbarung die freiwillige Einwilligung in die Datenverarbeitung der Arbeitnehmer ersetzt, § 28Abs. 4BDSG.

Welchen Einfluss wird der zunehmende Einsatz von KI auf das traditionelle Verständnis von „billigem Ermessen“ (§ 106 GewO) und der freien Entscheidungsspielräume von Arbeitgebern haben?

Lelley: Der Einsatz von KI verändert das Verständnis von „billigem Ermessen“ erheblich. Arbeitgeber müssen sicherstellen, dass KI-gestützte Entscheidungen nachvollziehbar sind und einer objektiven Abwägung gerecht werden. Ich könnte mir vorstellen: Die richterliche Kontrolle bei den Arbeitsgerichten wird in Zukunft verstärkt darauf zielen, ob die eingesetzten Systeme die Interessen der Arbeitnehmer ausreichend berücksichtigen. KI sollte man daher nicht als Ersatz, sondern als Unterstützung für menschliche Entscheidungen betrachten. Arbeitgeber behalten die Verantwortung, Prozesse auf Grundlage von KI-Systemen kritisch zu prüfen und letztlich die Interessen aller Beteiligten fair abzuwägen.

Franzmann: Das „billige Ermessen“ des § 106 GewO oder auch die Rücksichtnahmepflicht aus § 241 Abs. 2BGB verlagern sich zunehmend in den Algorithmus und man kann nur hoffen, dass die Entwickler wissen, was sie tun. Im Ernst: Tools, die von sich behaupten, dass ihre Entscheidungen frei von Willkür und Sympathie sind, sollten eine verschärfte Beobachtung erfahren. Tools, die Routinearbeiten abnehmen und Entscheidungsprozesse systematisch vorbereiten, entlasten und sollten dem jeweiligen Anwender Hilfestellungen geben. Entscheidend auch für die Akzeptanz solcher Hilfen wird sein, dass Transparenz über die Möglichkeiten der jeweiligen Tools herrscht und dass die Anwender in der Benutzung der Tools qualifiziert sind.

Dr. Jan Tibor Lelley

Dr. Jan Tibor Lelley
Rechtsanwalt, Fachanwalt für Arbeitsrecht, Partner, BUSE, Frankfurt am Main

Armin Franzmann

Armin Franzmann
Fachanwalt für Arbeitsrecht
AttachmentSize
Beitrag als PDF herunterladen168.97 KB

· Artikel im Heft ·

„Eine fehlerhafte Entscheidung allein ist nicht automatisch rechtswidrig“
Seite 40 bis 41
Frei
Bild Teaser
Body Teil 1

Frau Noack, die Geschwindigkeit in Sachen Digitalisierung ist ja atemberaubend. Vor welchen Veränderungen

Premium
Bild Teaser
Body Teil 1

Was ist KI?

Obwohl KI mittlerweile in aller Munde ist, gibt es bislang keine anerkannte Definition. Nach allgemeiner Auffassung

Premium
Bild Teaser
Body Teil 1

Schöne neue Arbeit

Neue Technologien versuchen die Art, wie wir arbeiten, angenehmer und effizienter zu machen. Normalerweise brauchen

Premium
Bild Teaser
Body Teil 1

Wesentliche datenschutzrechtliche Implikationen

Möchte ein Unternehmen eine Personalsoftware einführen, sind zunächst einige

Premium
Bild Teaser
Body Teil 1

Willkommen in der Welt der sozialen Medien. Hier entscheiden keine Buchhändler, keine Experten oder Journalisten mehr, was wir lesen oder

Frei
Bild Teaser
Body Teil 1

Ergänzend zum Wortwechsel in AuA 9/23, in welchem es um den Datenschutz beim Einsatz von