Holen Sie sich B4BSCHWABEN.de auf Ihr Smartphone.
Klicken Sie auf das Symbol zum „Teilen” in der Toolbar von Safari. Finden Sie die Option „Zum Home-Bildschirm”. Mit einem Klick auf „Hinzufügen” ist die Installation abgeschlossen! Schon ist die Website als App auf Ihrem iOS-Gerät installiert.
"Künstliche Intelligenz im Arbeitsrecht: Was muss ich beachten?"
Kerstin Ducke (Rechtsanwältin Arbeitsrecht) und Dr. Viktor Stepien (Partner, Rechtsanwalt Arbeitsrecht und Datenschutzrecht), Experten bei SONNTAG, antworten:
Wir leben in einer Welt, in der Künstliche Intelligenz (KI) zunehmend an Bedeutung gewinnt. Bisher spielte im Zusammenhang mit dem Einsatz von KI insbesondere die Datenschutz-Grundverordnung (DSGVO) die zentrale Rolle. Seit dem 1. August 2024 tritt ergänzend die Verordnung über Künstliche Intelligenz (KI-VO) hinzu, wobei für den Geltungsbeginn der Regelungen der KI-VO ein abgestuftes und kompliziertes System von Übergangsfristen und Ausnahmen vorgesehen ist. Auch wenn hiernach der Großteil der Bestimmungen erst nach Übergangsfristen von 12 bzw. 24 Monaten anwendbar sein wird, muss sich ein Unternehmen, welches den Einsatz von KI vornehmlich etwa im Bereich des Arbeitsrechts beabsichtigt oder schon vollzogen hat, bereits heute mit den Anforderungen und Spielregeln der KI-VO befassen.
Die Einsatzmöglichkeiten von KI im Arbeitsrecht scheinen grenzenlos. Stellen Sie sich nur vor, ein Algorithmus könnte die perfekte Stellenanzeige schreiben, eingehende Bewerbungen sichten, die besten Kandidaten für Ihr Unternehmen auswählen oder zielgerichtet solche Bewerbungen markieren, die selbst von einer KI formuliert wurden und daher nur ein unzutreffendes Bild über die Bewerberin bzw. den Bewerber vermitteln. Denkbar wäre es daneben sogar, von der KI detaillierte Persönlichkeitsprofile der Bewerberinnen und Bewerber erstellen zu lassen, indem deren Aktivitäten in sozialen Netzwerken anhand der verwendeten Sprache, des Satzbaus, des Wortschatzes und der Dialektik analysiert werden, um Rückschlüsse auf die Persönlichkeit zu ziehen.
Dies alles klingt nach einem Traum für jedes Unternehmen – allein um den oftmals ohnehin schon überlasteten Personalabteilungen unterstützend zur Seite zu stehen. Entsprechend wird im Zusammenhang mit dem Einsatz von KI im Recruiting die Einführung sog. People Analytics-Anwendungen von vielen Unternehmen mit Nachdruck vorangetrieben. Diese Tools ermöglichen eine Vorauswahl der Bewerbungen anhand der eingereichten Bewerbungsunterlagen, wobei mithilfe der Analysewerkzeuge die Bewerbungen nach festgelegten Kriterien durchsucht werden können, um diese bspw. auf ihre Geeignetheit hinsichtlich der ausgeschriebenen Position zu bewerten. Der versprochene Vorteil des Einsatzes von KI ist neben der Steigerung der Effizienz – es muss schließlich nicht mehr jede Bewerbung durch einen Menschen gesichtet werden – dabei vor allem die oftmals versprochene Objektivität KI-basierter Entscheidungen. So soll durch den Einsatz von KI im Recruiting-Prozess gerade gewährleistet werden, sachfremde und subjektive Erwägungen zu eliminieren und Entscheidungen zu treffen, die frei von Diskriminierung sind.
Was aber passiert, wenn der Algorithmus unter Missachtung der Antidiskriminierungsgesetze entscheidet, dass nur Bewerber mit einem bestimmten Namen, einem bestimmten Alter oder einer bestimmten Herkunft infrage kommen? Die Erfahrungen verschiedener Feldversuche von Unternehmen – meist aus den USA – der letzten Jahre zeigen, dass diese Szenarien leider durchaus eintreten können. Denn auch, wenn die beabsichtigte Funktion der KI an sich diskriminierungsfrei und unvoreingenommen ist, kann nicht ausgeschlossen werden, dass die KI mit diskriminierenden Trainingsdaten gespeist wurde und aus diesem Grund unfaire oder sogar rechtlich unzulässige Ergebnisse produziert (sog. algorithmische Voreingenommenheit; engl. algorithmic bias). Darüber hinaus fehlt es der KI an menschlicher Intuition, sozialer Kompetenz und Empathie. Auch Risiken in Bezug auf die Einhaltung von Compliance-Vorschriften können auftreten.
Unbestritten kann der Einsatz von KI mit seinen beeindruckenden Möglichkeiten nicht mehr weggedacht werden. Um jedoch den aufgezeigten negativen Seiten – insbesondere den erheblichen Risiken in Bezug auf die öffentlichen und privaten Interessen betroffener Rechtssubjekte – angemessen zu begegnen, soll die KI-VO einen einheitlichen Rechtsrahmen bilden und dabei einen risikobasierten Ansatz in den Mittelpunkt stellen.
Die KI-VO formuliert dabei je nach Schwere des potenziellen Risikos für rechtswidrige Grundrechtseingriffe unterschiedliche Anforderungen an KI-Systeme und deren Nutzung. So gelten etwa KI-Systeme, die im Bereich Beschäftigung und Personalmanagement eingesetzt werden – etwa zur Schaltung gezielter Stellenanzeigen oder zur Sichtung und Filterung von Bewerbungen – als sog. Hochrisiko-KI-Systeme. Denn ihr Einsatz kann einen erheblichen Schaden in Bezug auf die grundlegenden Rechte von Einzelpersonen herbeiführen. Als Hochrisiko-KI-System steht ihre Verwendung unter deutlich höheren Anforderungen als bspw. die Implementierung eines KI-Systems, welches nur minimale oder sogar gar keine Risiken für die Grundrechte von Einzelpersonen mit sich bringen kann.
Die KI-VO erkennt darüber hinaus, dass es in Bezug auf die KI verschiedene Akteure gibt, die jeweils unterschiedliche Verantwortlichkeiten und damit Pflichten treffen. Neben der Rolle als Händler und Anbieter ist vor allem der sog. Betreiber von KI-Systemen zentraler Akteur. Betreiber ist dabei jede Stelle, die ein KI-System in eigener Verantwortung im Rahmen der beruflichen Tätigkeit verwendet (Art. 3 Nr. 4 KI-VO) – und damit bspw. ein Unternehmen, welches eine von einem Dritten entwickelte KI-Lösung im Recruiting einsetzt, ohne individuelle Änderungen an dem System vorzunehmen.
Damit ein Betreiber eine Hochrisiko-KI einsetzen darf, sind zahlreiche Vorgaben zu beachten. Neben Schulungspflichten in Bezug auf die eigenen Mitarbeitenden, operativen Pflichten wie der Einrichtung von Betriebsanleitungen und Informationspflichten bestehen insbesondere umfängliche Kontroll- und Dokumentationspflichten. Wird ein Betreiber darüber hinaus sogar zum Anbieter – etwa da er Anpassungen an dem KI-System im Hinblick auf spezielle Anforderungen seines Unternehmens vornimmt – treffen ihn noch weitergehende Verpflichtungen.
Darüber hinaus bleiben die Pflichten nach sonstigen Rechtsakten – speziell der DSGVO sowie in Bezug auf Mitbestimmungsrechte des Betriebsrats nach dem Betriebsverfassungsgesetz (BetrVG) – unberührt und ebenfalls zu beachten.
Unternehmen sind gut beraten, die Anforderungen nach der KI-VO zeitnah zu identifizieren und deren Umsetzung frühzeitig einzuplanen. Denn trotz der gestaffelten Umsetzungsfristen bleibt aufgrund der Komplexität der anstehenden Aufgaben nicht viel Zeit.
Zudem bemüht der Gesetzgeber ein altbekanntes Mittel, um die Einhaltung der Rechtspflichten der KI-VO sicherzustellen: Verstöße gegen die Vorgaben der KI-VO können mit hohen Geldbußen von bis zu 15 Millionen Euro oder bis zu 3 Prozent des weltweiten Jahresumsatzes des Unternehmens im vorangegangenen Geschäftsjahr geahndet werden. Die Erfahrungen insbesondere in Bezug auf die DSGVO zeigen dabei, dass bei entsprechend schwerwiegenden Verstößen auch die Verhängung sehr hoher Bußgelder keinesfalls nur ein Schreckgespenst ist.
Sich jedoch deshalb von KI-Lösungen abzuwenden, dürfte für kaum ein Unternehmen eine realistische Option sein – zu groß sind die Möglichkeiten und zu groß ist das Risiko, den Anschluss an die Konkurrenz zu verlieren. So gesehen bietet die KI-VO auch den Vorteil, einheitliche Spielregeln aufzustellen, an die sich alle Marktteilnehmer zu halten haben.
Dieser Artikel kann Ihnen nur einen ersten Überblick über das dargestellte Thema verschaffen. Unser Team von Rechtsspezialisten aus den Bereichen des Arbeitsrechts, Datenschutzrechts sowie IT-Rechts von SONNTAG stehen Ihnen jedoch neben unseren Experten in den Bereichen Digitalisierung, IT Compliance und IT-Projektmanagement der SONNTAG IT Solutions jederzeit für eine umfassende Beratung zur Verfügung.
Sie haben noch Fragen zum Thema an Kerstin Ducke oder Dr. Viktor Stepien oder wünschen eine persönliche Beratung? Dann nehmen Sie jetzt gerne direkt Kontakt auf.
