Am 5. Juli 2023 ist in New York City ein Gesetz in Kraft getreten, das den Einsatz von Künstlicher Intelligenz (KI) bei Einstellungs- und Beförderungsentscheidungen regelt. Es ist eines der ersten KI-Gesetze in den Vereinigten Staaten. New Jersey, Vermont, Kalifornien und der Staat New York erwägen bereits ähnliche Gesetze. Auch Illinois und Maryland haben Gesetze erlassen, die den Einsatz bestimmter KI-Technologien einschränken, die oft zur Überwachung von Arbeitsplätzen und zur Überprüfung von Bewerbern eingesetzt werden. Die Regulierung von KI-Einstellungen ist auch Teil des KI-Gesetzes in Europa.
Der Einsatz von KI bei der Personalauswahl wurde in den USA heftig kritisiert, weil er bestehende rassistische und geschlechtsspezifische Vorurteile automatisiert und verfestigt. KI-Systeme, die die Mimik und Sprache von Bewerbern bewerten, bevorzugen nachweislich weiße, männliche und behinderte Bewerber. „Das Problem ist beträchtlich“, sagt Charlotte A. Burrows, Vorsitzende der US Equal Employment Opportunity Commission, was sich mit Kommission für Chancengleichheit bei der Beschäftigung übersetzen lässt. Sie geht davon aus, dass bis zu vier von fünf Unternehmen automatisierte Einstellungsentscheidungen treffen. Arbeitsvermittlungsagenturen sind davon gleichermaßen betroffen. Deshalb sei es wichtig, so Julia Stoyanovich, außerordentliche Professorin an der New York University und Direktorin des dortigen Center for Responsible A.I., dieses Gesetz zu haben und KI zu regulieren. Auch wenn es noch nicht perfekt sei. Dies dürfe kein gesetzfreier Raum sein, argumentiert sie. Sie geht davon aus, dass konkrete Anwendungsfälle bald zeigen werden, wie praktikabel das Gesetz ist und sie erwartet sich Antworten auf die folgenden Fragen:
• Wer ist von der Technologie betroffen?
• Was sind die Vorteile und Schäden?
• Wer kann auf welche Weise eingreifen?
TRANSPARENZ UND KONTROLLE
Das Gesetz verlangt von den Unternehmen, die Bewerber:innen über den Einsatz von KI zu informieren und sie gibt den Bewerber:innen das Recht, zu erfahren, welche Daten gesammelt und analysiert werden. Außerdem müssen die Unternehmen die Technologie jährlich von unabhängigen Prüfern auf Voreingenommenheit untersuchen lassen, d.h. die Systeme dürfen nicht rassistisch oder sexistisch sein. Bei Verstößen drohen Geldstrafen von bis zu 1.500 Dollar. Der Gesetzgeber verfolgte zwar das Ziel, einen Kompromiss zwischen Innovation und potenziellem Schaden zu finden. Ein Grund, warum viele Stimmen gehört wurden, darunter Aktivisten des öffentlichen Interesses und Softwareunternehmen. Dennoch wirbelte es viel Staub auf, noch vor Inkrafttreten. Sowohl seine Befürworter als auch die Kritiker verweisen auf die Herausforderung der Regulierung der künstlichen Intelligenz, die in rasantem Tempo und mit unbekannten Folgen voranschreitet.
Die Befürworter des Gesetzes sagen, dass es ein guter Anfang sei, um KI zu regulieren und einige der Schäden und Risiken im Zusammenhang mit ihrem Einsatz zu mindern – insbesondere unter Beachtung ethischer Normen. Öffentliche Interessengruppen und Bürgerrechtler entgegnen, es sei nicht hinreichend umfassend und nicht durchsetzbar. Unternehmen, die es einhalten müssen, argumentieren, es sei unpraktisch und aufwändig.
DIE WICHTIGSTEN KRITIKPUNKTE:
• Das Gesetz decke nur Vorurteile aufgrund des Geschlechts, der Rasse und der ethnischen Zugehörigkeit auf, aber nicht die Diskriminierung von älteren Arbeitnehmern oder Menschen mit Behinderungen.
• Es sei nicht klar, was Prüfungen durch Dritte genau bewirken werden, da die Prüfungsbranche derzeit noch sehr unreif sei und es an Standards und professionellen Aufsichtsgremien fehle.
• Es müssen nur die Systeme geprüft werden, die die Ermessensentscheidung wesentlich unterstützen oder ersetzen, also wenn KI der einzige oder wichtigste Faktor bei einer Einstellungsentscheidung ist. Systeme, die mithilfe von KI aus einem großen Pool von Tausenden von Bewerbern eine Handvoll herausfiltern, müssen nicht geprüft werden.
• Die Menschen haben ein Recht darauf, dass ihnen erklärt wird, wie eine Entscheidung zustande kommt – was bei einer immer komplexeren Technologie außer Reichweite gerät.
• Das Gesetz erzeuge ein falsches Gefühl der Sicherheit – es wird angezweifelt, dass in der Praxis auch nur ein einziges Unternehmen zur Rechenschaft gezogen werden wird.
KI-PRÜFUNG ALS GESCHÄFTSMODELL
Zweifelsfrei wird das Geschäft mit der KI-Prüfung wachsen. Schon jetzt drängen Anwaltskanzleien, Berater und Start-ups auf den Markt. Unternehmen, die KI-Software verkaufen, um Einstellungs- und Beförderungsentscheidungen zu unterstützen, sind bereit, sich der Regulierung zu unterwerfen. Einige haben sich bereits externen Audits unterzogen. Sie sehen in der Vorschrift einen potenziellen Wettbewerbsvorteil, da sie nachweisen können, dass ihre Technologie den Pool an Bewerbern für Unternehmen erweitert und die Chancen für Arbeitnehmer:innen erhöht. „Wir glauben, dass wir das Gesetz erfüllen und zeigen können, was gute KI kann“, sagt Roy Wang von Eightfold AI, einem Silicon Valley Start-up.
