Früher in diesem Monat, Lina Khan, Vorsitzende der US-amerikanischen Federal Trade Commission (FTC), schrieb einen Aufsatz In Die New York Times Dies bekräftigt das Engagement der Agentur für die Regulierung der KI. Aber es gab eine KI-Anwendung, die Khan nicht erwähnte und die die FTC dringend regulieren muss: automatisierte Einstellungssysteme. Diese reichen in ihrer Komplexität von Tools, die lediglich Lebensläufe analysieren und in eine Rangfolge bringen, bis hin zu Systemen, die Kandidaten grünes Licht geben und Bewerber als ungeeignet erachten. Immer häufiger sind berufstätige Amerikaner dazu verpflichtet, sie zu nutzen, wenn sie eine Anstellung anstreben.
In meinem letzten Buch Der quantifizierte ArbeiterIch behaupte, dass der amerikanische Arbeitnehmer durch KI-Technologien am Arbeitsplatz auf Zahlen reduziert wird, allen voran automatisierte Einstellungssysteme. Diese Systeme reduzieren Bewerber auf eine Punktzahl oder einen Rang und ignorieren dabei oft die Gestalt ihrer menschlichen Erfahrung. Manchmal sortieren sie die Leute sogar nach ihrer Rasse, ihrem Alter und ihrem Geschlecht, eine Praxis, deren Einbeziehung in den Einstellungsprozess gesetzlich verboten ist.
Ironischerweise sind es viele dieser Systeme als vorurteilsfrei vermarktet oder garantiert, dass die Wahrscheinlichkeit einer diskriminierenden Einstellung verringert wird. Aber weil sie so locker reguliert sind, haben sich solche Systeme als ungeeignet erwiesen verweigern gleiche Beschäftigungschancen auf der Grundlage geschützter Kategorien wie Rasse, Alter, Geschlecht und Behinderung. Im Dezember 2022 beispielsweise Eine Trucker-Frauengewerkschaft verklagte Meta, mit der Behauptung, dass Facebook „Stellenanzeigen selektiv auf der Grundlage des Geschlechts und Alters der Nutzer zeigt, wobei ältere Arbeitnehmer weitaus seltener Anzeigen sehen und Frauen weitaus seltener Anzeigen für Arbeiterpositionen sehen, insbesondere in Branchen, in denen Frauen traditionell ausgeschlossen sind.“ Das ist trügerisch. Darüber hinaus ist es sowohl gegenüber Bewerbern als auch gegenüber Arbeitgebern unfair. Arbeitgeber erwerben automatisierte Einstellungssysteme, um ihre Haftung für Diskriminierung am Arbeitsplatz zu verringern, und die Anbieter dieser Systeme sind gesetzlich verpflichtet, ihre Ansprüche auf Wirksamkeit und Fairness zu belegen.
Das Gesetz stellt automatisierte Einstellungssysteme in den Zuständigkeitsbereich der FTC, die Behörde hat jedoch noch keine spezifischen Richtlinien dazu veröffentlicht, wie Anbieter dieser Systeme ihre Waren bewerben sollten. Es sollte mit der Anforderung beginnen Wirtschaftsprüfung um sicherzustellen, dass automatisierte Einstellungsplattformen ihre Versprechen an Arbeitgeber erfüllen. Die Anbieter dieser Plattformen sollten verpflichtet werden, eindeutige Aufzeichnungen von Audits vorzulegen, aus denen hervorgeht, dass ihre Systeme die beworbene Voreingenommenheit bei der Einstellungsentscheidung verringern. Diese Prüfungen sollten zeigen, dass die Designer bei der Erstellung der Plattformen die Richtlinien der Equal Employment Opportunity Commission (EEOC) befolgt haben.
Darüber hinaus könnte die FTC in Zusammenarbeit mit der EEOC das Fair Automated Hiring Mark einführen, mit dem bescheinigt wird, dass automatisierte Einstellungssysteme den strengen Prüfprozess bestanden haben. Als Imprimatur wäre das Zeichen ein nützliches Qualitätssignal für Verbraucher – sowohl für Bewerber als auch für Arbeitgeber.
Die FTC sollte Bewerbern, die KI-gestützte Online-Bewerbungssysteme nutzen, auch die Möglichkeit geben, gemäß dem Federal Credit Report Act (FCRA) zu klagen. Früher ging man davon aus, dass das FCRA nur für die drei großen Kreditauskunfteien gilt, aber eine genaue Lektüre zeigt, dass dieses Gesetz immer dann gelten kann, wenn ein Bericht für eine „wirtschaftliche Entscheidung“ erstellt wurde. Nach dieser Definition handelt es sich bei Bewerberprofilen, die von automatisierten Online-Einstellungsplattformen erstellt werden, um „Verbraucherberichte“, was bedeutet, dass die Unternehmen, die sie erstellt haben (z. B. Online-Einstellungsplattformen), als Kreditauskunfteien gelten würden. Gemäß FCRA kann jeder, der Gegenstand eines dieser Berichte ist, bei der Behörde, die ihn erstellt hat, eine Petition einreichen, um Einsicht in die Ergebnisse zu nehmen und Korrekturen oder Ergänzungen zu verlangen. Die meisten Verbraucher wissen nicht, dass sie diese Rechte haben. Die FTC sollte eine Aufklärungskampagne starten, um Antragsteller über diese Rechte zu informieren, damit sie sie nutzen können.