Pocornies Rechtsfall ist noch nicht abgeschlossen. Im Dezember das Niederländische Institut für Menschenrechte ausgegeben eine vorläufige Entscheidung, in der festgestellt wurde, dass der starke Verdacht besteht, dass die von der VU Amsterdam verwendete Software diskriminierend war, und der Universität 10 Wochen Zeit gegeben wurde, um ihre Verteidigung einzureichen. Diese Verteidigung wurde noch nicht veröffentlicht, aber die VU Amsterdam hat zuvor argumentiert, dass Pocornies Protokolldaten – die zeigen, wie lange sie brauchte, um sich in ihre Prüfung einzuloggen, und wie oft sie die Software neu starten musste – darauf hindeuten, dass ihre Probleme auf ein instabiles Internet zurückzuführen waren Verbindung, im Gegensatz zu Problemen mit der Gesichtserkennungstechnologie. Ein Urteil wird noch in diesem Jahr erwartet.
Hersteller von Anti-Cheating-Software wie die von Proctorio erhielten durch die Pandemie Auftrieb, als Prüfungsräume durch die eigenen Wohnungen der Schüler ersetzt wurden. Die digitale Überwachung sollte Schulen und Universitäten dabei helfen, den Geschäftsbetrieb während des Lockdowns wie gewohnt aufrechtzuerhalten – ohne unbeaufsichtigten Schülern die Möglichkeit zu geben, zu schummeln. Aber die Pandemie ist vorbei und die Software wird immer noch verwendet, auch wenn Studenten auf der ganzen Welt zum Präsenzunterricht zurückkehren. „Wir glauben nicht, dass es verschwindet“ genannt Jason Kelly, der sich auf die Überwachung von Studenten bei der in den USA ansässigen Electronic Frontier Foundation konzentriert, in einer Überprüfung des Stands der Privatsphäre von Studenten im Dezember 2022.
In den USA sagt Amaya Ross, dass ihr College in Ohio immer noch Anti-Cheating-Software verwendet. Aber jedes Mal, wenn sie sich anmeldet, hat sie Angst, dass sich ihre Erfahrung während der Pandemie wiederholen wird. Ross, die schwarz ist, sagt auch, dass sie nicht auf ihren Test zugreifen konnte, als sie 2021 zum ersten Mal auf die Software stieß. „Es hieß immer nur: Wir können Ihr Gesicht nicht erkennen“, sagt Ross, die damals 20 Jahre alt war. Nachdem sie diese Nachricht drei- oder viermal erhalten hatte, fing sie an, mit nahegelegenen Lampen und den Jalousien herumzuspielen. Sie hat sogar versucht, einen Test im Stehen zu machen, direkt unter ihrer Deckenlampe.
Schließlich entdeckte sie, dass sie ihren naturwissenschaftlichen Test bestehen konnte, wenn sie eine LED-Taschenlampe auf einem Regal neben ihrem Schreibtisch balancierte und sie direkt auf ihr Gesicht richtete – obwohl das Licht fast blendete. Sie vergleicht das Erlebnis mit einer nächtlichen Fahrt mit einem Auto, das sich mit eingeschaltetem Fernlicht aus der anderen Richtung nähert. „Man musste einfach durchpowern, bis es fertig war“, sagt sie.
Ross weigert sich, die Firma zu nennen, die die Software hergestellt hat, die sie immer noch verwendet (Proctorio hat verklagt mindestens einer seiner Kritiker). Aber nach ihrer Mutter, Janice Wyatt-Ross, Gesendet Über das, was auf Twitter passiert ist, sagt Ross, ein Vertreter des Unternehmens habe sich gemeldet und ihr geraten, keine Tests mehr vor weißen Wänden zu machen. Jetzt macht sie Tests mit einem mehrfarbigen Wandbehang hinter sich, was bisher zu funktionieren scheint. Als Ross einige ihrer schwarzen oder dunkelhäutigen Freunde nach der Software fragte, hatten viele von ihnen ähnliche Probleme. „Aber dann habe ich meine weißen Freunde gefragt und sie sagten: ‚Ich mache Tests im Dunkeln’“, sagt sie.
Typischerweise erkennen Gesichtserkennungs- und -erkennungstechnologien Menschen mit dunklerer Haut nicht, wenn Unternehmen Modelle verwenden, die nicht mit verschiedenen Datensätzen trainiert wurden, sagt Deborah Raji, eine Mitarbeiterin der Mozilla Foundation. Im Jahr 2019 Raji mitveröffentlicht eine Prüfung von kommerziell eingesetzten Gesichtserkennungsprodukten, bei der festgestellt wurde, dass einige von ihnen dunkelhäutige Frauen um bis zu 30 Prozent schlechter erkennen als weiße Männer. „Viele der Datensätze, die zuvor im Bereich der Gesichtserkennung allgemein verwendet wurden [2019] enthielt über 90 Prozent hellhäutige Probanden, über 70 Prozent männliche Probanden“, sagt sie und fügt hinzu, dass seitdem Fortschritte erzielt wurden, aber dies ist kein Problem, das „gelöst“ wurde.