Eine andere Variable, „mutmaßlicher Partner“, wird verwendet, um festzustellen, ob jemand eine verdeckte Beziehung hat, da Alleinstehende mehr Leistungen erhalten. Dabei werden Daten nach Verbindungen zwischen Sozialhilfeempfängern und anderen dänischen Einwohnern durchsucht, z. B. ob sie an derselben Adresse gelebt oder gemeinsam Kinder großgezogen haben.
„Die Ideologie, die diesen algorithmischen Systemen zugrunde liegt, und [the] Die sehr aufdringliche Überwachung und Überwachung von Menschen, die Sozialhilfe erhalten, ist ein tiefes Misstrauen der Armen“, sagt Victoria Adelmant, Direktorin des Digital Welfare and Human Rights Project.
Für alle Komplexität der maschinellen Lernmodelle und all der gesammelten und verarbeiteten Daten gibt es immer noch eine Person, die am harten Ende der Betrugskontrolle eine Entscheidung treffen muss. Dies ist die Ausfallsicherheit, argumentiert Jacobsen, aber es ist auch der erste Ort, an dem diese Systeme mit der Realität kollidieren.
Morten Bruun Jonassen ist einer dieser Ausfallsicheren. Als ehemaliger Polizeibeamter leitet er das Kontrollteam von Kopenhagen, eine Gruppe von Beamten, die dafür sorgen soll, dass die Einwohner der Stadt unter der richtigen Adresse registriert sind und die richtigen Sozialleistungen erhalten. Er arbeitet seit 14 Jahren für das Sozialamt der Stadt, lange genug, um sich an eine Zeit zu erinnern, bevor Algorithmen eine solche Bedeutung erlangten – und lange genug, um den Tonwechsel in der nationalen Diskussion über Sozialhilfe zu beobachten.
Während der Kampf gegen den Sozialbetrug in Dänemark nach wie vor politisch populär ist, sagt Jonassen, dass nur eine „sehr kleine“ Anzahl der Fälle, denen er begegnet, tatsächlichen Betrug beinhaltet. Trotz aller Investitionen ist die Data-Mining-Einheit nicht seine beste Quelle für Hinweise, und Fälle, die von Jacobsens System gemeldet werden, machen nur 13 Prozent der Fälle aus, die sein Team untersucht – die Hälfte des nationalen Durchschnitts. Seit 2018 haben Jonassen und seine Einheit ihren Ansatz im Vergleich zu anderen Einheiten in Dänemark, die bei Betrug tendenziell härter vorgehen, weicher gemacht, sagt er. In einem Fall dokumentiert im Jahr 2019 von DR, Dänemarks öffentlich-rechtlichem Sender, sagte eine Sozialhilfeempfängerin, dass Ermittler ihre sozialen Medien durchforstet hätten, um zu sehen, ob sie in einer Beziehung sei, bevor sie sie fälschlicherweise des Sozialhilfebetrugs beschuldigten.
Während er der Data-Mining-Einheit von Jacobsen Anerkennung dafür zollt, dass sie versucht hat, ihre Algorithmen zu verbessern, hat Jonassen noch keine signifikante Verbesserung für die von ihm bearbeiteten Fälle festgestellt. „Im Grunde war es nicht besser“, sagt er. In einer von der Einheit durchgeführten Umfrage in Dänemarks Städten im Jahr 2022 erzielten die Beamten ihre Zufriedenheit damit im Durchschnitt zwischen 4 und 5 von 7 Punkten.
Jonassen sagt, dass Menschen, die Leistungen beanspruchen, das bekommen sollten, was ihnen zusteht – nicht mehr und nicht weniger. Und trotz des Ausmaßes von Jacobsens automatisierter Bürokratie leitet er mehr Ermittlungen ein, die auf Hinweisen von Schulen und Sozialarbeitern basieren, als auf maschinell gekennzeichneten Fällen. Und was entscheidend ist, sagt er, er arbeitet hart daran, die Menschen zu verstehen, die Sozialleistungen beantragen, und die schwierigen Situationen, in denen sie sich befinden. „Wenn Sie sich Statistiken ansehen und nur auf den Bildschirm schauen“, sagt er, „sehen Sie das dort nicht stecken Menschen dahinter.“
Zusätzliche Berichterstattung von Daniel Howden, Soizic Penicaud, Pablo Jiménez Arandia und Htet Aung. Die Berichterstattung wurde von der AI Accountability Fellowship des Pulitzer Center und dem Center for Artistic Inquiry and Reporting unterstützt.