KI kann Ihre Rasse anhand eines Röntgenbildes erkennen – und Wissenschaftler können nicht herausfinden, wie

Ein großes Forschungsteam brachte KI-Programmen bei, Scans zu lesen, und es überlistete sie

Inhalt des Artikels

Eine neue Studie eines internationalen Wissenschaftlerteams aus Kanada, den USA, Australien und Taiwan berichtet, dass künstliche Intelligenz, die zum Lesen von Röntgenbildern und CT-Scans verwendet wird, die Rasse einer Person mit 90-prozentiger Genauigkeit vorhersagen kann – und Menschen können dies nicht. Die Wissenschaftler, einschließlich derjenigen vom Massachusetts Institute of Technology und der Harvard Medical School, haben keine Ahnung, wie das Programm das macht.

Inhalt des Artikels

„Als meine Doktoranden mir einige der Ergebnisse in dieser Arbeit zeigten, dachte ich tatsächlich, dass es sich um einen Fehler handeln muss“, veröffentlichte Marzyeh Ghassemi, MIT-Assistenzprofessorin für Elektrotechnik und Informatik und Mitautorin der Arbeit in The Lancet Digital Health, sagte der Boston Globe. „Ich dachte ehrlich, meine Schüler wären verrückt.“

Die Studie begann, nachdem Wissenschaftler bemerkten, dass ein KI-Programm zur Untersuchung von Röntgenaufnahmen des Brustkorbs bei schwarzen Patienten mit größerer Wahrscheinlichkeit Krankheitsanzeichen übersieht. „Wir haben uns gefragt, wie kann das sein, wenn Computer die Rasse einer Person nicht erkennen können?“ ein Co-Autor und außerordentlicher Professor an der Harvard Medical School Leo Anthony Celi sagte dem Boston-Globus.

Die Forscher lehrten das KI-Programm, indem sie ihm eine große Anzahl von rassenmarkierten Bildern verschiedener Körperteile zeigten, einschließlich Brust, Hand und Wirbelsäule – ohne offensichtliche Rassenmerkmale wie Hautfarbe oder Haarstruktur – und dann Sätze von unbeschrifteten Bilder. Das Programm identifizierte die Rasse in den nicht markierten Bildern mit einer Genauigkeit von mehr als 90 Prozent und konnte schwarze Patienten von weißen unterscheiden, selbst wenn die Bilder von Personen der gleichen Größe, des gleichen Alters oder Geschlechts stammten.

Die Entdeckung kann dem medizinischen Personal in gewisser Weise helfen, aber sie erhöht auch die Aussicht, dass KI-basierte Diagnosesysteme unbeabsichtigt rassistisch voreingenommene Ergebnisse erzeugen könnten, wie z. die Zeitung berichtet. Darüber hinaus würde der eigene Arzt dieser Person nicht wissen, dass die KI ihre Diagnose auf Rassendaten stützt.

Inhalt des Artikels

Ghassemi glaubt, dass die Antwort auf das Rätsel mit Melanin zusammenhängt, wo Röntgenstrahlen und CT-Scanner den höheren Melaningehalt dunklerer Haut erkennen und diese Informationen auf eine unbemerkte Weise in das digitale Bild einbetten. Dazu werden weitere Untersuchungen durchgeführt – aber nicht alle stimmen dieser Hypothese zu.

Anstatt angeborene Unterschiede zwischen Rassen zu beweisen, schlägt Alan Goodman, Professor für biologische Anthropologie am Hampshire College und Mitautor des Buches Racism Not Race, vor, dass die KI Unterschiede aufgreift, die sich aus der Geographie ergeben.

Osteoarchäologen und Genetiker haben keine Hinweise auf wesentliche Rassenunterschiede im menschlichen Genom gefunden, aber sie finden große Unterschiede zwischen Menschen, die darauf basieren, wo ihre Vorfahren lebten.

Durch die Analyse von Isotopen wie Sauerstoff, Strontium und Schwefel aus menschlichen Knochen können Forscher erfahren, wo eine Person geboren und aufgewachsen ist. Sie können Hinweise auf Krankheiten wie Osteoarthritis, Traumata, Infektionen einschließlich Lepra und Syphilis finden, die ihnen Details über die Lebensbedingungen und den Lebensstil der Person nahelegen.

„Würde die Maschine genauso gut abschneiden, wenn sie sich die geografischen Koordinaten von jemandem ansehen würden, anstatt Rasse zu verwenden? Mein Gefühl ist, dass die (KI-)Maschine genauso gut funktionieren würde“, sagte Goodman der Zeitung.

Während die KI vielleicht anhand eines Röntgenbildes feststellen kann, ob die Vorfahren einer Person aus Skandinavien, Afrika oder Asien stammen, sagt Goodman, dass es nicht um die Rasse geht. „Du nennst das Rennen. Ich nenne das geografische Variation“, sagte Goodman – aber er gab zu, dass es unklar sei, wie die KI den geografischen Standort anhand eines Röntgenbilds erkennen könnte.

Auf jeden Fall sagte Celi von Harvard, dass Ärzte zögern sollten, KI-Diagnosewerkzeuge zu verwenden, die automatisch verzerrte Ergebnisse erzeugen könnten.