vor zwei Jahren, Twitter startete den vielleicht ehrgeizigsten Versuch der Technologiebranche zur algorithmischen Transparenz. Seine Forscher schrieben Papiere, die zeigten, dass das KI-System von Twitter zum Zuschneiden von Bildern in Tweets weiße Gesichter und Frauen bevorzugte, und das Posts von der politischen Rechten in mehreren Ländern, darunter die USA, Großbritannien und Frankreich, erhielten einen größeren algorithmischen Schub als die von links.
Anfang Oktober letzten Jahres, als Elon Musk eine gerichtliche Frist für den Abschluss seiner 44-Milliarden-Dollar-Übernahme von Twitter drohte, waren die neuesten Forschungsergebnisse des Unternehmens fast fertig. Es zeigte sich, dass ein maschinelles Lernprogramm einige Tweets, die einen von 350 Begriffen im Zusammenhang mit Identität, Politik oder Sexualität erwähnten, darunter „schwul“, „Muslim“ und „taub“, fälschlicherweise herabstufte, weil ein System die Ansicht von verleumderischen Tweets einschränken sollte Randgruppen verhinderten auch Posts, die diese Gemeinschaften feierten. Das Ergebnis – und eine von Twitter entwickelte Teillösung – könnte anderen sozialen Plattformen helfen, KI besser zur Überwachung von Inhalten einzusetzen. Aber würde irgendjemand jemals die Forschung lesen können?
Musk hatte Monate zuvor algorithmische Transparenz unterstützt und gesagt, er wolle den Inhaltsempfehlungscode von Twitter „öffnen“. Auf der anderen Seite hatte Musk angekündigt, dass er populäre Konten, die wegen regelwidriger Tweets dauerhaft gesperrt wurden, wieder aktivieren würde. Er hatte sich auch über einige der gleichen Gemeinschaften lustig gemacht, die die Forscher von Twitter schützen wollten, und sich über ein undefiniertes „Wake-Mind-Virus.“ Zusätzlich beunruhigend ist, dass die KI-Wissenschaftler von Musk bei Tesla im Allgemeinen keine Forschungsergebnisse veröffentlicht haben.
Die KI-Ethikforscher von Twitter entschieden schließlich, dass ihre Aussichten unter Musk zu düster waren, um zu warten, bis ihre Studie in eine akademische Zeitschrift aufgenommen oder sogar mit dem Schreiben abgeschlossen wurde ein Firmenblog Post. Also weniger als drei Wochen, bevor Musk am 27. Oktober endgültig den Besitz übernahm, waren sie da die Moderation-Bias-Studie auf den Open-Access-Dienst Arxiv gestürzt, wo Wissenschaftler Forschungsergebnisse veröffentlichen, die noch nicht von Experten begutachtet wurden.
„Wir waren zu Recht besorgt darüber, was dieser Führungswechsel mit sich bringen würde“, sagt Rumman Chowdhury, der damals technischer Direktor der META-Gruppe für Ethik, Transparenz und Verantwortlichkeit für maschinelles Lernen auf Twitter war. „Es gibt viele Ideologien und Missverständnisse darüber, welche Art von Arbeitsethik-Teams sie als Teil einer Art aufgeweckter liberaler Agenda tun, anstatt tatsächlich wissenschaftliche Arbeit zu sein.“
Die Besorgnis über das Musk-Regime veranlasste die Forscher von Cortex, Twitters Organisation für maschinelles Lernen und Forschung, viel früher als geplant heimlich eine Flut von Studien zu veröffentlichen, so Chowdhury und fünf weitere ehemalige Mitarbeiter. Die Ergebnisse umfassten Themen wie Fehlinformationen und Empfehlungsalgorithmen. Über den hektischen Vorstoß und die veröffentlichten Artikel wurde bisher nicht berichtet.
Die Forscher wollten das bei Twitter entdeckte Wissen für jedermann nutzbar aufbewahren und andere soziale Netzwerke verbessern. „Ich bin sehr davon überzeugt, dass Unternehmen offener über ihre Probleme sprechen und versuchen sollten, die Verantwortung zu übernehmen und den Menschen zu zeigen, dass es machbar ist“, sagt Kyra Yee, Hauptautorin des Moderationspapiers.
Twitter und Musk antworteten nicht auf eine detaillierte Anfrage per E-Mail um einen Kommentar zu dieser Geschichte.
Das Team einer anderen Studie arbeitete die ganze Nacht, um letzte Änderungen vorzunehmen, bevor es an dem Tag, an dem Musk Twitter nahm, auf „Public on Arxiv“ drückte, sagt ein Forscher, der aus Angst vor Vergeltungsmaßnahmen von Musk anonym spricht. „Wir wussten, dass die Landebahn geschlossen werden würde, wenn der Elon-Jumbo-Jet landete“, sagt die Quelle. „Wir wussten, dass wir dies tun mussten, bevor die Übernahme abgeschlossen wurde. Wir können eine Fahne in den Boden stecken und sagen, dass sie existiert.“
Die Angst war nicht unangebracht. Die meisten Twitter-Forscher verloren unter Musk ihren Job oder kündigten. Im META-Team entließ Musk am 4. November alle bis auf eine Person, und das verbleibende Mitglied, Mitbegründer und Forschungsleiter Luca Belli, kündigte später im Monat.