Allen, ein Daten Wissenschaftler, und Massachi, ein Software-Ingenieur, arbeitete fast vier Jahre lang bei Facebook an einigen der hässlicheren Aspekte der sozialen Medien, der Bekämpfung von Betrug und Wahlmanipulation. Sie kannten sich nicht, aber beide kündigten 2019, frustriert über den Mangel an Unterstützung durch die Führungskräfte. „Die Arbeit, die Teams wie das, in dem ich war, bürgerliche Integrität, wurde vergeudet“, sagte Massachi in ein kürzlicher Konferenzvortrag„Es war schlimmer als ein Verbrechen, es war ein Fehler.“
Massachi hatte als Erster die Idee, sein bei Facebook erworbenes Fachwissen zu nutzen, um die Öffentlichkeit stärker auf die Gefahren sozialer Plattformen aufmerksam zu machen. Gemeinsam mit Allen gründete er das gemeinnützige Integrity Institute. Ende 2021nach einer ehemaliger Kollege hat sie verbunden. Der Zeitpunkt war perfekt: Frances Haugen, eine weitere ehemalige Facebook-Mitarbeiterin, hatte gerade eine Fülle von Unternehmensdokumenten geleakt und damit neue Anhörungen der US-Regierung und anderer Länder über Probleme mit sozialen Medien ausgelöst. Sie schloss sich einer neuen Klasse von gemeinnützigen Technologieorganisationen wie dem Center for Humane Technology und All Tech Is Human an, die von Leuten gegründet wurden, die in der Industrie arbeiten und sich öffentlich für die Sache einsetzen wollten.
Massachi und Allen haben ihre gemeinnützige Organisation, die zunächst von Allen finanziert wurde, mit der Kultur eines Tech-Startups durchdrungen. Die ersten Mitarbeiter mit technischem, politischem oder philanthropischem Hintergrund verdienten nicht viel und opferten ihr Gehalt für das Gemeinwohl, während sie schnell eine Reihe detaillierter Anleitungen für Technologieunternehmen zu Themen wie der Verhinderung von Wahlbeeinflussung. Große Technologie-Spender haben gemeinsam mehrere Millionen Dollar zugesagt, darunter die Knight-, Packard-, MacArthur- und Hewlett-Stiftungen sowie das Omidyar Network. Durch ein universitätsgeführtes Konsortiumwurde das Institut dafür bezahlt, der Europäischen Union technologiepolitische Beratung zu leisten. Und die Organisation arbeitete anschließend mit Nachrichtenagenturen wie WIRED zusammen, um Probleme auf Technologieplattformen zu untersuchen.
Um seine Kapazitäten über die kleine Belegschaft hinaus zu erweitern, baute das Institut ein externes Netzwerk aus zwei Dutzend Gründungsexperten auf, die es um Rat oder Forschungshilfe bitten konnte. Das Netzwerk der sogenannten Institutsmitglieder wuchs in den folgenden Jahren schnell und umfasste 450 Personen aus aller Welt. Es entwickelte sich zu einem Treffpunkt für Techniker, die im Zuge der massiven Entlassungen bei Technologieplattformen entlassen worden waren. Dies hatte Vertrauen und Sicherheit bzw. Integrität erheblich beeinträchtigt – Rollen, die bei Unternehmen wie Meta und X für die Moderation und Richtlinien von Inhalten zuständig sind. Wer dem Netzwerk des Instituts beitrat (der kostenlos ist, aber eine Überprüfung erfordert), erhielt Zugang zu einem Teil der Slack-Community, wo er sich über seine Arbeit unterhalten und Stellenangebote austauschen konnte.
Im März letzten Jahres begannen sich innerhalb des Instituts große Spannungen aufzubauen, als Massachi ein internes Dokument auf Slack mit dem Titel „Wie wir arbeiten“ vorlegte, das die Verwendung von Begriffen wie „Solidarität“, „radikal“ und „freier Markt“ verbot, die seiner Meinung nach parteiisch und provokant rüberkämen. Er riet auch dazu, den Begriff BIPOC zu vermeiden, ein Akronym für „Schwarze, Indigene und People of Color“, das seiner Meinung nach aus dem „Aktivistenraum“ stammt. Sein Manifest schien die Arbeitsplatzgrundsätze widerzuspiegeln, die die Kryptowährungsbörse Coinbase im Jahr 2020 veröffentlicht hatte und die Diskussionen über politische und soziale Themen untersagten, die nicht zum Kern des Unternehmens gehörten, was ihm die Kritik einiger anderer Tech-Mitarbeiter und Führungskräfte einbrachte.
„Wir sind ein international ausgerichtetes Open-Source-Projekt. Wir sind keine liberale Non-Profit-Organisation mit Sitz in den USA. Handeln Sie entsprechend“, schrieb Massachi und forderte die Mitarbeiter auf, „hervorragende Maßnahmen“ zu ergreifen und „altmodische Worte“ zu verwenden. Mindestens ein paar Mitarbeiter nahmen Anstoß daran und hielten die Regeln für rückständig und unnötig. Eine Institution, die sich der schwierigen Herausforderung der Moderation von Redebeiträgen verschrieben hat, musste sich nun zu Hause mit denselben Problemen auseinandersetzen.