Als Sundar Pichai, CEO von Google, seinen Mitarbeitern diesen Monat per E-Mail die Unternehmensprioritäten für 2024 schickte, stand die verantwortungsvolle Entwicklung von KI ganz oben auf der Liste. Einige Mitarbeiter fragen sich nun, ob Google diesem Ziel gerecht werden kann. Das kleine Team, das bisher als primärer interner KI-Ethikwächter fungierte, hat seinen Leiter verloren und wird umstrukturiert, so vier Personen, die mit den Änderungen vertraut sind. Ein Google-Sprecher sagt, dass die Arbeit in Zukunft in verstärkter Form fortgesetzt wird, lehnt es jedoch ab, Einzelheiten zu nennen.
Das Responsible Innovation-Team von Google, bekannt als RESIN, war im Office of Compliance and Integrity in der Abteilung für globale Angelegenheiten des Unternehmens angesiedelt. Es überprüfte interne Projekte auf Kompatibilität mit den KI-Prinzipien von Google, die Regeln für die Entwicklung und Nutzung der Technologie definieren, eine entscheidende Rolle im Wettlauf des Unternehmens um den Wettbewerb in der generativen KI. Laut einem Bericht hat RESIN letztes Jahr über 500 Bewertungen durchgeführt, darunter auch für den Bard-Chatbot Jahresbericht Zu den KI-Grundsätzen hat Google diesen Monat eine Arbeit veröffentlicht.
Die Rolle von RESIN schien ungewiss, seit seine Leiterin und Gründerin Jen Gennai, Direktorin für verantwortungsvolle Innovation, diese Rolle diesen Monat plötzlich aufgegeben hat, sagen die Quellen, die unter der Bedingung der Anonymität über personelle Veränderungen gesprochen haben. Gennais LinkedIn-Profil listet sie seit diesem Monat als KI-Ethik- und Compliance-Beraterin bei Google auf, was laut Quellen darauf hindeutet, dass sie das Unternehmen bald verlassen wird, wenn man bedenkt, wie sich frühere Abgänge aus dem Unternehmen entwickelt haben.
Google teilte das rund 30-köpfige Team von Gennai in zwei Personen auf. Einige bleiben bestehen, während andere in die Abteilung Vertrauen und Sicherheit überführt wurden, die den Missbrauch von Google-Diensten bekämpft und ebenfalls in der Abteilung für globale Angelegenheiten angesiedelt ist. Laut Quellen scheint niemand entlassen worden zu sein. Die Gründe für die Änderungen und die Art und Weise, wie die Verantwortlichkeiten aufgeteilt werden, konnten nicht in Erfahrung gebracht werden. Einige Quellen geben an, dass ihnen nicht mitgeteilt wurde, wie die Überprüfung der KI-Grundsätze künftig gehandhabt wird.
Unternehmenssprecher Brian Gabriel lehnt es ab, zu sagen, wie die Arbeit von RESIN zur Überprüfung von KI-Projekten in Zukunft gehandhabt wird, beschreibt die Umstrukturierung jedoch als ein Signal für Googles Engagement für eine verantwortungsvolle KI-Entwicklung. Der Schritt „rückte dieses spezielle Team für verantwortungsvolle KI in den Mittelpunkt unserer etablierten Vertrauens- und Sicherheitsbemühungen, die in unsere Produktbewertungen und -pläne einfließen“, sagt er. „Es wird uns helfen, unsere verantwortungsvolle Innovationsarbeit im gesamten Unternehmen zu stärken und zu skalieren.“
Hast du einen Tipp?
Google ist dafür bekannt, seine Reihen häufig neu zu besetzen, doch RESIN blieb seit der Gründung der Gruppe weitgehend unberührt. Obwohl andere Teams und Hunderte weitere Personen bei Google an der KI-Aufsicht arbeiten, war RESIN das prominenteste Team, dessen Aufgabenbereich alle Kerndienste von Google abdeckte.
Zusätzlich zum Weggang seines Anführers Gennai verließ RESIN diesen Monat auch eines seiner einflussreichsten Mitglieder, Sara Tangdall, führende Ethikspezialistin für KI-Prinzipien. Laut ihrem LinkedIn-Profil ist sie mittlerweile verantwortliche AI-Produktdirektorin bei Salesforce. Tangdall lehnte eine Stellungnahme ab und Gennai reagierte nicht auf Aufrufe zur Stellungnahme.
KI-Aufstand
Google gründete sein Responsible-Innovation-Team im Jahr 2018, nicht lange nachdem KI-Experten und andere im Unternehmen öffentlich gegen einen Pentagon-Vertrag namens Project Maven protestiert hatten, der Google-Algorithmen zur Analyse von Drohnenüberwachungsbildern verwendete. RESIN wurde zum zentralen Verwalter einer Reihe von KI-Grundsätzen, die nach den Protesten eingeführt wurden. Diese besagen, dass Google KI zum Wohle der Menschen einsetzen wird und niemals für Waffen oder zur Untergrabung der Menschenrechte. Gennai half beim Verfassen der Prinzipien.
Teams aus ganz Google konnten Projekte zur Prüfung durch RESIN einreichen, die Feedback gaben und manchmal Ideen blockierten, die als Verstoß gegen die KI-Prinzipien angesehen wurden. Die Gruppe stoppte die Veröffentlichung von KI-Bildgeneratoren Und Sprachsynthesealgorithmen Damit könnten Deepfakes erstellt werden.
Die Suche nach Leitlinien zu KI-Grundsätzen ist für die meisten Teams nicht zwingend erforderlich, im Gegensatz zu Überprüfungen auf Datenschutzrisiken, denen sich jedes Projekt unterziehen muss. Gennai sagte jedoch, dass sich frühe Überprüfungen von KI-Systemen auszahlen, da sie kostspielige ethische Verstöße verhindern. „Bei richtiger Umsetzung macht Responsible AI Produkte besser, indem es den Schaden aufdeckt, den unfaire Voreingenommenheit verursachen kann, und daran arbeitet, ihn zu reduzieren, wodurch die Transparenz verbessert und die Sicherheit erhöht wird.“ sagte sie während einer Google-Konferenz im Jahr 2022.