Zoom, das Unternehmen Das Unternehmen, das die Teilnahme an Geschäftstreffen in Pyjamahosen normalisierte, musste diese Woche die Stummschaltung aufheben, um den Benutzern zu versichern, dass es ohne deren Zustimmung keine personenbezogenen Daten zum Trainieren künstlicher Intelligenz verwenden würde.
Ein aufmerksamer Hacker News-Benutzer letzte Woche bemerkte dass eine Aktualisierung der Allgemeinen Geschäftsbedingungen von Zoom im März dem Unternehmen im Wesentlichen freie Hand zu geben schien, Sprach-, Video- und andere Daten aufzuschlürfen und in maschinelle Lernsysteme zu schaufeln.
In den neuen Bedingungen heißt es, dass Kunden „dem Zugriff, der Nutzung, der Sammlung, der Erstellung, der Änderung, der Verteilung, der Verarbeitung, der Weitergabe, der Wartung und der Speicherung der vom Dienst generierten Daten durch Zoom“ zustimmen, und zwar für Zwecke wie „maschinelles Lernen oder künstliche Intelligenz (einschließlich Schulung und Optimierung). von Algorithmen und Modellen).“
Die Entdeckung löste kritische Reaktionen aus Zeitungsartikel Und wütende Beiträge über sozialen Medien. Bald machte Zoom einen Rückzieher. Am Montag schrieb Smita Hasham, Chief Product Officer von Zoom, a Blogeintrag Darin heißt es: „Wir werden ohne Ihre Zustimmung keine Audio-, Video- oder Chat-Inhalte von Kunden verwenden, um unsere Modelle für künstliche Intelligenz zu trainieren.“ Das Unternehmen hat auch seine Geschäftsbedingungen aktualisiert, um dasselbe auszudrücken.
Diese Aktualisierungen scheinen beruhigend genug zu sein, aber natürlich klicken viele Zoom-Benutzer oder Administratoren von Geschäftskonten möglicherweise auf „OK“, um die Bedingungen zu bestätigen, ohne sich vollständig darüber im Klaren zu sein, was sie damit preisgeben. Und Mitarbeiter, die zur Nutzung von Zoom verpflichtet sind, sind sich der Entscheidung ihres Arbeitgebers möglicherweise nicht bewusst. Ein Anwalt Anmerkungen dass die Bedingungen Zoom weiterhin erlauben, viele Daten ohne Zustimmung zu sammeln. Ein Sprecher des Unternehmens, CJ Lin, sagt, dass Kunden wählen können, ob sie generative KI-Funktionen aktivieren oder ihre Inhalte mit Zoom teilen möchten, um das Unternehmen bei der Verbesserung seiner Produkte zu unterstützen.
Die Verwirrung zeigt den Mangel an sinnvollem Datenschutz in einer Zeit, in der der Boom der generativen KI die Technologiebranche noch datenhungriger gemacht hat, als sie ohnehin schon war. Unternehmen betrachten generative KI inzwischen als eine Art Monster muss gefüttert werden um jeden Preis – auch wenn nicht immer klar ist, wofür genau diese Daten benötigt werden oder was diese zukünftigen KI-Systeme letztendlich tun könnten.
Der Aufstieg von KI-Bildgeneratoren wie DALL-E 2 und Midjourny, gefolgt von ChatGPT und anderen cleveren, aber fehlerhaften Chatbots, wurde durch riesige Mengen an Trainingsdaten – viele davon urheberrechtlich geschützt – ermöglicht, die aus dem Internet geborgen wurden. Und alle möglichen Unternehmen versuchen derzeit, die Daten, die sie besitzen oder die von ihren Kunden und Benutzern generiert werden, für die Entwicklung generativer KI-Tools zu nutzen.
Zoom ist bereits auf dem generativen Zug. Im Juni hat das Unternehmen eingeführt zwei Textgenerierungsfunktionen zum Zusammenfassen von Besprechungen und zum Verfassen von E-Mails darüber. Zoom könnte möglicherweise Daten aus den Videokonferenzen seiner Benutzer nutzen, um ausgefeiltere Algorithmen zu entwickeln. Diese könnten das Verhalten einzelner Personen in Besprechungen zusammenfassen oder analysieren oder vielleicht sogar ein virtuelles Abbild einer Person darstellen, deren Verbindung vorübergehend unterbrochen wurde oder die keine Zeit zum Duschen hatte.
Das Problem bei den Bemühungen von Zoom, mehr Daten zu erfassen, besteht darin, dass sie den allgemeinen Stand der Dinge widerspiegeln, wenn es um unsere persönlichen Daten geht. Viele Technologieunternehmen profitieren bereits von unseren Informationen, und viele von ihnen wie Zoom sind jetzt auf der Suche nach Möglichkeiten, mehr Daten für generative KI-Projekte zu gewinnen. Und doch liegt es an uns, den Nutzern, zu versuchen, zu überwachen, was sie tun.
„Unternehmen haben den extremen Wunsch, so viele Daten wie möglich zu sammeln“, sagt Janet Haven, Geschäftsführerin des Think Tanks Data and Society. „Das ist das Geschäftsmodell: Daten sammeln und Produkte auf der Grundlage dieser Daten entwickeln oder diese Daten an Datenmakler verkaufen.“
In den USA gibt es kein föderales Datenschutzgesetz, sodass Verbraucher den Folgen des durch ChatGPT verursachten Datenhungers stärker ausgesetzt sind als Menschen in der EU. Vorgeschlagene Gesetze, wie z Amerikanisches Datenschutz- und Datenschutzgesetzgibt Anlass zur Hoffnung, strengere bundesstaatliche Regeln für die Datenerhebung und -nutzung sowie die der Biden-Regierung einzuführen AI Bill of Rights fordert zudem einen standardmäßigen Datenschutz. Aber im Moment ist ein solcher öffentlicher Widerstand als Reaktion auf die Schritte von Zoom der effektivste Weg, den Datenhunger der Unternehmen einzudämmen. Leider ist dies kein zuverlässiger Mechanismus, um jede fragwürdige Entscheidung von Unternehmen zu erfassen, die versuchen, im Bereich KI zu konkurrieren.
In einer Zeit, in der die aufregendsten und am meisten gelobten neuen Technologien auf Bergen von von Verbrauchern gesammelten Daten aufbauen, oft auf ethisch fragwürdige Weise, scheint es, dass neue Schutzmaßnahmen nicht früh genug kommen können. „Jeder Einzelne muss Maßnahmen ergreifen, um sich selbst zu schützen“, sagt Havens. „Das steht im Widerspruch zu der Vorstellung, dass es sich hier um ein gesellschaftliches Problem handelt.“
Aktualisiert am 10.08.2023, 19:15 Uhr EDT: Dieser Artikel wurde mit einem Kommentar von Zoom aktualisiert.