ROM (AP) – Der Datenschutzbeauftragte der italienischen Regierung sagte am Freitag, dass er die Software für künstliche Intelligenz ChatGPT vorübergehend blockiert im Zuge einer Datenpanne.
In einer Erklärung auf ihrer Website bezeichnete die italienische Datenschutzbehörde ihre Maßnahmen als vorläufig, „bis ChatGPT die Privatsphäre respektiert“. Die Maßnahme der Aufsichtsbehörde besteht darin, das Unternehmen vorübergehend daran zu hindern, italienische Benutzerdaten zu speichern.
Das in den USA ansässige OpenAI, das ChatGPT entwickelt hat, hat am Freitag nicht sofort eine Bitte um Stellungnahme beantwortet.
Während einige öffentliche Schulen und Universitäten auf der ganzen Welt die ChatGPT-Website von ihren lokalen Netzwerken blockiert haben wegen Plagiatsproblemen von Studenten ist nicht klar, wie Italien dies auf landesweiter Ebene blockieren würde.
Es ist auch unwahrscheinlich, dass sich der Schritt auf Anwendungen von Unternehmen auswirkt, die bereits Lizenzen mit OpenAI haben, um dieselbe Technologie zu verwenden, die den Chatbot antreibt, wie z. B. die Bing-Suchmaschine von Microsoft.
Die KI-Systeme, die solche Chatbots antreiben, bekannt als große Sprachmodelle, sind in der Lage, menschliche Schreibstile nachzuahmen basierend auf der riesigen Fundgrube an digitalen Büchern und Online-Schriften, die sie aufgenommen haben.
Die italienische Aufsichtsbehörde sagte, OpenAI müsse ihr innerhalb von 20 Tagen melden, welche Maßnahmen sie ergriffen habe, um die Vertraulichkeit der Benutzerdaten zu gewährleisten oder mit einer Geldstrafe von bis zu 20 Millionen Euro (fast 22 Millionen US-Dollar) oder 4 % des weltweiten Jahresumsatzes rechnen müssen.
In der Erklärung der Agentur heißt es, dass ChatGPT am 20. März mit einem Datenverlust konfrontiert war, „in Bezug auf die Gespräche der Benutzer und Informationen im Zusammenhang mit der Bezahlung der Abonnenten für den Dienst“.
OpenAI gab zuvor bekannt, dass es ChatGPT am 20. März offline nehmen musste, um einen Fehler zu beheben, der es einigen Leuten ermöglichte, die Titel oder Betreffzeilen des Chatverlaufs anderer Benutzer zu sehen.
„Unsere Untersuchung hat auch ergeben, dass 1,2 % der ChatGPT Plus-Benutzer möglicherweise persönliche Daten an einen anderen Benutzer weitergegeben haben“, sagte das Unternehmen. „Wir glauben, dass die Zahl der Benutzer, deren Daten tatsächlich an jemand anderen weitergegeben wurden, extrem gering ist, und wir haben diejenigen kontaktiert, die möglicherweise betroffen sind.“
Italiens Datenschutzbeauftragter beklagte „das Fehlen einer Benachrichtigung der Benutzer und aller Beteiligten, deren Daten von OpenAI gesammelt werden“ und „vor allem das Fehlen einer Rechtsgrundlage, die das massive Sammeln und Speichern personenbezogener Daten mit dem Ziel rechtfertigt „Trainings“-Algorithmen, die der Funktionsweise der Plattform zugrunde liegen.“
Die Agentur sagte, dass die von ChatGPT bereitgestellten Informationen „nicht immer echten Daten entsprechen, wodurch die Speicherung ungenauer personenbezogener Daten festgestellt wird“.
Schließlich wurde festgestellt, „dass es keinerlei Filter gibt, um das Alter der Benutzer zu überprüfen, wodurch Minderjährige Antworten ausgesetzt werden, die für ihren Entwicklungsstand und ihr Selbstbewusstsein absolut ungeeignet sind“.
Eine Gruppe von Wissenschaftlern und führenden Vertretern der Technologiebranche hat am Mittwoch einen Brief veröffentlicht, in dem Unternehmen wie OpenAI aufgefordert werden, die Entwicklung leistungsfähigerer KI-Modelle zu unterbrechen bis zum Herbst, um der Gesellschaft Zeit zu geben, die Risiken abzuwägen.
Der CEO des in San Francisco ansässigen Unternehmens, Sam Altman, gab diese Woche bekannt, dass er sich im Mai auf eine Reise durch sechs Kontinente begibt, um mit Benutzern und Entwicklern über die Technologie zu sprechen. Dazu gehört ein geplanter Zwischenstopp in Brüssel, wo die Gesetzgeber der Europäischen Union weitreichende neue Regeln ausgehandelt haben, um risikoreiche KI-Tools einzuschränken.
Altman sagte, seine Stationen in Europa würden Madrid, München, London und Paris umfassen.
___
O’Brien berichtete aus Providence, Rhode Island. AP Business Writer Kelvin Chan hat aus London beigetragen.