Eine britische Regulierungsbehörde hat dass KI-Chatbots möglicherweise die Privatsphäre von Kindern gefährden. Das Information Commissioner’s Office (ICO), die Datenschutzaufsichtsbehörde des Landes, erließ eine vorläufige Durchsetzungsmitteilung gegen das Unternehmen wegen „möglicher Nichtbeachtung der ordnungsgemäßen Bewertung der damit verbundenen Datenschutzrisiken“.
Informationskommissar John Edwards sagte, die vorläufigen Ergebnisse der Untersuchung des ICO deuten auf ein „besorgniserregendes Versäumnis von Snap hin, die Datenschutzrisiken für Kinder und andere Benutzer angemessen zu identifizieren und zu bewerten“, bevor My AI eingeführt wurde. Das ICO stellte fest, dass Snap möglicherweise den Chatbot im Vereinigten Königreich blockiert, wenn es seinen Bedenken nicht ausreichend Rechnung trägt.
Allerdings bedeutet die Vorabmitteilung nicht unbedingt, dass das ICO gegen Snap vorgehen wird oder dass das Unternehmen gegen Datenschutzgesetze verstoßen hat. Es wird die Eingaben von Snap prüfen, bevor es eine endgültige Entscheidung trifft.
„Meine KI hat einen strengen rechtlichen und datenschutzrechtlichen Überprüfungsprozess durchlaufen, bevor sie öffentlich zugänglich gemacht wurde“, sagte ein Snap-Sprecher Reuters. „Wir werden weiterhin konstruktiv mit dem ICO zusammenarbeiten, um sicherzustellen, dass es mit unseren Risikobewertungsverfahren vertraut ist.“
Das ICO gibt an, dass Snapchat im Mai im Vereinigten Königreich 21 Millionen monatlich aktive Nutzer hatte, von denen viele zwischen 13 und 17 Jahre alt waren wichtigste Messaging-Plattform des Landes. Die Funktion wurde dann von Snap im April für alle britischen Benutzer aktiviert.
Kurz nachdem Snap den Chatbot eingeführt hatte, äußerten Eltern Bedenken hinsichtlich My AI, und zwar nicht nur wegen Datenschutzaspekten. „Ich glaube nicht, dass ich bereit bin, meinem Kind beizubringen, Menschen und Maschinen emotional zu trennen, wenn sie aus ihrer Sicht im Wesentlichen gleich aussehen“, sagte die Mutter eines 13-Jährigen Im April. „Ich denke einfach, dass es eine wirklich klare Linie gibt [Snapchat] überquert.“
Das ICO hat in der Vergangenheit hohe Geldstrafen gegen Social-Media-Plattformen wegen Missbrauchs von Kinderdaten verhängt. Anfang dieses Jahres stellte das Unternehmen fest, dass die Plattform gegen Datenschutzgesetze verstoßen hatte, unter anderem beim Umgang mit personenbezogenen Daten von Kindern.