Die höchsten Bewertungen erhielten KI-Dienste für den Bildungsbereich wie Ello, das Spracherkennung nutzt, um als Leselehrer zu fungieren, und der Chatbot-Helfer Khanmigo der Khan Academy für Schüler, der es Eltern ermöglicht, die Interaktionen eines Kindes zu überwachen und eine Benachrichtigung sendet, wenn Inhaltsmoderationsalgorithmen ein Problem erkennen Austausch, der gegen die Community-Richtlinien verstößt. Der Bericht schreibt dem Erfinder von ChatGPT, OpenAI, zu, dass der Chatbot im Vergleich zur Erstveröffentlichung im letzten Jahr weniger wahrscheinlich Texte generiert, die möglicherweise für Kinder schädlich sind, und empfiehlt die Verwendung durch Pädagogen und ältere Schüler.
Neben My AI von Snapchat schnitten auch die Bildgeneratoren Dall-E 2 von OpenAI und Stable Diffusion des Startups Stability AI schlecht ab. Die Rezensenten von Common Sense warnten, dass generierte Bilder Stereotypen verstärken, Deepfakes verbreiten und Frauen und Mädchen oft auf hypersexualisierte Weise darstellen können.
Wenn Dall-E 2 gebeten wird, fotorealistische Bilder von wohlhabenden farbigen Menschen zu erstellen, entstehen Cartoons, Bilder von geringer Qualität oder Bilder, die mit Armut in Verbindung gebracht werden, stellten die Rezensenten von Common Sense fest. Ihr Bericht warnt davor, dass Stable Diffusion ein „unvorstellbares“ Risiko für Kinder darstellt, und kommt zu dem Schluss, dass Bildgeneratoren die Macht haben, „das Vertrauen so weit zu untergraben, dass Demokratie oder bürgerschaftliche Institutionen nicht mehr funktionieren können“.
„Ich denke, wir alle leiden, wenn die Demokratie ausgehöhlt wird, aber junge Menschen sind die größten Verlierer, weil sie das politische System und die Demokratie erben werden, die wir haben“, sagt Jim Steyer, CEO von Common Sense. Die gemeinnützige Organisation plant, in den kommenden Monaten und Jahren Tausende von KI-Überprüfungen durchzuführen.
Common Sense Media veröffentlichte seine Bewertungen und Rezensionen kurz nachdem die Generalstaatsanwälte Klage gegen Meta eingereicht hatten, weil Meta eine Gefahr für Kinder darstelle, und das zu einer Zeit, in der Eltern und Lehrer gerade erst anfangen, über die Rolle der generativen KI in der Bildung nachzudenken. Die im letzten Monat erlassene Durchführungsverordnung von Präsident Joe Biden zu KI verpflichtet den Bildungsminister, innerhalb des nächsten Jahres Leitlinien für den Einsatz der Technologie im Bildungswesen herauszugeben.
Susan Mongrain-Nock, Mutter von zwei Kindern in San Diego, weiß, dass ihre 15-jährige Tochter Lily Snapchat nutzt, und hat Bedenken, dass sie schädliche Inhalte sieht. Sie hat versucht, Vertrauen aufzubauen, indem sie mit ihrer Tochter darüber gesprochen hat, was sie auf Snapchat und TikTok sieht, sagt aber, dass sie wenig darüber weiß, wie künstliche Intelligenz funktioniert, und dass sie neue Ressourcen begrüßt.