Während Lehrer auf Tools tippen, um zu erkennen, ob Schüler ChatGPT zum Betrügen nutzen, sagt OpenAI, dass Sie sich nicht die Mühe machen sollten: Die Tools sind nicht zuverlässig.
Das Unternehmen gab die Mitteilung in einem neuen heraus FAQ Aufklärung von Pädagogen über den Einsatz von ChatGPT in Schulen, einschließlich der möglichen Fallstricke bei der Erkennung von KI-geschriebenem Text.
Es sind eine Reihe von Tools entstanden, die untersuchen, wie KI-gestützte Chatbots Schülern dabei helfen können, bei ihren Hausaufgaben und Tests zu schummeln. Laut OpenAI birgt die Abhängigkeit von einem Tool zum Herausfiltern von KI-geschriebenem Text aus der Arbeit eines Studenten jedoch viele Probleme.
„Während einige (einschließlich OpenAI) Tools veröffentlicht haben, die vorgeben, KI-generierte Inhalte zu erkennen, hat keines davon nachweislich zuverlässig zwischen KI-generierten und von Menschen generierten Inhalten unterscheiden können“, so das Unternehmen schrieb in den FAQ.
(Bildnachweis: Gabby Jones/Bloomberg über Getty Images)
OpenAI fügte hinzu: „Eine unserer wichtigsten Erkenntnisse war, dass diese Tools manchmal darauf hindeuten, dass von Menschen geschriebene Inhalte von KI generiert wurden.“ Die eigene Untersuchung des Unternehmens ergab beispielsweise, dass KI-Detektionstools von Menschen geschriebene Texte des Dramatikers William Shakespeare und der Unabhängigkeitserklärung fälschlicherweise als KI-generiert kennzeichnen könnten.
„Es gab auch Hinweise darauf, dass es unverhältnismäßig starke Auswirkungen auf Schüler haben könnte, die Englisch als Zweitsprache gelernt hatten oder gerade lernten, und auf Schüler, deren Schreiben besonders formelhaft oder prägnant war“, fügte das Unternehmen hinzu.
Die Ergebnisse könnten dazu führen, dass ein Lehrer einen Schüler fälschlicherweise des Betrugs mit ChatGPT beschuldigt. OpenAI stellte auch fest, dass dies bei einigen Lehrern der Fall sein könnte zurückgreifen dazu, Text, von dem sie vermuten, dass er KI-generiert ist, in ChatGPT einzugeben und zu fragen, ob der Inhalt geschrieben wurde. Dieser Ansatz ist jedoch auch fehlerhaft, da das Chatbot-Programm nur über begrenzten Speicher verfügt und die Gesprächsverläufe anderer Benutzer nicht abrufen kann. OpenAI weist sogar darauf hin, dass ChatGPT „manchmal Antworten auf Fragen wie „Haben Sie das geschrieben“ erfinden kann? [essay]?’ oder ‚Könnte das von KI geschrieben worden sein?‘“
Die FAQ weisen sicherlich auf die Herausforderungen bei der Erkennung von KI-geschriebenem Text hin. Aber OpenAI bietet nicht gerade eine Lösung zur Erkennung von ChatGPT-basiertem Betrug. Stattdessen plädiert das Unternehmen für einen Ansatz, der auf Transparenz setzt und bei dem der Schüler dem Lehrer und seinen Klassenkameraden zeigt, wie er den Chatbot zur Beantwortung von Fragen nutzt.
Von unseren Redakteuren empfohlen
„Studenten können ihre Fähigkeit zur Interaktion mit KI und ihr Verständnis für die Mängel von KI-Systemen unter Beweis stellen“, sagte OpenAI. „Pädagogen können die Qualität der gestellten Fragen, die Relevanz der erhaltenen Informationen und wie gut der Schüler es verstanden hat, diese Informationen zu hinterfragen, zu überprüfen und mögliche Verzerrungen zu berücksichtigen, beurteilen.“
Eine Möglichkeit, dem Betrügen mit ChatGPT Einhalt zu gebieten, besteht natürlich darin, den Einsatz an einer Schule einfach zu verbieten und Schüler zu zwingen, Aufgaben ohne Internetzugang zu erledigen. OpenAI erwartet jedoch, dass der Einsatz von KI-Tools in der Gesellschaft „alltäglich“ wird, was die Notwendigkeit unterstreicht, Schülern den verantwortungsvollen Umgang mit der Technologie beizubringen.
Daher plädiert OpenAI dafür, dass Pädagogen ChatGPT als Lehrmittel nutzen. In einem verwandten Blogeintrag, teilte das Unternehmen mit, wie mehrere Lehrer ChatGPT mit ihren Schülern nutzen, einschließlich der Umwandlung des KI-Programms in einen Diskussionspartner. In dem Blogbeitrag wird außerdem darauf hingewiesen, dass ChatGPT genutzt werden kann, um Pädagogen dabei zu helfen, schnell Quizze, Tests und Unterrichtspläne für ihre Schüler zu erstellen. Es enthält sogar mehrere Beispielaufforderungen, die Lehrer bei ihrer Arbeit unterstützen können.
Holen Sie sich unsere besten Geschichten!
Melden Sie sich an für Was ist jetzt neu? um jeden Morgen unsere Top-Storys in Ihren Posteingang zu bekommen.
Dieser Newsletter kann Werbung, Angebote oder Affiliate-Links enthalten. Wenn Sie einen Newsletter abonnieren, erklären Sie sich damit einverstanden Nutzungsbedingungen Und Datenschutzrichtlinie. Sie können den Newsletter jederzeit abbestellen.