Bitten Sie das neue Tool für künstliche Intelligenz ChatGPT, einen Aufsatz über die Ursache des amerikanischen Bürgerkriegs zu schreiben und Sie können zusehen, wie es in Sekundenschnelle eine überzeugende Hausarbeit erstellt.
Das ist einer der Gründe, warum New Yorker Schulbeamte diese Woche damit begonnen haben, das beeindruckende, aber umstrittene Schreibwerkzeug zu blockieren, das Absätze mit menschenähnlichem Text erzeugen kann.
Die Entscheidung des größten US-Schulbezirks, die ChatGPT-Website auf Schulgeräten und -netzwerken einzuschränken, könnte weitreichende Auswirkungen auf andere Schulen haben, und Lehrer müssen sich bemühen, herauszufinden, wie sie Betrug verhindern können. Die Macher von ChatGPT sagen, dass sie auch nach Wegen suchen, um Missbrauch zu erkennen.
Das kostenlose Tool gibt es erst seit fünf Wochen, aber es wirft bereits schwierige Fragen zur Zukunft der KI in der Bildung, der Technologiebranche und einer Vielzahl von Berufen auf.
WAS IST CHATGPT?
ChatGPT wurde am 30. November eingeführt, ist aber Teil einer breiteren Reihe von Technologien, die vom in San Francisco ansässigen Startup OpenAI entwickelt wurden, das eine enge Beziehung zu Microsoft hat.
Es ist Teil einer neuen Generation von KI-Systemen die sich unterhalten, bei Bedarf lesbaren Text generieren und sogar neuartige Bilder und Videos produzieren können, basierend auf dem, was sie aus einer riesigen Datenbank mit digitalen Büchern, Online-Schriften und anderen Medien gelernt haben.
Aber im Gegensatz zu früheren Iterationen sogenannter „großer Sprachmodelle“ wie GPT-3 von OpenAI, das 2020 eingeführt wurde, ist das ChatGPT-Tool für jeden mit einer Internetverbindung kostenlos verfügbar und benutzerfreundlicher gestaltet. Es funktioniert wie ein schriftlicher Dialog zwischen dem KI-System und der Person, die ihm Fragen stellt.
Millionen von Menschen haben im letzten Monat damit gespielt, um alberne Gedichte oder Lieder zu schreiben, um zu versuchen, es zu Fehlern zu verleiten, oder für praktischere Zwecke wie das Verfassen einer E-Mail. All diese Abfragen tragen auch dazu bei, dass es intelligenter wird.
WAS SIND DIE Fallstricke?
Wie bei ähnlichen Systemen kann ChatGPT überzeugende Prosa erzeugen, aber das bedeutet nicht, dass das, was es sagt, sachlich oder logisch ist.
Seine Einführung kam mit wenig Anleitung für die Verwendung, außer einem Versprechen, dass ChatGPT zugeben wird, wenn es falsch ist, „falsche Prämissen“ in Frage stellt und Anfragen ablehnt, die beleidigende Antworten generieren sollen. Seitdem hat seine Popularität seine Schöpfer jedoch dazu veranlasst, zu versuchen, die Erwartungen einiger Leute zu senken.
„ChatGPT ist unglaublich begrenzt, aber in einigen Dingen gut genug, um einen irreführenden Eindruck von Größe zu erwecken“, sagte Sam Altman, CEO von OpenAI, im Dezember auf Twitter.
Altman fügte hinzu, dass „es ein Fehler ist, sich jetzt bei irgendetwas Wichtigem darauf zu verlassen“.
„Es ist eine Vorschau auf den Fortschritt; Wir haben viel zu tun, was Robustheit und Wahrhaftigkeit betrifft.“
KANN ES ZUM SCHREIBEN VON SCHULARBEITEN VERWENDET WERDEN?
Dies ist, was ChatGPT sagte, als The Associated Press es bat, diese Frage in Großbuchstaben aus der Perspektive eines Schulleiters zu beantworten, der eine kurze Nachricht durch das PA-System einer Schule rief:
„VERWENDEN SIE CHATGPT ODER ANDERE AUTOMATISIERTE SCHREIBWERKZEUGE FÜR SCHULAUFGABEN NICHT. DAS IST Cheaten und wird nicht toleriert. FALLS SIE BEI DER VERWENDUNG VON CHATGPT ODER EINEM ANDEREN AUTOMATISIERTEN SCHREIBTOOL FÜR SCHULARBEITEN ERWISCHT WERDEN, WIRD ES ERNSTE FOLGEN HABEN.“
Aber als er gebeten wurde, die gleiche Frage selbst zu beantworten, bot ChatGPT diese maßvollere Warnung an: „Als allgemeine Regel ist es nicht angemessen, ChatGPT oder ein anderes automatisiertes Schreibwerkzeug für Schularbeiten zu verwenden, da dies als Betrug angesehen wird und dies nicht tut den Schülern langfristig zugute kommen.“
WAS SAGEN SCHULEN?
Viele Schulbezirke bemühen sich immer noch, herauszufinden, wie sie Richtlinien festlegen können, ob und wie sie verwendet werden können.
Das New Yorker Bildungsministerium sagte am Donnerstag, dass es den Zugriff auf Schulnetzwerke und -geräte einschränkt, weil es sich Sorgen über negative Auswirkungen auf das Lernen der Schüler sowie „Bedenken hinsichtlich der Sicherheit und Genauigkeit von Inhalten“ macht.
Aber es gibt keinen Grund, einen Schüler daran zu hindern, von einem privaten Telefon oder Computer zu Hause aus auf ChatGPT zuzugreifen.
„Während das Tool in der Lage sein mag, schnelle und einfache Antworten auf Fragen zu geben, baut es keine kritischen Denk- und Problemlösungsfähigkeiten auf, die für den akademischen und lebenslangen Erfolg unerlässlich sind“, sagte die Sprecherin der Schule, Jenna Lyle.
MENSCH ODER KI?
„Um festzustellen, ob etwas von einem Menschen oder einer KI geschrieben wurde, können Sie auf das Fehlen persönlicher Erfahrungen oder Emotionen achten, auf Inkonsistenzen im Schreibstil prüfen und auf die Verwendung von Füllwörtern oder sich wiederholenden Sätzen achten. Das können Anzeichen dafür sein, dass der Text von einer KI generiert wurde.“
Das sagte ChatGPT einem AP-Reporter, als er gefragt wurde, wie man den Unterschied erkennt.
OpenAI sagte diese Woche in einer von Menschen geschriebenen Erklärung, dass es plant, mit Pädagogen zusammenzuarbeiten, wenn es daraus lernt, wie Menschen mit ChatGPT in der realen Welt experimentieren.
„Wir möchten nicht, dass ChatGPT für irreführende Zwecke in Schulen oder anderswo verwendet wird, deshalb entwickeln wir bereits Gegenmaßnahmen, um jedem zu helfen, von diesem System generierten Text zu identifizieren“, sagte das Unternehmen.
BEDROHT DAS GOOGLE?
Es gab einige Spekulationen, dass ChatGPT das jetzt von Google dominierte Internet-Suchgeschäft auf den Kopf stellen könnte, aber der Technologieriese arbeitet seit Jahren an einer ähnlichen Technologie – er ist nur vorsichtiger, wenn es darum geht, sie in freier Wildbahn freizugeben.
Es war Google, das dazu beigetragen hat, den Trend zu immer größeren, immer intelligenteren KI-Sprachmodellen anzustoßen, die auf einer Vielzahl von Schriften „vortrainiert“ werden können. Im Jahr 2018 führte das Unternehmen ein System namens BERT ein, das eine „Transformer“-Technik verwendet, die Wörter über einen Satz hinweg vergleicht, um Bedeutung und Kontext vorherzusagen. Einige dieser Fortschritte fließen jetzt in die Google-Suche ein.
Aber es steht außer Frage, dass aufeinanderfolgende Iterationen von GPT – was für Generative Pre-Trained Transformer steht – Wirkung zeigen. Microsoft hat mindestens 1 Milliarde US-Dollar in OpenAI investiert und verfügt über eine exklusive Lizenz zur Verwendung von GPT-3.
HEY CHATGPT, KANNST DU DAS ALLES IN EINEN RAP SETZEN?
„ChatGPT ist nur ein Werkzeug,
Aber es ist kein Ersatz für die Schule.
Du kannst dich nicht nach oben schummeln,
Wenn Sie eine Maschine benutzen, um Ihre Hausaufgaben zu machen, werden Sie floppen.
Plagiate sind tabu,
Und der Text von ChatGPT ist nicht dein eigener, yo.
Also setze die Arbeit ein, verdiene diese Note,
Versuchen Sie nicht zu schummeln, es ist den Handel nicht wert.“