SAN FRANCISCO (AP) – Der Hersteller von ChatGPT versucht, seinen Ruf als freilaufende Betrugsmaschine mit einem neuen Tool einzudämmen, mit dem Lehrer erkennen können, ob ein Schüler oder künstliche Intelligenz diese Hausaufgaben geschrieben hat.
Der neue KI-Textklassifizierer, der am Dienstag von OpenAI eingeführt wurde, folgt einer wochenlangen Diskussion an Schulen und Hochschulen wegen der Befürchtung, dass die Fähigkeit von ChatGPT, auf Befehl fast alles zu schreiben, akademische Unehrlichkeit schüren und das Lernen behindern könnte.
OpenAI warnt davor, dass es neues Werkzeug – wie andere bereits verfügbare – ist nicht narrensicher. Die Methode zur Erkennung von KI-geschriebenem Text „ist unvollkommen und wird manchmal falsch sein“, sagte Jan Leike, Leiter des Ausrichtungsteams von OpenAI, das damit beauftragt ist, seine Systeme sicherer zu machen.
„Aus diesem Grund sollte man sich bei Entscheidungen nicht allein darauf verlassen“, sagte Leike.
Teenager und College-Studenten gehörten zu den Millionen von Menschen, die anfingen, mit ChatGPT zu experimentieren, nachdem es am 30. November als kostenlose Anwendung auf der Website von OpenAI gestartet wurde. Und während viele Wege fanden, es kreativ und harmlos einzusetzen, löste die Leichtigkeit, mit der es Testfragen beantworten und bei anderen Aufgaben helfen konnte, bei einigen Pädagogen Panik aus.
Als die Schulen für das neue Jahr geöffnet wurden, begannen New York City, Los Angeles und andere große öffentliche Schulbezirke, die Verwendung in Klassenzimmern und auf Schulgeräten zu blockieren.
Der Distrikt der Seattle Public Schools blockierte ChatGPT im Dezember zunächst auf allen Schulgeräten, öffnete dann aber den Zugang für Pädagogen, die es als Lehrmittel verwenden möchten, sagte Tim Robinson, der Sprecher des Distrikts.
„Wir können es uns nicht leisten, es zu ignorieren“, sagte Robinson.
Der Distrikt diskutiert auch über eine mögliche Ausweitung des Einsatzes von ChatGPT in Klassenzimmern, damit Lehrer damit Schüler zu besseren kritischen Denkern ausbilden können und Schüler die Anwendung als „persönlichen Tutor“ nutzen oder bei der Arbeit an einer Aufgabe neue Ideen entwickeln können “, sagte Robinson.
Schulbezirke im ganzen Land sagen, dass sich die Diskussion um ChatGPT schnell entwickelt.
„Die erste Reaktion war ‚Oh mein Gott, wie können wir die Flut von Betrug, der mit ChatGPT passieren wird, aufhalten’“, sagte Devin Page, ein Technologiespezialist des Calvert County Public School District in Maryland. Jetzt wachse die Erkenntnis, dass „das die Zukunft ist“ und dass Blockieren nicht die Lösung sei, sagte er.
„Ich denke, wir wären naiv, wenn wir uns der Gefahren dieses Tools nicht bewusst wären, aber wir würden unseren Schülern auch nicht dienen, wenn wir ihnen und uns verbieten würden, es mit all seiner potenziellen Macht zu nutzen“, sagte Page, der an Distrikte denkt wie sein eigener wird ChatGPT schließlich entsperren, insbesondere sobald der Erkennungsdienst des Unternehmens vorhanden ist.
OpenAI betonte am Dienstag in einem Blogbeitrag die Grenzen seines Erkennungstools, sagte aber, dass es nicht nur Plagiate abschrecken, sondern auch dazu beitragen könnte, automatisierte Desinformationskampagnen zu erkennen und anderer Missbrauch von KI, um Menschen nachzuahmen.
Je länger eine Textpassage ist, desto besser kann das Tool erkennen, ob eine KI oder ein Mensch etwas geschrieben hat. Geben Sie einen beliebigen Text ein – einen Aufsatz für die College-Zulassung oder eine literarische Analyse von Ralph Ellisons „Invisible Man“ – und das Tool wird ihn als „sehr unwahrscheinlich, unwahrscheinlich, unklar, ob, möglicherweise oder wahrscheinlich“ KI kennzeichnen -erzeugt.
Aber ähnlich wie ChatGPT selbst, das trainiert wurde auf einer riesigen Fundgrube von digitalisierten Büchern, Zeitungen und Online-Schriften, aber oft selbstbewusst Unwahrheiten oder Unsinn ausspuckt, ist es nicht leicht zu interpretieren, wie es zu einem Ergebnis kam.
“Wir wissen im Grunde nicht, auf welche Art von Muster es achtet oder wie es intern funktioniert”, sagte Leike. „Wir können an dieser Stelle wirklich nicht viel darüber sagen, wie der Klassifikator tatsächlich funktioniert.“
Auch Hochschuleinrichtungen auf der ganzen Welt haben begonnen, über den verantwortungsvollen Umgang mit KI-Technologie zu diskutieren. Sciences Po, eine der renommiertesten Universitäten Frankreichs, verbot seine Verwendung letzte Woche und warnte davor, dass jeder, der ChatGPT und andere KI-Tools heimlich verwendet, um schriftliche oder mündliche Arbeiten zu erstellen, von Sciences Po und anderen Institutionen ausgeschlossen werden könnte.
Als Reaktion auf die Gegenreaktion sagte OpenAI, es arbeite seit mehreren Wochen daran, neue Richtlinien zu erstellen, um Pädagogen zu helfen.
„Wie bei vielen anderen Technologien kann es sein, dass ein Distrikt entscheidet, dass sie für den Einsatz in ihren Klassenzimmern ungeeignet ist“, sagte OpenAI-Politikforscherin Lama Ahmad. „Wir drängen sie nicht wirklich auf die eine oder andere Weise. Wir wollen ihnen nur die Informationen geben, die sie brauchen, um die richtigen Entscheidungen für sie treffen zu können.“
Es ist eine ungewöhnlich öffentliche Rolle für das forschungsorientierte Startup aus San Francisco, das jetzt durch Milliarden von Dollar an Investitionen unterstützt wird von seinem Partner Microsoft und sieht sich wachsendem Interesse der Öffentlichkeit und der Regierungen gegenüber.
Frankreichs Minister für digitale Wirtschaft, Jean-Noël Barrot, traf sich kürzlich in Kalifornien mit OpenAI-Führungskräften, darunter CEO Sam Altman, und sagte eine Woche später vor einem Publikum beim Weltwirtschaftsforum in Davos, Schweiz, dass er der Technologie gegenüber optimistisch sei. Aber der Regierungsminister – ein ehemaliger Professor am Massachusetts Institute of Technology und der französischen Business School HEC in Paris – sagte, es gebe auch schwierige ethische Fragen, die angegangen werden müssten.
„Wenn Sie also an der juristischen Fakultät arbeiten, gibt es Anlass zur Sorge, da ChatGPT neben anderen Tools offensichtlich in der Lage sein wird, Prüfungen zu liefern, die relativ beeindruckend sind“, sagte er. „Wenn Sie an der wirtschaftswissenschaftlichen Fakultät sind, dann ist alles in Ordnung, denn ChatGPT wird es schwer haben, etwas zu finden oder zu liefern, das erwartet wird, wenn Sie an einer wirtschaftswissenschaftlichen Fakultät studieren.“
Er sagte, es werde für Benutzer immer wichtiger, die Grundlagen der Funktionsweise dieser Systeme zu verstehen, damit sie wissen, welche Vorurteile bestehen könnten.
—-
O’Brien berichtete aus Providence, Rhode Island. Der AP-Autor John Leicester hat zu diesem Bericht aus Paris beigetragen.