Die in diesem Artikel geäußerten Meinungen sind die des Autors und repräsentieren in keiner Weise die redaktionelle Position von Euronews.
Seit ChatGPT im November 2022 explodierte, haben viele darüber nachgedacht, wie es das Leben, die Jobs und die Bildung, wie wir sie kennen, zum Besseren oder Schlechteren verändern könnte.
Viele, einschließlich uns, sind begeistert von den Vorteilen, die die digitale Technologie den Verbrauchern bringen kann.
Unsere Erfahrung beim Testen digitaler Produkte und Dienstleistungen, der Gestaltung digitaler Richtlinien und dem Eintauchen in die Perspektiven der Verbraucher zu IoT, KI, Daten und Plattformen bedeutet jedoch, dass die Augen aller Experten auch für die Herausforderungen der disruptiven Digitalisierung weit offen sind.
Schließlich soll der Verbraucher die beste Technik so nutzen können, wie er es möchte, und dabei nicht auf Sicherheit und Vertrauen verzichten müssen.
Was haben Verbraucher davon?
In neuen, generativen Technologien wie ChatGPT steckt viel positives Potenzial, darunter die Erstellung schriftlicher Inhalte, die Erstellung von Schulungsmaterialien für Medizinstudenten oder das Schreiben und Debuggen von Code.
Wir haben bereits Leute gesehen, die Verbraucheraufgaben mit ChatGPT erneuern – zum Beispiel, indem sie damit einen erfolgreichen Einspruch gegen Parkbußen schreiben.
Und als ChatGPT gefragt wurde, hatte es seine eigenen Ideen, was es für die Verbraucher tun könnte.
„Ich kann helfen, Preise und Spezifikationen verschiedener Produkte zu vergleichen, Fragen zu Produktwartung und Garantien zu beantworten und Informationen zu Rückgabe- und Umtauschrichtlinien bereitzustellen …. Ich kann den Verbrauchern auch helfen, Fachbegriffe und Produktspezifikationen zu verstehen, was es ihnen erleichtert, fundierte Entscheidungen zu treffen“, sagte es uns, als wir die Frage stellten.
Wenn Sie sich das ansehen, fragen Sie sich vielleicht, ob dieses Serviceniveau einer Maschine dazu führen kann, dass Experten auf allen Gebieten, einschließlich unserer, obsolet werden.
Die Einführung von ChatGPT und ähnlichen Technologien hat jedoch gezeigt, dass es immer noch ein Problem mit der Genauigkeit gibt, was wiederum ein Problem für seine Benutzer darstellt.
Die Suche nach Wahrheit
Betrachten wir zunächst die Herausforderung von Genauigkeit und Wahrheit in einem großen Sprachmodell wie ChatGPT.
ChatGPT hat begonnen, die Internetsuche durch die Einführung der Technologie in der Microsoft-Suchmaschine Bing zu stören.
Bei der ChatGPT-fähigen Suche erscheinen die Ergebnisse nicht als Liste von Links, sondern als übersichtliche Zusammenfassung der Informationen innerhalb der Links, die in einem Konversationsstil präsentiert werden.
Die Antworten können durch weitere Fragen verfeinert werden, so als ob Sie mit einem Freund oder Berater chatten würden.
Das kann sehr hilfreich sein für eine Anfrage wie „Können Sie mir das leichteste Zelt zeigen, das in eine 20-Liter-Fahrradtasche passt?“.
Ergebnisse wie diese wären leicht zu überprüfen, und vielleicht noch wichtiger, wenn sie sich als falsch herausstellen, würden sie kein großes Risiko für eine Person darstellen.
Anders sieht es jedoch aus, wenn „falsche“ oder „ungenaue“ Informationen ein erhebliches Schadensrisiko bergen – zum Beispiel Gesundheits- oder Finanzberatung oder vorsätzliche Fehlinformationen, die größere soziale Probleme verursachen könnten.
Es ist überzeugend, aber ist es zuverlässig?
Das Problem ist, dass Technologien wie ChatGPT sehr gut darin sind, überzeugende Antworten zu schreiben.
Aber OpenAI war sich darüber im Klaren, dass ChatGPT nicht darauf ausgelegt ist, Text zu schreiben, der wahr ist.
Es ist darauf trainiert, das nächste Wort vorherzusagen und Antworten zu erstellen, die sehr plausibel klingen – was bedeutet, dass eine irreführende oder unwahre Antwort genauso überzeugend aussehen kann wie eine zuverlässige, wahre.
Die schnelle Übermittlung überzeugender, plausibler Unwahrheiten durch Tools wie ChatGPT wird zu einem kritischen Problem in den Händen von Benutzern, deren einziger Zweck darin besteht, irrezuführen, zu täuschen und zu betrügen.
Große Sprachmodelle wie ChatGPT können darauf trainiert werden, verschiedene Töne und Stile zu lernen, was sie reif für die Nutzung macht.
Überzeugende Phishing-E-Mails sind plötzlich viel einfacher zu verfassen, und überzeugende, aber irreführende Grafiken sind schneller zu erstellen.
Betrügereien und Betrügereien könnten immer raffinierter und Desinformationen immer schwerer zu unterscheiden sein. Beide könnten gegen die von uns aufgebaute Abwehr immun werden.
Wir müssen lernen, wie wir das Beste aus ChatGPT herausholen können
Selbst wenn wir uns nur auf einen Aspekt von ChatGPT konzentrieren, haben diejenigen von uns, die sich mit dem Schutz von Verbrauchern in Europa und weltweit befassen, mehrere Schichten unterschiedlicher Konsequenzen untersucht, die diese fortschrittliche Technologie haben könnte, sobald sie die Hände der Benutzer erreicht.
Menschen in unserem Bereich arbeiten in der Tat bereits mit Unternehmen, Gruppen für digitale Rechte und Forschungszentren zusammen, um die Komplexität einer solch disruptiven Technologie zu entschlüsseln.
OpenAI hat Sicherheitsvorkehrungen für die Verwendung der Technologie getroffen, andere Einführungen ähnlicher Produkte jedoch möglicherweise nicht.
Starke, zukunftsorientierte Governance und Regeln sind erforderlich, um sicherzustellen, dass die Verbraucher das Beste aus der Technologie mit Zuversicht machen können.
Während sich das KI-Gesetz entwickelt, arbeiten Euro-Verbraucherorganisationen eng mit BEUC zusammen, um die Verbraucherrechte auf Datenschutz, Sicherheit und Fairness in den gesetzlichen Rahmenbedingungen zu sichern.
Künftig werden wir bereit sein, Verbraucher wegen Fehlverhaltens, das durch KI-Systeme verursacht wird, vor Gericht zu verteidigen.
Echte Innovation hat immer noch menschliche Interessen im Mittelpunkt
Es gibt jedoch viele Gründe, optimistisch auf die Tools der Zukunft wie ChatGPT zu blicken.
Wir glauben, dass Innovation ein Hebel für die soziale und wirtschaftliche Entwicklung sein kann, indem sie Märkte gestaltet, die für die Verbraucher besser funktionieren.
Echte Innovation braucht jedoch den Input aller und entsteht nur, wenn im Leben so vieler Menschen wie möglich greifbare Vorteile spürbar sind.
Aber wir stehen erst am Anfang dessen, was sich als faszinierende Erfahrung mit diesen interaktiven, generativen Technologien herausstellen wird.
Für ein endgültiges letztes Wort mag es noch zu früh sein, aber eines ist absolut sicher: Trotz – und vielleicht sogar wegen ChatGPT – wird es immer noch viel Bedarf für Verbraucherschutz durch echte Menschen geben.
Marco Pierani ist Director of Public Affairs and Media Relations, und Els Bruggeman ist Head of Advocacy and Enforcement bei Euroconsumers, einer Gruppe von fünf Verbraucherorganisationen in Belgien, Italien, Brasilien, Spanien und Portugal.
Wir bei Euronews glauben, dass alle Meinungen zählen. Kontaktieren Sie uns unter [email protected], um Pitches oder Einreichungen zu senden und sich an der Konversation zu beteiligen.