TikTok hat kürzlich angekündigt dass seine Nutzer in der Europäischen Union bald dazu in der Lage sein werden ausschalten sein äußerst fesselnder Algorithmus zur Inhaltsauswahl. Der EU-Gesetz über digitale Dienste (DSA) treibt diesen Wandel als Teil der umfassenderen Bemühungen der Region voran, KI und digitale Dienste im Einklang mit Menschenrechten und Werten zu regulieren.
TikToks Algorithmus lernt aus den Interaktionen der Benutzer –wie lange sie es ansehen, was ihnen gefällt, wann sie ein Video teilen – um ein maßgeschneidertes und immersives Erlebnis zu schaffen können ihre mentalen Zustände, Vorlieben und Verhaltensweisen ohne ihr volles Bewusstsein oder ihre Zustimmung beeinflussen. Eine Opt-out-Funktion ist ein großer Schritt zum Schutz kognitive Freiheit, das Grundrecht auf Selbstbestimmung über unser Gehirn und unsere mentalen Erfahrungen. Anstatt sich auf algorithmisch kuratierte For You-Seiten und Live-Feeds zu beschränken, können Benutzer angesagte Videos in ihrer Region und Sprache oder einen „Following and Friends“-Feed sehen, der die Ersteller, denen sie folgen, in chronologischer Reihenfolge auflistet. Dies priorisiert beliebte Inhalte in ihrer Region und nicht die für sie ausgewählten Inhalte Klebrigkeit. Das Gesetz verbietet außerdem gezielte Werbung für Nutzer zwischen 13 und 17 Jahren und bietet mehr Informations- und Meldemöglichkeiten, um illegale oder schädliche Inhalte zu kennzeichnen.
In einer Welt, die zunehmend von künstlicher Intelligenz, Big Data und digitalen Medien geprägt ist, gewinnt die dringende Notwendigkeit, die kognitive Freiheit zu schützen, an Bedeutung. Die vorgeschlagene Angebote des EU-KI-Gesetzes einige Sicherheitsvorkehrungen gegen geistige Manipulation. UNESCOs Herangehensweise an KI Im Zentrum der Menschenrechte steht die Biden-Administration freiwillige Selbstverpflichtungen von KI-Unternehmen befasst sich mit Täuschung und Betrug und die Organisation für wirtschaftliche Zusammenarbeit und Entwicklung hat die kognitive Freiheit in seine integriert Grundsätze für verantwortungsvolle Regierungsführung neuer Technologien. Aber obwohl Gesetze und Vorschläge wie diese Fortschritte machen, konzentrieren sie sich oft auf Teilbereiche des Problems, wie zum Beispiel den eingebauten Datenschutz oder die Datenminimierung, anstatt einen expliziten, umfassenden Ansatz zum Schutz unserer Fähigkeit zum freien Denken darzustellen. Ohne solide rechtliche Rahmenbedingungen weltweit könnten sich die Entwickler und Anbieter dieser Technologien ihrer Verantwortung entziehen. Aus diesem Grund reichen bloße inkrementelle Änderungen nicht aus. Gesetzgeber und Unternehmen müssen dringend die Geschäftsmodelle reformieren, auf denen das Tech-Ökosystem basiert.
Ein gut strukturierter Plan erfordert eine Kombination aus Vorschriften, Anreizen und kommerziellen Neugestaltungen mit Schwerpunkt auf kognitiver Freiheit. Regulatorische Standards müssen Benutzereinbindungsmodelle, Informationsaustausch und Datenschutz regeln. Es müssen starke rechtliche Absicherungen gegen Eingriffe vorhanden sein geistige Privatsphäre und Manipulation. Unternehmen müssen transparent darüber sein, wie die von ihnen eingesetzten Algorithmen funktionieren, und dazu sind sie verpflichtet bewerten, offenlegen und Schutzmaßnahmen ergreifen unzulässige Einflussnahme.
Ähnlich wie die Richtlinien zur sozialen Verantwortung von Unternehmen sollten auch Unternehmen gesetzlich dazu verpflichtet werden beurteilen ihre Technologie für seine Auswirkungen auf die kognitive Freiheit, indem es Transparenz über Algorithmen, Datennutzung, Praktiken der Inhaltsmoderation und kognitive Gestaltung schafft. Bemühungen um Folgenabschätzungen sind bereits integraler Bestandteil von Gesetzgebungsvorschlägen weltweit, einschließlich der EU-Gesetz über digitale Diensteschlugen die USA vor Gesetz zur algorithmischen Rechenschaftspflicht Und Amerikanisches Datenschutz- und Datenschutzgesetzund freiwillige Mechanismen wie Das Risikomanagement-Rahmenwerk 2023 des US-amerikanischen National Institute of Standards and Technology. Ein Instrument zur Folgenabschätzung für kognitive Freiheit würde speziell den Einfluss von KI auf Selbstbestimmung, geistige Privatsphäre sowie Gedanken- und Entscheidungsfreiheit messen und sich dabei auf Transparenz, Datenpraktiken und geistige Manipulation konzentrieren. Zu den erforderlichen Daten würden detaillierte Beschreibungen der Algorithmen, Datenquellen und -sammlungen sowie Belege für die Auswirkungen der Technologie auf die Benutzerwahrnehmung gehören.
Steuerliche Anreize und Finanzierung könnten auch Innovationen bei Geschäftspraktiken und Produkten vorantreiben, um die kognitive Freiheit zu stärken. Führende KI-Ethikforscher betonen, dass eine Organisationskultur, die der Sicherheit Priorität einräumt, unerlässlich ist, um den vielen Risiken entgegenzuwirken, die von großen Sprachmodellen ausgehen. Regierungen können dies fördern, indem sie Steuererleichterungen und Finanzierungsmöglichkeiten anbieten, wie sie beispielsweise im Vorschlag enthalten sind Gesetz zur Rechenschaftspflicht und Transparenz der Plattform, an Unternehmen, die aktiv mit Bildungseinrichtungen zusammenarbeiten, um KI-Sicherheitsprogramme zu entwickeln, die Selbstbestimmung und Fähigkeiten zum kritischen Denken fördern. Auch steuerliche Anreize könnten Forschung und Innovation unterstützen Werkzeuge und Techniken, die Täuschung an die Oberfläche bringen durch KI-Modelle.
Technologieunternehmen sollten auch Designprinzipien übernehmen, die kognitive Freiheit verkörpern. Optionen wie anpassbare Einstellungen auf TikTok oder eine bessere Kontrolle über Benachrichtigungen auf Apple-Geräten sind Schritte in die richtige Richtung. Weitere Funktionen, die Selbstbestimmung ermöglichen – einschließlich der Kennzeichnung von Inhalten mit „Abzeichen“, die Inhalte als von Menschen oder Maschinen erstellt angebenoder die Benutzer dazu auffordern, sich kritisch damit auseinanderzusetzen einen Artikel, bevor Sie ihn erneut teilen– sollte auf allen digitalen Plattformen zur Norm werden.
Die Änderung der TikTok-Richtlinien in Europa ist ein Gewinn, aber nicht das Endspiel. Wir müssen unser digitales Regelwerk dringend aktualisieren und neue Gesetze, Vorschriften und Anreize einführen, die die Rechte der Nutzer schützen und Plattformen zur Rechenschaft ziehen. Überlassen wir die Kontrolle über unseren Geist nicht allein den Technologieunternehmen; Es ist Zeit für globales Handeln, um der kognitiven Freiheit im digitalen Zeitalter Priorität einzuräumen.
WIRED-Meinung veröffentlicht Artikel von externen Mitwirkenden, die ein breites Spektrum an Standpunkten vertreten. Lesen Sie weitere Meinungen Hier. Senden Sie einen Kommentar unter [email protected].