Während sie sich auf die Durchsetzung des Digital Services Act (DSA) vorbereitet, sollte die Europäische Kommission Experten in den Bereichen Benutzerdesign und Benutzererfahrung einstellen, da diese Fähigkeiten unerlässlich sind, um gegen irreführende Designpraktiken vorzugehen.
Claire Pershan ist EU-Advocacy-Leiterin bei der Mozilla Foundation und Caroline Sinders ist eine kritische Designerin und Menschenrechtsforscherin.
Im Gegensatz zur EU-Datenschutzverordnung, die die Durchsetzung den Mitgliedstaaten überließ, wird die DSA die Kommission zu einer Regulierungsbehörde machen. Es wird die Einhaltung von „sehr großen Online-Plattformen“ und „sehr großen Online-Suchmaschinen“ überwachen, definiert als solche mit über 45 Millionen Nutzern in der EU.
Jetzt möchte die Europäische Kommission ihre neue Plattformdirektion und ihr Europäisches Zentrum für algorithmische Transparenz mit Rechtsreferenten, Politikreferenten, Ökonomen, Kommunikations- und Community-Management-Experten sowie Cybersicherheitsexperten besetzen.
Da sie den Unternehmen „unter die Haube“ schauen und die Einhaltung der Verpflichtungen in Bezug auf die Moderation von Inhalten und algorithmische Empfehlungen bewerten müssen, fordern sie Forscher und Doktoranden aus einer Vielzahl von Bereichen mit Fachkenntnissen in Informatik und Datenwissenschaft , künstliche Intelligenz, Sozialwissenschaften und Ingenieurwissenschaften.
Wird das reichen? Das Timing ist ergreifend; die Kommission baut auf sein Durchsetzungsteam ebenso wie die Unternehmen, die es beaufsichtigen wird, Hunderte von Mitarbeitern entlassen, die mit Vertrauen und Sicherheit, Datenschutz und anderen Compliance-Pflichten betraut sind.
Einige schlagen vor, dass die Kommission Personen mit relevanten Fähigkeiten einstellt, die kürzlich aus den Reihen der Unternehmen entlassen wurden. Mit Beiträge in Sevilla, Spanien und Ispra, Italien, könnte die Kommission gerade sein locken können ein paar europäische Technikfreaks, die in den öffentlichen Sektor eintreten. Aber die Kommission sollte auch Designforscher mit Expertise in User Experience und User Interface Design (UX/UI, im Silicon Valley, sprich) im Visier haben.
Diese Fähigkeiten sind erforderlich, um zu erkennen irreführende Designpraktikenmit denen regulatorische Verpflichtungen umgangen werden können.
Designer und Produktmanager sind sowohl Technologen als auch soziotechnische Experten. Viele Mitarbeiter, die solche Rollen in großen Technologieunternehmen und Startups innehaben, haben keinen Doktortitel, aber was ihnen an Zeugnissen fehlt, machen sie durch praktische Erfahrung vor Ort wett, insbesondere mit KI, Algorithmen und maschinellem Lernen und wie Benutzer mit diesen Systemen interagieren.
Dies ist etwas, was unser Co-Autor bei seiner Arbeit als Designforscher bei IBM Watson an KI-Produkten und bei Googles PAIR (der People and Artificial Intelligence Research Group) hautnah miterlebt hat. Design ist sowohl ein kreativer Prozess als auch ein Übersetzungsprozess. Um KI-Systeme oder Algorithmen zu verwenden und Produkte um sie herum zu entwickeln, muss man verstehen, wie Menschen Software verwenden und wie diese Software in Prozesse eingebettet ist, die sich im Idealfall nahtlos und intuitiv anfühlen
Gesetzgeber sagen gerne, dass „der Teufel im Detail steckt“. Wie Designexperten wissen, steckt der Teufel in der Benutzererfahrung. Bei der Technologiepolitik geht es nicht nur um Regeln; es muss Designüberlegungen beinhalten, um Regulierungs- oder Transparenzanforderungen wertvoll und umsetzbar zu machen.
Nirgendwo wird dies deutlicher als bei irreführenden Designmustern, Online-Architekturen, die Menschen zu potenziell schädlichen Entscheidungen lenken und als Taktik zur Umgehung von Vorschriften eingesetzt werden können. Die betäubend irritierenden Cookie-Popups, die auf die Umsetzung der europäischen Datenschutz-Grundverordnung (DSGVO) folgten, setzen häufig irreführende Designtechniken ein, um es Unternehmen zu ermöglichen, unter dem Deckmantel der Compliance wie gewohnt weiterzumachen.
Ein Großteil der Macht der DSA hängt von ihrer Fähigkeit ab, das Plattformdesign zu beeinflussen. Es ist eine Sache, Unternehmen vorzuschreiben, ein alternatives Empfehlungssystem zu erstellen oder Content-Appeal-Mechanismus, aber es ist eine andere Sache sicherzustellen, dass sie diese Optionen den Benutzern auf faire, ehrliche oder „benutzerfreundliche“ Weise präsentieren. (Tatsächlich taucht der Qualifier „benutzerfreundlich“ im DSA 9 Mal auf.)
Wir haben schon früher betrügerische Designmuster gesehen, die die Regulierung sabotieren, mit der holprigen Einführung von GDPR-Zustimmungsbannern oder den vergrabenen Meldetools, die vom deutschen Netzwerkdurchsetzungsgesetz (NetzDG) vorgeschrieben sind.
Design ist ein integraler Bestandteil des Prozesses, Code und Richtlinien für alle Menschen verständlich zu machen; sie kann die Übersetzung von Technologiepolitik in Software und Systeme radikal beeinflussen. Bei der Vorbereitung auf die Durchsetzung des vielleicht ehrgeizigsten Regulierungssystems für Online-Plattformen weltweit benötigt die europäische Regulierungsbehörde internes Design-Know-how.