Die aufstrebende KI-Branche hat den „schnellen“ Teil ihrer Entwicklung hinter sich gelassen und ist direkt in den Teil gelangt, in dem wir „Dinge kaputt machen“ – wie die Gesellschaft! Seit der Veröffentlichung von ChatGPT im vergangenen November haben generative KI-Systeme die digitale Welt im Sturm erobert und finden in allen Bereichen Anwendung, von maschineller Codierung und industriellen Anwendungen bis hin zu Spieledesign und virtueller Unterhaltung. Es wurde auch schnell für illegale Zwecke wie die Skalierung von Spam-E-Mail-Operationen und die Erstellung von Deepfakes übernommen.
„Das ist ein technischer Geist, den wir nie wieder in seine Flasche bekommen, also sollten wir besser daran arbeiten, ihn zu regulieren“, argumentiert der im Silicon Valley ansässige Autor, Unternehmer, Investor und Politikberater Tom Kemp in seinem neuen Buch. Big Tech eindämmen: Wie wir unsere Bürgerrechte, unsere Wirtschaft und unsere Demokratie schützen können. Im folgenden Auszug erklärt Kemp, wie diese Verordnung aussehen könnte und was ihre Durchsetzung für die Verbraucher bedeuten würde.
Schnelle Unternehmenspresse
Ausschnitt aus Big Tech eindämmen: So schützen wir unsere Bürgerrechte, unsere Wirtschaft und unsere Demokratie (IT Rev, 22. August 2023)von Tom Kemp.
Roadmap zur Eindämmung von KI
Im griechischen Mythos brachte Pandora mächtige Gaben, löste aber auch mächtige Plagen und Übel aus. Auch bei der KI müssen wir ihre Vorteile nutzen, aber die potenziellen Schäden, die die KI den Menschen zufügen kann, in der sprichwörtlichen Büchse der Pandora belassen.
Als Dr. Timnit Gebru, Gründer des Distributed Artificial Intelligence Research Institute (DAIR), von der gefragt wurde New York Times darüber, wie man der KI-Voreingenommenheit entgegentreten kann, sie antwortete teilweise damit: „Wir brauchen Prinzipien und Standards, Leitungsgremien und Leute, die über Dinge und Algorithmen abstimmen, die überprüft werden, ähnlich wie bei der FDA.“ [Food and Drug Administration]. Für mich ist es also nicht so einfach, einen vielfältigeren Datensatz zu erstellen, und die Dinge stehen fest.“
Sie hat recht. In erster Linie brauchen wir Regulierung. KI ist ein neues Spiel und es braucht Regeln und Schiedsrichter. Sie schlug vor, dass wir ein FDA-Äquivalent für KI brauchen. Tatsächlich sind sowohl die AAA als auch ADPPA fordern, dass die FTC in dieser Rolle tätig wird, aber anstatt dass Arzneimittelanträge und -zulassungen von der FDA abgewickelt werden, sollten Big Tech und andere ihre KI-Folgenabschätzungen für KI-Systeme an die FTC senden. Diese Bewertungen würden sich auf KI-Systeme in Bereichen mit großer Auswirkung wie Wohnen, Beschäftigung und Kredite beziehen und uns dabei helfen, digitales Redlining besser anzugehen. Also diese Rechnungen die erforderliche Rechenschaftspflicht und Transparenz fördern für Verbraucher.
Im Herbst 2022 schlug das Office of Science and Technology Policy (OSTP) der Biden-Administration sogar einen „Entwurf für eine KI-Bill of Rights“ vor. Zu den Schutzmaßnahmen gehört das Recht, „zu erfahren, dass ein automatisiertes System verwendet wird, und zu verstehen, wie und warum es zu Ergebnissen beiträgt, die sich auf Sie auswirken.“ Dies ist eine großartige Idee und könnte in die Regelsetzungsverantwortung integriert werden, die die FTC hätte, wenn AAA oder ADPPA verabschiedet würden. Der Punkt ist, dass KI für Verbraucher keine völlige Black Box sein sollte und Verbraucher Rechte auf Auskunft und Widerspruch haben sollten – ähnlich wie sie es bei der Erhebung und Verarbeitung ihrer personenbezogenen Daten haben sollten. Darüber hinaus sollten Verbraucher ein Recht auf private Klage haben, wenn ihnen KI-basierte Systeme schaden. Und Websites mit einer erheblichen Menge an KI-generiertem Text und Bildern sollten das Äquivalent einer Nährwertkennzeichnung für Lebensmittel haben Lassen Sie uns wissen, was KI-generierte Inhalte im Vergleich zu von Menschen generierten Inhalten sind.
Wir brauchen auch KI-Zertifizierungen. Beispielsweise gibt es in der Finanzbranche akkreditierte Wirtschaftsprüfer (Certified Public Accountants, CPAs) und zertifizierte Finanzprüfungen und Finanzberichte, daher sollten wir das Äquivalent für KI haben. Und wir brauchen Verhaltenskodizes für den Einsatz von KI sowie Industriestandards. Beispielsweise veröffentlicht die Internationale Organisation für Normung (ISO) Qualitätsmanagementstandards, die Organisationen für Cybersicherheit, Lebensmittelsicherheit usw. einhalten können. Glücklicherweise hat eine Arbeitsgruppe mit der ISO damit begonnen, einen neuen Standard für das KI-Risikomanagement zu entwickeln. Und in einer weiteren positiven Entwicklung hat das National Institute of Standards and Technology (NIST) veröffentlichte sein erstes Framework für das KI-Risikomanagement im Januar 2023.
Wir müssen Unternehmen daran erinnern, vielfältigere und integrativere Designteams für den Aufbau von KI zu haben. Olga Russakovsky, Assistenzprofessorin am Fachbereich Informatik der Princeton University, sagte: „Es gibt viele Möglichkeiten, diesen Pool zu diversifizieren [of people building AI systems]und mit zunehmender Vielfalt werden die KI-Systeme selbst weniger voreingenommen.“
Während sich Regulierungsbehörden und Gesetzgeber mit Kartellfragen im Zusammenhang mit Big-Tech-Unternehmen befassen, sollte KI nicht außer Acht gelassen werden. Um Wayne Gretzky zu paraphrasieren: Die Aufsichtsbehörden müssen dahingehen, wohin der Puck geht, nicht dorthin, wo er war. Der entscheidende Faktor in der Technologie ist die KI. Daher sollten Übernahmen von KI-Unternehmen durch Big-Tech-Unternehmen genauer unter die Lupe genommen werden. Darüber hinaus sollte die Regierung erwägen, offenes geistiges Eigentum für KI vorzuschreiben. Dies könnte beispielsweise auf dem bundesstaatlichen Zustimmungsdekret mit Bell aus dem Jahr 1956 basieren, das Bell verpflichtete, alle seine Patente lizenzgebührenfrei an andere Unternehmen zu lizenzieren. Dies führte zu unglaublichen Innovationen wie dem Transistor, der Solarzelle und dem Laser. Es ist nicht gesund für unsere Wirtschaft die Zukunft der Technologie in den Händen einiger weniger Unternehmen zu konzentrieren.
Schließlich müssen sich unsere Gesellschaft und Wirtschaft besser auf die Auswirkungen der KI auf die Verdrängung von Arbeitskräften durch Automatisierung vorbereiten. Ja, wir müssen unsere Bürger durch eine bessere Bildung und Ausbildung auf neue Arbeitsplätze in einer KI-Welt vorbereiten. Aber wir müssen diesbezüglich klug vorgehen, denn wir können nicht sagen, dass wir jeden zum Softwareentwickler umschulen sollten, weil nur einige über diese Fähigkeiten oder dieses Interesse verfügen. Beachten Sie auch, dass KI zunehmend dazu dient, die Entwicklung von Softwareprogrammen zu automatisieren. Daher ist es von entscheidender Bedeutung, zu wissen, welche Softwarefähigkeiten in einer KI-Welt vermittelt werden sollten. Wie der Ökonom Joseph E. Stiglitz betonte, hatten wir Probleme, kleinere Veränderungen in der Technologie und Globalisierung zu bewältigen, die zu Polarisierung und einer Schwächung unserer Demokratie geführt haben, und die Veränderungen der KI sind tiefgreifender. Daher müssen wir uns darauf vorbereiten und sicherstellen, dass KI sich positiv auf die Gesellschaft auswirkt.
Angesichts der Tatsache, dass Big Tech bei der KI führend ist, sollte die Sicherstellung, dass ihre Auswirkungen positiv sind, bei ihnen beginnen. KI ist unglaublich leistungsfähig, und Big Tech ist voll und ganz auf KI angewiesen, aber KI ist mit Risiken behaftet, wenn Voreingenommenheit eingeführt wird oder wenn sie auf Ausbeutung ausgelegt ist. Und wie ich dokumentiert habe, hatte Big Tech Probleme mit dem Einsatz von KI. Das bedeutet, dass nicht nur die Tiefe und Breite der Erfassung unserer sensiblen Daten eine Bedrohung darstellt, sondern auch die Art und Weise, wie Big Tech KI nutzt, um diese Daten zu verarbeiten und automatisierte Entscheidungen zu treffen, eine Bedrohung darstellt.
So wie wir die digitale Überwachung eindämmen müssen, müssen wir auch sicherstellen, dass Big Tech mit KI nicht die Büchse der Pandora öffnet.
Alle von Engadget empfohlenen Produkte werden von unserem Redaktionsteam unabhängig von unserer Muttergesellschaft ausgewählt. Einige unserer Geschichten enthalten Affiliate-Links. Wenn Sie über einen dieser Links etwas kaufen, erhalten wir möglicherweise eine Affiliate-Provision. Alle Preise gelten zum Zeitpunkt der Veröffentlichung.