PEKING (AP) – Chinas regierende Kommunistische Partei hat vor den Risiken gewarnt, die von Fortschritten in der künstlichen Intelligenz ausgehen, und gleichzeitig strengere nationale Sicherheitsmaßnahmen gefordert.
Die nach einem Treffen am Dienstag unter dem Vorsitz von Parteichef und Präsident Xi Jinping abgegebene Erklärung unterstreicht die Spannung zwischen der Entschlossenheit der Regierung, die weltweite Führungsrolle bei Spitzentechnologien zu übernehmen, und der Besorgnis über die möglichen sozialen und politischen Schäden solcher Technologien.
Es folgte auch einer Warnung von Wissenschaftlern und führenden Vertretern der Technologiebranche in den USA, darunter hochrangige Führungskräfte von Microsoft und Google, über die Gefahren, die künstliche Intelligenz für die Menschheit darstellt.
Bei dem Treffen in Peking wurde die Notwendigkeit „gezielter Anstrengungen zum Schutz der politischen Sicherheit und zur Verbesserung der Sicherheitsverwaltung von Internetdaten und künstlicher Intelligenz“ erörtert, hieß es in der offiziellen Nachrichtenagentur Xinhua.
„Bei dem Treffen wurde betont, dass die Komplexität und Schwere der nationalen Sicherheitsprobleme, mit denen unser Land konfrontiert ist, dramatisch zugenommen hat. Die nationale Sicherheitsfront muss strategisches Selbstvertrauen aufbauen, genug Selbstvertrauen haben, um den Sieg zu sichern, und sich ihrer eigenen Stärken und Vorteile genau bewusst sein“, sagte Xinhua.
„Wir müssen auf Worst-Case- und Extremszenarien vorbereitet sein und bereit sein, der großen Herausforderung von starkem Wind, unruhigem Wasser und sogar gefährlichen Stürmen standzuhalten“, hieß es.
Xi, Chinas Staatsoberhaupt, Befehlshaber des Militärs und Vorsitzender der Nationalen Sicherheitskommission der Partei, forderte bei dem Treffen dazu auf, „sich der komplizierten und herausfordernden Umstände der nationalen Sicherheit stets bewusst zu sein“.
China brauche ein „neues Entwicklungsmuster mit einer neuen Sicherheitsarchitektur“, berichtete Xinhua von Xi.
China investiert bereits enorme Ressourcen in die Unterdrückung aller vermeintlichen politischen Bedrohungen für die Vorherrschaft der Partei, wobei die Ausgaben für Polizei und Sicherheitspersonal die Ausgaben für das Militär übersteigen.
Während persönliche Proteste und Online-Kritik gnadenlos zensiert werden, äußern die Bürger weiterhin ihre Unzufriedenheit mit der Politik, zuletzt mit den drakonischen Lockdown-Maßnahmen zur Bekämpfung der Ausbreitung von COVID-19.
China geht hart gegen seinen Technologiesektor vor, um die Kontrolle der Partei wiederherzustellen, aber wie andere Länder kämpft auch das Land darum, Wege zu finden, die sich schnell entwickelnde KI-Technologie zu regulieren.
Das jüngste Parteitreffen bekräftigte die Notwendigkeit, „die potenziellen Risiken einzuschätzen, Vorkehrungen zu treffen, die Interessen des Volkes und die nationale Sicherheit zu wahren und die Sicherheit, Zuverlässigkeit und Fähigkeit zur Kontrolle der KI zu gewährleisten“, berichtete die offizielle Zeitung Beijing Youth Daily am Dienstag.
Mit dem Aufkommen einer neuen Generation hochleistungsfähiger KI-Chatbots wie ChatGPT haben sich die Befürchtungen, dass künstliche Intelligenzsysteme Menschen überlisten und außer Kontrolle geraten könnten, verstärkt.
Sam Altman, CEO des ChatGPT-Herstellers OpenAI, und Geoffrey Hinton, ein Informatiker, der als Pate der künstlichen Intelligenz bekannt ist, gehörten zu den Hunderten führenden Persönlichkeiten, die am Dienstag die Erklärung unterzeichneten, die auf der Website des Center for AI Safety veröffentlicht wurde.
„Die Eindämmung des Risikos des Aussterbens durch KI sollte neben anderen gesellschaftlichen Risiken wie Pandemien und Atomkrieg eine globale Priorität sein“, heißt es in der Erklärung.
Mehr als 1.000 Forscher und Technologen, darunter Elon Musk, der derzeit zu Besuch in China istEr hatte Anfang des Jahres einen viel längeren Brief unterzeichnet fordert eine sechsmonatige Pause bei der KI-Entwicklung.
In dem Schreiben hieß es, KI stelle „erhebliche Risiken für die Gesellschaft und die Menschheit“ dar, und einige, die sich mit dem Thema befassen, haben einen Vertrag der Vereinten Nationen zur Regulierung der Technologie vorgeschlagen.
China warnte bereits 2018 vor der Notwendigkeit, die KI zu regulieren, hat jedoch dennoch eine enorme Ausweitung auf diesem Gebiet finanziert, um die Spitzenposition bei Spitzentechnologien zu erobern.
Mangelnder Schutz der Privatsphäre und eine strikte Kontrolle der Parteien über das Rechtssystem haben auch dazu geführt, dass Gesichts-, Stimm- und sogar Gangerkennungstechnologien nahezu flächendeckend eingesetzt werden, um als bedrohlich angesehene Personen zu identifizieren und festzunehmen, insbesondere politische Andersdenkende und religiöse Minderheiten, insbesondere Muslime .
Mitglieder der Uiguren und anderer hauptsächlich muslimischer ethnischer Gruppen wurden gezielt massenhaft elektronisch überwacht und mehr als eine Million Menschen wurden in gefängnisähnlichen Lagern zur politischen Umerziehung festgehalten, die China Deradikalisierungs- und Berufsausbildungszentren nennt.
Die Risiken der KI werden vor allem in ihrer Fähigkeit gesehen, Roboter, selbstverwaltete Waffen, Finanzinstrumente und Computer zu steuern, die Stromnetze, Gesundheitszentren, Transportnetze und andere wichtige Infrastrukturen steuern.
Chinas ungezügelter Enthusiasmus für neue Technologien und die Bereitschaft, an importierter oder gestohlener Forschung herumzubasteln und Untersuchungen zu Großereignissen wie dem COVID-19-Ausbruch zu unterdrücken, verstärken die Besorgnis über den Einsatz von KI.
„Chinas unbekümmerte Haltung gegenüber technologischen Risiken, der rücksichtslose Ehrgeiz der Regierung und Pekings Krisen-Missmanagement stehen alle auf Kollisionskurs mit den eskalierenden Gefahren der KI“, schrieben die Technologie- und nationalen Sicherheitswissenschaftler Bill Drexel und Hannah Kelley in einem Artikel, der diese Woche im veröffentlicht wurde Zeitschrift Foreign Affairs.