Der Papst geriet Anfang des Jahres mit der Technologie in Konflikt, als ein mit generativer KI erstelltes Bild von ihm in einer weißen Steppjacke viral ging.
WERBUNGPapst Franziskus forderte am Donnerstag einen internationalen Vertrag, um sicherzustellen, dass künstliche Intelligenz (KI) ethisch entwickelt und genutzt wird, und argumentierte, dass die Risiken einer Technologie ohne menschliche Werte wie Mitgefühl, Barmherzigkeit, Moral und Vergebung zu groß seien.
In seiner jährlichen Botschaft zum Weltfriedenstag, den die katholische Kirche jedes Jahr am 1. Januar feiert, schloss sich der Papst den zunehmenden Forderungen nach einer verbindlichen, globalen Regulierung der KI an. Der Vatikan veröffentlichte den Text der Botschaft am Donnerstag.
Für Francis ist der Appell eher persönlicher Natur.
Anfang des Jahres verbreitete sich ein KI-generiertes Bild von ihm in einer luxuriösen weißen Steppjacke viral und zeigte, wie schnell sich realistische Deepfake-Bilder online verbreiten können.
Die Botschaft des Papstes wurde nur wenige Tage nach der vorläufigen Zustimmung der EU-Unterhändler veröffentlicht die weltweit ersten umfassenden KI-Regeln von denen erwartet wird, dass sie als Goldstandard für Regierungen dienen, die über ihre eigene Regulierung nachdenken.
KI hat im vergangenen Jahr dank atemberaubender Fortschritte modernster Systeme wie ChatGPT von OpenAI weltweite Aufmerksamkeit erregt, die Benutzer mit der Fähigkeit, menschenähnliche Texte, Fotos und Lieder zu produzieren, verblüfft haben.
Aber die Technologie hat auch Ängste vor den Risiken geweckt, die die sich schnell entwickelnde Technologie für Arbeitsplätze, Privatsphäre und Urheberrechtsschutz und sogar für das menschliche Leben selbst mit sich bringt.
Existenzielle Bedenken rund um KI
Franziskus erkannte das Versprechen an, das die KI bietet, und lobte den technologischen Fortschritt als Ausdruck der Kreativität der menschlichen Intelligenz. Damit wiederholte er die Botschaft, die der Vatikan auf der diesjährigen UN-Generalversammlung übermittelte, bei der eine Reihe führender Weltführer die Versprechen und Gefahren der Technologie ansprach.
Aber seine neue Friedensbotschaft ging noch weiter und betonte die schwerwiegenden, existenziellen Bedenken, die Ethiker und Menschenrechtsaktivisten hinsichtlich der Technologie geäußert haben, die verspricht, das Alltagsleben auf eine Weise zu verändern, die alles von demokratischen Wahlen bis hin zur Kunst stören kann.
„Künstliche Intelligenz könnte durchaus das riskanteste Glücksspiel unserer Zukunft sein“, sagte Kardinal Michael Czerny vom Entwicklungsbüro des Vatikans, der die Botschaft am Donnerstag auf einer Pressekonferenz vorstellte.
„Wenn es schlecht ausgeht, ist die Menschheit schuld.“
In dem Dokument wurde betont, dass bei der technologischen Entwicklung und dem Einsatz von KI die Gewährleistung grundlegender Menschenrechte, die Förderung des Friedens und der Schutz vor Desinformation, Diskriminierung und Verzerrung im Vordergrund stehen müssen.
Die größte Sorge von Franziskus galt dem Einsatz von KI im Rüstungssektor, der ein häufiges Thema des Jesuitenpapstes war, der selbst traditionelle Waffenhersteller als „Händler des Todes“ bezeichnete.
Er stellte fest, dass Fernwaffensysteme bereits zu einer „Distanzierung von der immensen Tragödie des Krieges und einer geringeren Wahrnehmung der durch diese Waffensysteme verursachten Verwüstung und der Last der Verantwortung für ihren Einsatz“ geführt hätten.
„Die einzigartige Fähigkeit zu moralischem Urteil und ethischer Entscheidungsfindung ist mehr als eine komplexe Sammlung von Algorithmen, und diese Fähigkeit kann nicht auf die Programmierung einer Maschine reduziert werden“, schrieb er.
Er forderte eine „angemessene, sinnvolle und konsequente“ menschliche Aufsicht über tödliche autonome Waffensysteme (oder LAWS) und argumentierte, dass die Welt keine neuen Technologien brauche, die „am Ende lediglich die Torheit des Krieges fördern“.
Auf einer grundlegenderen Ebene warnte er vor den tiefgreifenden Auswirkungen automatisierter Systeme, die Bürger einordnen oder kategorisieren, auf die Menschheit.
Technologieunternehmen sollten sich nicht selbst regulieren
Zusätzlich zu den Bedrohungen für Arbeitsplätze auf der ganzen Welt, die von Robotern erledigt werden können, stellte Papst Franziskus fest, dass die Technologie die Zuverlässigkeit eines Hypothekenantragstellers, das Recht eines Migranten auf politisches Asyl oder die Wahrscheinlichkeit einer erneuten Straftat bestimmen könnte jemand, der zuvor wegen einer Straftat verurteilt wurde.
WERBUNG„Algorithmen dürfen nicht bestimmen, wie wir Menschenrechte verstehen, die wesentlichen menschlichen Werte Mitgefühl, Barmherzigkeit und Vergebung außer Acht lassen oder die Möglichkeit ausschließen, dass sich ein Einzelner ändert und seine Vergangenheit hinter sich lässt“, schrieb er.
Für Franziskus berührt das Thema einige seiner Prioritäten als Papst, nämlich soziale Ungerechtigkeiten anzuprangern, sich für Migranten einzusetzen und Gefangene und Menschen am Rande der Gesellschaft zu betreuen.
Die Botschaft des Papstes ging nicht näher auf die Einzelheiten eines möglichen verbindlichen Vertrags ein, außer dass er sagte, er müsse auf globaler Ebene ausgehandelt werden, um sowohl bewährte Praktiken zu fördern als auch schädliche zu verhindern. Technologieunternehmen allein könne man nicht vertrauen, dass sie sich selbst regulieren, sagte er.
Er nutzte Argumente, die er zuvor verwendet hatte, um multinationale Konzerne anzuprangern, die die nationalen Ressourcen der Erde verwüstet und die indigenen Völker, die von ihnen leben, verarmen lassen.
Freiheit und friedliches Zusammenleben seien bedroht, „immer wenn Menschen der Versuchung des Egoismus, des Eigennutzes, des Profitstrebens und des Machthungers nachgeben“, schrieb er.
WERBUNGBarbara Caputo, Professorin am Artificial Intelligence Hub der Polytechnischen Universität Turin, stellte fest, dass es in einigen grundlegenden ethischen Fragen und Definitionen bereits Konvergenz sowohl in der EU-Verordnung als auch in der von US-Präsident Joe Biden im Oktober vorgestellten Durchführungsverordnung gebe.
„Das ist keine Kleinigkeit“, sagte sie beim Briefing im Vatikan. „Das bedeutet, dass es für alle, die künstliche Intelligenz herstellen wollen, eine gemeinsame Regulierungsgrundlage gibt.“