Es mag wie ein Oxymoron erscheinen, aber der führende Kopf des Vatikans für die Technologie, die derzeit unsere Welt am meisten prägt, stammt aus einer mittelalterlichen Ordnung.
WERBUNGMönch Paolo Benanti trägt die schlichten braunen Gewänder seines mittelalterlichen Franziskanerordens, während er einer der drängendsten Fragen der Gegenwart nachgeht: Wie kann künstliche Intelligenz (KI) so gesteuert werden, dass sie das Leben der Menschen bereichert – und nicht ausbeutet?
Benanti ist der Ansprechpartner des Vatikans in Technologiefragen und hat das Ohr von Papst Franziskus sowie einigen der besten Ingenieure und Führungskräfte des Silicon Valley.
Mit einem Hintergrund als Ingenieur, einem Doktortitel in Moraltheologie und einer Leidenschaft für das, was er die „Ethik der Technologie“ nennt, ist der 50-jährige italienische Priester auf einer dringenden Mission, die er mit Franziskus teilt, der in seinem Die jährliche Friedensbotschaft für 2024 drängte auf einen internationalen Vertrag, um den ethischen Einsatz der KI-Technologie sicherzustellen.
„Was ist der Unterschied zwischen einem existierenden Menschen und einer funktionierenden Maschine?“ sagte Benanti in einem Interview mit The Associated Press während einer Pause an der Päpstlichen Universität Gregoriana, wo er Studenten, die sich auf das Priesteramt vorbereiten, Kurse wie Moraltheologie und Bioethik unterrichtet.
„Das ist vielleicht die größte Frage dieser Zeit, denn wir erleben eine Herausforderung, die mit einer Maschine, die sich immer mehr vermenschlicht, von Tag zu Tag größer wird.“
Berater für KI
Benanti ist Mitglied des Beratungsgremiums der Vereinten Nationen für künstliche Intelligenz und Leiter einer italienischen Regierungskommission, deren Aufgabe es ist, Empfehlungen zum Schutz des Journalismus vor Fake News und anderen Desinformationen abzugeben.
Er ist außerdem Berater der Päpstlichen Akademie für das Leben des Vatikans.
Benanti sagt, er helfe bei ihren Treffen, „die eher technischen Begriffe des Heiligen Vaters besser zu klären“.
Sein Wissen erwies sich als nützlich für ein Treffen zwischen Franziskus und Microsoft-Präsident Brad Smith im Jahr 2023 im Vatikan, bei dem es darum ging, wie KI der Menschheit helfen oder schaden könnte.
Laut Vatikan hatten Francis und Smith bei einem Treffen einige Jahre zuvor auch über künstliche Intelligenz „im Dienste des Gemeinwohls“ gesprochen.
Da das Papsttum sich stark um diejenigen kümmert, die am Rande der Gesellschaft leben, hat Franziskus seine Besorgnis deutlich gemacht, dass die KI-Technologie die Menschenrechte einschränken könnte, indem sie sich beispielsweise negativ auf den Hypothekenantrag eines Hauskäufers, den Asylantrag eines Migranten oder die Einschätzung der Wahrscheinlichkeit eines Straftäters auswirkt ein Verbrechen wiederholen.
„Es ist klar, dass wir, wenn wir einige Daten wählen, die nicht umfassend genug sind, einige Entscheidungen treffen werden, die nicht inklusiv sind“, sagte Benanti, dessen Orden im frühen 13. Jahrhundert vom Heiligen Franz von Assisi gegründet wurde, der auf die Erde verzichtete Reichtum und förderte wohltätige Zwecke.
Microsoft habe Benanti vor einigen Jahren zum ersten Mal um seine Gedanken zur Technologie gebeten, sagte der Mönch.
Im Jahr 2023 führte Smith in Rom einen Podcast mit Benanti auf, in dem er beschrieb, dass der Mönch „eine der faszinierendsten Kombinationen der Welt“ in Bezug auf seinen Hintergrund in Ingenieurwesen, Ethik und Technologie in die KI-Debatte einbringe.
Den richtigen Einsatz von KI finden
Benanti, der ein Jahr vor seinem Abschluss als Ingenieur an der Universität La Sapienza in Rom stand, als er diesen – und auch seine Freundin – aufgab, um sich den Franziskanern in seinen Zwanzigern anzuschließen, beschrieb, wie KI ein „wirklich mächtiges Werkzeug“ sein könnte, um das zu Fall zu bringen Senkung der Kosten für Medikamente und Stärkung der Ärzte, um mehr Menschen zu helfen.
Er beschrieb aber auch die ethischen Implikationen einer Technologie, die die gleichen Fähigkeiten wie ein Mensch haben könnte – oder vielleicht sogar mehr.
„Es ist kein Problem der Nutzung [AI] „Aber es ist ein Problem der Regierungsführung“, sagte der Mönch. „Und hier kommt die Ethik ins Spiel – das richtige Maß an Nutzung innerhalb eines sozialen Kontexts zu finden.“
Benanti stellte fest, dass viele der Daten, die in die KI einfließen, von Niedriglohnarbeitern stammen, viele davon in Entwicklungsländern, die in einer Geschichte des Kolonialismus und einer ausgebeuteten Arbeitskraft verwurzelt sind.
WERBUNG„Ich möchte nicht, dass dies als die Zeit in Erinnerung bleibt, in der wir die kognitiven Ressourcen des globalen Südens nutzen“, sagte er.
Wenn man „die besten Werkzeuge, die wir in der KI herstellen“ im Westen untersucht, sieht man, dass KI „mit unterbezahlten Arbeitskräften aus englischsprachigen ehemaligen Kolonien trainiert wird“.
Wie KI gesteuert werden soll, ist ein Problem, das Länder auf der ganzen Welt zu lösen versuchen. Die Europäische Union wurde Ende letzten Jahres zum Vorreiter, als die Verhandlungsführer eine Einigung erzielten, die den Weg für eine rechtliche Aufsicht über die KI-Technologie ebnet.
In Italien wird Premierministerin Giorgia Meloni, die befürchtet, dass KI zum Verlust von Arbeitsplätzen führen könnte, die Technologie zu einem Schwerpunkt des diesjährigen G-7-Gipfels machen, der in Italien ausgerichtet wird.
Im Rahmen dieser Bemühungen traf sich Meloni am Donnerstag mit Microsoft-Gründer Bill Gates in Rom, an dem auch Benanti teilnahm.
WERBUNGDer Mönch seinerseits sagte gegenüber AP, dass die Regulierung künstlicher Intelligenz nicht bedeuten dürfe, ihre Entwicklung einzuschränken.
„Es bedeutet, sie mit dem fragilen System der Demokratie kompatibel zu halten, das heute das beste System zu sein scheint“, sagte Benanti.