SAN FRANCISCO (AP) – Geoffrey Hintonein preisgekrönter Informatiker, der als „Pate der künstlichen Intelligenz“ bekannt ist, macht sich ernsthafte Gedanken über die Früchte seiner Arbeit.
Hinton half dabei, KI-Technologien zu entwickeln, die für eine neue Generation hochleistungsfähiger Chatbots wie ChatGPT von entscheidender Bedeutung sind. Aber in jüngsten Interviews sagte er, dass er kürzlich einen hochkarätigen Job bei Google aufgegeben habe, um seine Bedenken zu teilen, dass eine ungebremste KI-Entwicklung eine Gefahr für die Menschheit darstellen könnte.
„Ich habe plötzlich meine Ansichten darüber geändert, ob diese Dinger intelligenter sein werden als wir“, sagte er in einem Interview mit MIT Technology Review. „Ich denke, sie sind jetzt sehr nah dran und werden in Zukunft viel intelligenter sein als wir … Wie überleben wir das?“
Hinton ist mit seinen Bedenken nicht allein. Kurz nachdem das von Microsoft unterstützte Startup OpenAI im März sein neuestes KI-Modell namens GPT-4 veröffentlicht hatte, unterzeichneten mehr als 1.000 Forscher und Technologen einen Brief, in dem sie eine sechsmonatige Pause bei der KI-Entwicklung forderten weil sie, so sagten sie, „tiefgreifende Risiken für die Gesellschaft und die Menschheit“ berge.
Hier ist ein Blick auf Hintons größte Bedenken hinsichtlich der Zukunft der KI … und der Menschheit.
ES GEHT UM DIE NEURONALEN NETZWERKE
Unser menschliches Gehirn kann Rechengleichungen lösen, Autos fahren und die Charaktere in „Succession“ im Auge behalten, dank seines angeborenen Talents, Informationen zu organisieren und zu speichern und Lösungen für heikle Probleme zu finden. Die ungefähr 86 Milliarden Neuronen, die in unseren Schädel gepackt sind – und, was noch wichtiger ist, die 100 Billionen Verbindungen, die diese Neuronen untereinander schmieden – machen das möglich.
Im Gegensatz dazu weist die Technologie, die ChatGPT zugrunde liegt, zwischen 500 Milliarden und einer Billion Verbindungen auf, sagte Hinton in dem Interview. Obwohl dies einen großen Nachteil gegenüber uns zu haben scheint, stellt Hinton fest, dass GPT-4, das neueste KI-Modell von OpenAI, „hundertmal mehr“ weiß als jeder einzelne Mensch. Vielleicht, so schlägt er vor, hat es einen „viel besseren Lernalgorithmus“ als wir, was es bei kognitiven Aufgaben effizienter macht.
KI IST MÖGLICHERWEISE SCHON KLÜGER ALS WIR
Forscher haben seit langem festgestellt, dass künstliche neuronale Netze viel mehr Zeit brauchen, um neues Wissen aufzunehmen und anzuwenden, als Menschen, da ihr Training enorme Mengen an Energie und Daten erfordert. Das ist nicht mehr der Fall, argumentiert Hinton und stellt fest, dass Systeme wie GPT-4 sehr schnell neue Dinge lernen können, wenn sie von Forschern richtig trainiert wurden. Das ist nicht unähnlich der Art und Weise, wie eine ausgebildete professionelle Physikerin ihr Gehirn viel schneller mit neuen experimentellen Erkenntnissen umwickeln kann als ein typischer Highschool-Student der Naturwissenschaften.
Das führt Hinton zu dem Schluss, dass KI-Systeme uns möglicherweise bereits überlisten. KI-Systeme können Dinge nicht nur schneller lernen, bemerkt er, sie können auch Kopien ihres Wissens fast sofort miteinander teilen.
„Es ist eine völlig andere Form der Intelligenz“, sagte er der Veröffentlichung. „Eine neue und bessere Form der Intelligenz.“
KRIEGE UND KRIEGSGERÜCHTE
Was würden intelligentere als menschliche KI-Systeme tun? Eine beunruhigende Möglichkeit ist, dass böswillige Einzelpersonen, Gruppen oder Nationalstaaten sie einfach kooptieren, um ihre eigenen Ziele zu erreichen. Hinton ist besonders besorgt darüber, dass diese Werkzeuge trainiert werden könnten, um Wahlen zu beeinflussen und sogar Kriege zu führen.
Wahlfehlinformationen, die beispielsweise über KI-Chatbots verbreitet werden, könnten die zukünftige Version von Wahlfehlinformationen sein, die über Facebook und andere Social-Media-Plattformen verbreitet werden.
Und das könnte erst der Anfang sein. „Glauben Sie keinen Moment, dass Putin keine hyperintelligenten Roboter bauen würde, mit dem Ziel, Ukrainer zu töten“, sagte Hinton in dem Artikel. „Er würde nicht zögern.“
EIN MANGEL AN LÖSUNGEN
Unklar ist, wie jemand eine Macht wie Russland davon abhalten könnte, KI-Technologie einzusetzen, um seine Nachbarn oder seine eigenen Bürger zu beherrschen. Hinton schlägt vor, dass ein globales Abkommen ähnlich dem Chemiewaffenübereinkommen von 1997 ein guter erster Schritt zur Festlegung internationaler Regeln gegen bewaffnete KI sein könnte.
Es ist jedoch auch erwähnenswert, dass der Chemiewaffenvertrag nicht verhinderte, was die Ermittler herausfanden, dass es sich wahrscheinlich um syrische Angriffe mit Chlorgas und dem Nervenkampfstoff Sarin gegen Zivilisten in den Jahren 2017 und 2018 während des blutigen Bürgerkriegs des Landes handelte.