Während AI mag ChatGPT Und Google Barde waren sicherlich beeindruckend, nicht alle sind begeistert. KI-Experten haben gefordert: „digitale Gesundheitswarnungen,“ und Elon Musk schloss sich vielen anderen in der Branche an einen offenen Brief unterschreiben Aufruf zu einer Pause des KI-Wettrüstens.
Jetzt schließt sich einer von Googles eigenen der Anti-KI-Seite an. Entsprechend Die New York Times (öffnet in neuem Tab), Dr. Geoffrey Hinton – der den Einsatz neuronaler Netze in der KI vorangetrieben hat – hat Google nach mehr als einem Jahrzehnt im Unternehmen verlassen. Sein Grund? So kann er sich frei gegen den Aufstieg der KI aussprechen.
Fürs Protokoll, Dr. Hinton scheint sich hauptsächlich keine Gedanken über ein Skynet-ähnliches Szenario a la Terminator zu machen. Es gibt einen Moment, in dem er Bedenken äußert, dass autonome Waffen in 30 bis 50 Jahren ein Thema sein könnten. Seine Bedenken betreffen jedoch hauptsächlich die Gegenwart und die nahe Zukunft: mangelnde Kontrolle, Fehlinformationen und Automatisierung.
Ein KI-Wettrüsten könnte zum Untergang der Menschheit führen
Obwohl Google noch vor einem Jahr das Gefühl hatte, ein „richtiger Verwalter“ der KI-Technologie zu sein, hat der Aufstieg von Chatbots und die Art und Weise, wie sie missbraucht werden, seine Meinung anscheinend geändert. Er sieht Google und Microsoft jetzt in einem KI-Wettrüsten, das unaufhaltsam ist, während die durchschnittliche Person immer noch damit kämpft, zwischen KI-erstellten und von Menschen erstellten Inhalten zu unterscheiden.
Hintons Besorgnis über das alarmierende Wachstum der KI ist nicht neu. Tatsächlich waren sie der Kern des eingangs erwähnten offenen Briefes, in dem es hieß, KI stelle „tiefgreifende Risiken für die Gesellschaft und die Menschheit“ dar. Und obwohl Hinton diesen Brief nicht unterschrieben hat, ist es klar, dass er jetzt zustimmt.
Schauen Sie sich an, wie es vor fünf Jahren war und wie es jetzt ist. Nimm den Unterschied und propagiere ihn nach vorne. Das ist unheimlich.
Dr. Geoffrey Hinton
Der Wendepunkt scheint letztes Jahr mit dem Aufstieg von OpenAI und Googles eigener Arbeit mit großen Sprachmodellen (LLMs) gewesen zu sein. Als diese Modelle mit immer größeren Datenmengen trainiert wurden, war Hinton überzeugt, dass diese KI „eigentlich viel besser war als das, was im Gehirn vor sich geht“ und dass ihr Potenzial in fünf Jahren beängstigend war.
„Schauen Sie sich an, wie es vor fünf Jahren war und wie es heute ist“, sagte Hinton gegenüber der Times über die KI-Technologie. „Nehmen Sie den Unterschied und propagieren Sie ihn nach vorne. Das ist unheimlich.”
KI-Automatisierung könnte Arbeitsplätze vernichten
Das bringt uns zu Dr. Hintons zweitem Anliegen – der Automatisierung. Es gibt echte Bedenken, dass die KI letztendlich die meisten unserer Jobs übernehmen und die Gesellschaft zum Krater bringen wird. Und obwohl wir wahrscheinlich noch ein Stück weit von dieser Möglichkeit entfernt sind, haben wir, falls es jemals dazu kommt, bereits einige Beweise dafür gesehen, dass ChatGPT und andere KI die Arbeit wegnehmen.
Der größte Teil dieser Arbeit ist das, was Hinton als „Plackerei“ bezeichnet, und scheint im Moment eher Aufgaben als Jobs zu beseitigen. Aber Hinton glaubt, dass diese KI bald anfangen könnte, echte Jobs wegzunehmen.
Er glaubt auch, dass die Automatisierung zu schwerwiegenden Fehltritten führen könnte. Er ist besorgt, dass Unternehmen, die der KI erlauben, Code nicht nur zu erstellen, sondern diesen Code auszuführen, schlauer als Menschen und zu autonomen Waffen werden könnten, die wir nicht mehr kontrollieren können.
Fehlinformationen sind in der KI bereits weit verbreitet
Schließlich ist Hinton besorgt über Fehlinformationen. „Es ist schwer vorstellbar, wie man die schlechten Schauspieler daran hindern kann, es für schlechte Dinge zu verwenden“, sagte Dr. Hinton der New York Times.
Der Durchschnittsmensch wird „nicht mehr wissen können, was wahr ist“.
Dr. Geoffrey Hinton
Um fair zu sein, dies ist eine sehr reale, unmittelbare Sorge. Wir haben gesehen, wie schlechte Schauspieler mit KI-Technologie weit verbreitet sind, vom Knacken von Passwörtern bis hin zu vorgetäuschten Entführungen und mehr. Wir spekulieren auch bereits, wann KI und menschlicher Text nicht mehr zu unterscheiden sein werden, und Hinton glaubt, dass dieser Moment bald kommen wird, und sagt, dass die durchschnittliche Person „nicht mehr in der Lage sein wird, zu wissen, was wahr ist“.
Dieser Moment ist ehrlich gesagt bereits da. Unabhängig davon, ob Sie Hintons eher alarmierenden Bedenken zustimmen oder nicht, reagieren Unternehmen bereits jetzt auf Deepfakes. Der KI-Bildgenerator Midjourney stoppte Anfang dieses Jahres kostenlose Versuche wegen viraler Deepfakes, nachdem KI-generierte Bilder von Donald Trumps Verhaftung und Papst Franziskus in einer Daunenjacke von Balenciaga als Evangelium akzeptiert wurden.