Einer der Pioniere der künstlichen Intelligenz hat einen hochkarätigen Abgang hingelegt. Geoffrey Hinton, mit dem Spitznamen „Godfather of AI“, erzählt Die New York Times Er trat im April als Google VP und Engineering Fellow zurück, um offen vor den mit der Technologie verbundenen Risiken zu warnen. Der Forscher befürchtet, dass Google seine frühere Zurückhaltung bei öffentlichen KI-Veröffentlichungen aufgibt, um mit ChatGPT, Bing Chat und ähnlichen Modellen zu konkurrieren, was mehreren ethischen Problemen Tür und Tor öffnet.
Hinton befürchtet, dass die generative KI kurzfristig zu einer Welle von Fehlinformationen führen könnte. Sie könnten „nicht mehr wissen, was wahr ist“, sagt er. Er ist auch besorgt, dass es nicht nur die „Plackerei“ beseitigen, sondern einige Jobs vollständig ersetzen könnte. Für die Zukunft ist der Wissenschaftler besorgt über die Möglichkeit vollständig autonomer Waffen und die Tendenz von KI-Modellen, ungewöhnliches Verhalten aus Trainingsdaten zu lernen. Während einige dieser Probleme theoretischer Natur sind, befürchtet Hinton eine Eskalation, die ohne Vorschriften oder die Entwicklung wirksamer Kontrollen nicht aufgehalten werden kann.
Hinton sagt, seine Haltung habe sich letztes Jahr geändert, als Google, OpenAI und andere damit begannen, KI-Systeme zu entwickeln, von denen er glaubt, dass sie der menschlichen Intelligenz manchmal überlegen sind. Die KI hat sich allein in den letzten fünf Jahren rasant entwickelt – es ist „beängstigend“, was in den nächsten fünf Jahren passieren könnte, schlägt der Forscher vor.
In einer Erklärung gegenüber Engadget sagt Jeff Dean, Chefwissenschaftler von Google, dass seine Firma sich immer noch einem „verantwortungsbewussten Ansatz“ verschrieben hat und auf „aufkommende Risiken“ achtet. Der Suchgigant veröffentlichte im März nach monatelangen Gerüchten, das Unternehmen sei besorgt über die Wettbewerbsbedrohung durch generative KI, eine Rohversion seines Bard-Chatbots. Davor weigerte sich das Unternehmen, KI-Modelle wie sein kunstorientiertes Imagen wegen des Potenzials für giftige Inhalte und Urheberrechtsverletzungen öffentlich zu veröffentlichen.
Hinton hat seine Karriere dem Studium der neuronalen Netze gewidmet, die oft der Schlüssel zur KI sind, ist aber vor allem für die Entwicklung eines Objekterkennungssystems im Jahr 2012 bekannt. Sein bahnbrechendes neuronales Netz könnte Trainingsbilder verwenden, um gemeinsame Objekte zu erkennen. Google kaufte Hintons DNNresearch-Startup im Jahr 2013, und das zugrunde liegende Konzept seiner Erfindung trug dazu bei, einen Entwicklungsschub zu fördern, der zur heutigen generativen Technologie führte.
Hinton ist nicht allein. Eine Reihe einflussreicher Akademiker und Tech-Koryphäen, darunter Elon Musk und Steve Wozniak, unterzeichneten kürzlich einen offenen Brief, in dem sie zu einer sechsmonatigen Pause bei der KI-Entwicklung auffordern, um ethische und Sicherheitsprobleme anzugehen. Als eine der prominentesten Persönlichkeiten der Branche hat Hintons Wort jedoch erhebliches Gewicht.
Alle von Engadget empfohlenen Produkte werden von unserem Redaktionsteam unabhängig von unserer Muttergesellschaft ausgewählt. Einige unserer Geschichten enthalten Affiliate-Links. Wenn Sie etwas über einen dieser Links kaufen, erhalten wir möglicherweise eine Affiliate-Provision. Alle Preise sind zum Zeitpunkt der Veröffentlichung korrekt.