Gerade als das generative KI-Wettrüsten aufheizt, ChatGPT Und Google Barde könnte in Schwierigkeiten geraten, da ein neuer offener Brief einen Stopp der Entwicklung und Schulung neuer KI-Systeme fordert.
Wie von berichtet Piepender Computer (öffnet in neuem Tab)mehr als tausend Menschen, darunter Tech-Visionäre wie Elon Musk und sogar Steve Wozniak, haben eine mitunterzeichnet offener Brief (öffnet in neuem Tab) Herausgegeben vom Future of Life Institute.
Der Brief schlägt vor, dass OpenAI, Google und andere Unternehmen, die in diesem aufkeimenden Bereich arbeiten, die Entwicklung und das Training von KI-Systemen, die leistungsfähiger sind, unterbrechen sollten GPT-4 für mindestens sechs Monate. Während dieser Zeit haben KI-Entwicklungsteams die Möglichkeit, zusammenzukommen und sich auf Sicherheitsprotokolle zu einigen, die dann verwendet werden, wenn Audits von KI-Systemen durch externe, unabhängige Experten durchgeführt werden.
Ähnlich wie die sozialen Medien die Welt auf den Kopf gestellt haben, stellt der Brief fest, dass „fortgeschrittene KI eine tiefgreifende Veränderung in der Geschichte des Lebens auf der Erde darstellen könnte“. Aus diesem Grund wollen das Future of Life Institute und die Mitunterzeichner des Briefes, dass die KI-Entwicklung „mit angemessener Sorgfalt und Ressourcen geplant und verwaltet wird“.
Im Moment ist dies nicht der Fall, da KI-Labore in den letzten Monaten einen harten Wettbewerb erlebt haben, um „immer mächtigere digitale Köpfe zu entwickeln und einzusetzen, die niemand – nicht einmal ihre Schöpfer – verstehen, vorhersagen oder zuverlässig kontrollieren kann“. Wie wir gesehen haben, macht der Brief hier einen guten Punkt ChatGPTs böser Zwilling DAN aus den Schienen gehen und andere KI-Halluzinationen.
Es könnte schon zu spät sein
Ein weiterer interessanter Leckerbissen aus dem Brief ist, dass moderne KI-Systeme jetzt direkt mit Menschen konkurrieren, wenn es um allgemeine Aufgaben geht, und dies wird wahrscheinlich nur noch schlimmer werden, wenn fortschrittlichere KI-Systeme entwickelt werden.
Wir müssen die existenziellen und ethischen Fragen, die durch die schnellen Fortschritte in der KI aufgeworfen werden, noch vollständig prüfen und endgültig entscheiden. Gleichzeitig müssen Regierungen auf der ganzen Welt möglicherweise zusammenkommen und die notwendigen Vorschriften erlassen, um zu verhindern, dass KI die Macht übernimmt, und gleichzeitig die Menschheit schützen.
Wenn OpenAI, Google und andere Unternehmen, die mit KI arbeiten, einer Pause bei der Entwicklung von KI-Systemen nicht zustimmen, schlägt der Brief vor, dass „die Regierungen eingreifen und ein Moratorium einführen sollten“.
Obwohl der Brief nicht dazu aufruft, die gesamte KI-Entwicklung einzustellen, wirft er doch ein Licht darauf, wie die jüngste Konkurrenz im wachsenden Bereich dazu führen könnte, dass die Dinge außer Kontrolle geraten. Niemand möchte in einer Welt leben, in der Menschen von KI kontrolliert werden, und hoffentlich sind die führenden Unternehmen bereit, einen Schritt zurückzutreten und die rasante Geschwindigkeit, mit der diese neue Technologie voranschreitet, neu zu bewerten.