Tausende Wissenschaftler warnen davor, dass KI das Aussterben herbeiführen könnte, und befürchten, dass übermenschliche Bots eine Apokalypse auslösen könnten

TAUSENDE KI-Forscher haben davor gewarnt, dass künstliche Intelligenz das Potenzial hat, die Menschheit auszusterben.

Im Rahmen einer neuen Studie wurden über 2.700 KI-Experten zu den Risiken der Technologie befragt.

Entsprechend die Forschung48 Prozent der Experten glauben, dass die Wahrscheinlichkeit, dass KI zum Aussterben der Menschheit führt, bei 5 Prozent liegt.

Die Forscher schrieben: „Die meisten Befragten äußerten erhebliche Unsicherheit über den langfristigen Wert des KI-Fortschritts:

„Während 68,3 % dachten, dass gute Ergebnisse durch übermenschliche KI eher wahrscheinlich als schlecht seien, gaben 48 % dieser Netto-Optimisten eine mindestens 5 %ige Chance für extrem schlechte Ergebnisse wie das Aussterben der Menschheit an, und 59 % der Netto-Pessimisten gaben 5 % oder mehr an.“ extrem gute Ergebnisse.

„Zwischen 37,8 % und 51,4 % der Befragten gaben eine mindestens 10-prozentige Chance an, dass fortschrittliche KI zu so schlimmen Folgen wie dem Aussterben der Menschheit führen würde.“

Katja Grace, KI-Expertin am Machine Intelligence Research Institute in Kalifornien, war eine der Autoren des Papiers.

Entsprechend der neue Wissenschaftler Sie erklärte: „Es ist ein wichtiges Signal dafür, dass die meisten KI-Forscher es nicht für absolut unglaubwürdig halten, dass fortgeschrittene KI die Menschheit zerstört.“

„Ich denke, dieser allgemeine Glaube an ein nicht winziges Risiko ist viel aussagekräftiger als die genaue prozentuale Risikoangabe.“

Das Forschungspapier hob auch andere Probleme hervor, die KI mit sich bringen könnte.

Dazu gehören die Verbreitung von Fehlinformationen, Bevölkerungskontrolle und zunehmende Ungleichheit.

Auch Deepfakes, die Herstellung von Waffen und die Manipulation der öffentlichen Meinung wurden als Bedenken aufgeführt.

Die Autoren des Papiers betonten, es bestehe weitgehende Einigkeit darüber, dass die Minimierung der Risiken von KI Priorität haben sollte.

Es besteht jedoch noch kein Grund zur Panik.

Die Forscher betonten, dass es selbst für Experten schwierig sei, die Zukunft vorherzusagen.

Sie schrieben: „Prognosen sind im Allgemeinen schwierig, und es wurde beobachtet, dass Fachexperten schlechte Leistungen erbringen.“

„Die Expertise unserer Teilnehmer liegt im Bereich der KI und sie verfügen unseres Wissens nach nicht über ungewöhnliche Fähigkeiten in der Vorhersage im Allgemeinen.“