Ist KI eine Bedrohung auf Nuklearwaffenniveau? Warum KI-Felder alle auf einmal voranschreiten, dumme Wortspiele – Cointelegraph Magazine

So wie wir nicht jedem erlauben, ein Flugzeug zu bauen und Passagiere herumzufliegen oder Medikamente zu entwickeln und freizugeben, warum sollten wir dann zulassen, dass KI-Modelle ohne ordnungsgemäße Tests und Lizenzen in die Wildnis entlassen werden?

Das argumentieren in den letzten Wochen immer mehr Experten und Politiker.

Da das Vereinigte Königreich im Herbst einen Weltgipfel zur KI-Sicherheit abhält und Umfragen darauf hindeuten, dass rund 60 % der Öffentlichkeit Vorschriften befürworten, scheinen neue Leitplanken wahrscheinlicher zu werden.

Ein besonderes Meme, das sich durchsetzt, ist der Vergleich der KI-Technologie mit einer existenziellen Bedrohung wie Atomwaffen, wie in einer kürzlich vom Center of AI Safety verschickten 23-Wörter-Warnung, die von Hunderten von Wissenschaftlern unterzeichnet wurde:

„Die Eindämmung des Risikos des Aussterbens durch KI sollte neben anderen gesellschaftlichen Risiken wie Pandemien und Atomkrieg eine globale Priorität sein.“

Um die Metapher zu erweitern, drängt OpenAI-CEO Sam Altman auf die Schaffung einer globalen Organisation wie der Internationalen Atomenergiebehörde, um die Technologie zu überwachen.

„Wir sprechen über die IAEA als ein Modell, bei dem die Welt gesagt hat: ‚OK, sehr gefährliche Technologie, lasst uns alle ein paar Leitplanken einbauen‘“, sagte er diese Woche in Indien.

Libertäre argumentieren, dass die Überbewertung der Bedrohung und die Forderung nach Regulierung nur ein Trick der führenden KI-Unternehmen sei, um a) eine autoritäre Kontrolle durchzusetzen und b) den Wettbewerb durch Regulierung abzuwürgen.

Der Informatikprofessor Arvind Narayanan aus Princeton warnte: „Wir sollten uns vor Prometheanern in Acht nehmen, die sowohl davon profitieren wollen, dass sie den Menschen Feuer bringen, als auch als Feuerwehrleute vertrauenswürdig sein wollen.“

Netscape und a16z-Mitbegründer Marc Andreessen haben eine Reihe von veröffentlicht Aufsätze diese Woche über seine technologisch-utopische Vision für KI. Er verglich KI-Untergangsverderber mit „einem apokalyptischen Kult“ und behauptete, dass KI die Menschheit nicht wahrscheinlicher auslöschen werde als ein Toaster, weil: „KI will nicht, sie hat keine Ziele – sie will dich nicht töten, weil sie es ist.“ nicht lebendig.”

Das mag wahr sein oder auch nicht – aber andererseits haben wir nur ein vages Verständnis davon, was in der Black Box der „Denkprozesse“ der KI vor sich geht. Aber wie Andreessen selbst zugibt, ist der Planet voller verwirrter Menschen, die jetzt eine KI bitten können, eine Biowaffe zu entwickeln, einen Cyberangriff zu starten oder eine Wahl zu manipulieren. Daher kann es in den falschen Händen gefährlich sein, selbst wenn wir Skynet meiden.Terminator Szenario.

Der nukleare Vergleich ist wahrscheinlich insofern recht aufschlussreich, als die Menschen in den 1940er Jahren sehr von den sehr realen Möglichkeiten der Nukleartechnologie, die die Welt untergehen könnten, mitgerissen wurden. Einige Teammitglieder des Manhattan-Projekts waren so besorgt, dass die Bombe eine Explosion auslösen könnte Kettenreaktiondie Atmosphäre entzünden und alles Leben auf der Erde verbrennen, worauf sie gedrängt haben, damit das Projekt aufgegeben wird.

Nach dem Abwurf der Bombe war Albert Einstein vom Ausmaß der Bedrohung so überzeugt, dass er auf die sofortige Bildung einer Bombe drängte Weltregierung mit alleiniger Kontrolle über das Arsenal.

Die Weltregierung hat zwar nicht stattgefunden, aber die internationale Gemeinschaft hat die Bedrohung so ernst genommen, dass es den Menschen in den über 80 Jahren seitdem nicht gelungen ist, sich selbst in die Luft zu sprengen. Die Länder unterzeichneten Vereinbarungen, Atomwaffen ausschließlich unter der Erde zu testen, um den radioaktiven Fallout zu begrenzen, und führten Inspektionssysteme ein. Mittlerweile verfügen nur noch neun Länder über Atomwaffen.

In ihrem Podcast über die Auswirkungen von KI auf die Gesellschaft, Das KI-Dilemmaplädieren Tristan Harris und Aza Raskin für den sicheren Einsatz gründlich getesteter KI-Modelle.

„Ich betrachte diesen öffentlichen Einsatz von KI als einen oberirdischen Test von KI. Das müssen wir nicht tun“, argumentierte Harris.

„Wir können davon ausgehen, dass Systeme mit Kapazitäten, von denen die Ingenieure nicht einmal wissen, wie hoch diese sein werden, nicht unbedingt sicher sind, bis das Gegenteil bewiesen ist.“ Wir drängen sie nicht einfach in Produkte wie Snapchat, und wir können den Herstellern von KI und nicht den Bürgern die Verantwortung übertragen, zu beweisen, warum sie denken, dass KI (nicht) gefährlich ist.“

Lesen Sie auch: Alles Gute für den Roboterrichter – KI und Blockchain könnten den Gerichtssaal verändern

Der Geist ist aus der Flasche

Natürlich könnte die Regulierung von KI wie ein Verbot von Bitcoin sein: in der Theorie schön, in der Praxis unmöglich. Atomwaffen sind eine hochspezialisierte Technologie, die nur von einer Handvoll Wissenschaftlern weltweit verstanden wird und angereichertes Uran erfordert, das unglaublich schwer zu beschaffen ist. Mittlerweile ist Open-Source-KI frei verfügbar und Sie können sogar ein persönliches KI-Modell herunterladen und auf Ihrem Laptop ausführen.

KI-Experte Brian Roemmele sagt dass ihm 450 öffentliche Open-Source-KI-Modelle bekannt sind und „fast stündlich weitere erstellt werden.“ Privatmodelle gibt es in den Hunderttausenden.“

Roemmele baut sogar ein System auf, das es jedem alten Computer mit einem DFÜ-Modem ermöglicht, eine Verbindung zu einer lokal gehosteten KI herzustellen.

Wir arbeiten daran, ChatGPT über ein DFÜ-Modem verfügbar zu machen.

Es ist noch sehr früh und ich habe noch einiges zu tun.

Letztendlich wird dadurch eine Verbindung zu einer lokalen Version von GPT4All hergestellt.

Dies bedeutet, dass jeder alte Computer mit DFÜ-Modems eine Verbindung zu einer LLM-KI herstellen kann.

Als nächstes steht eine COBOL-zu-LLM-KI-Verbindung an! pic.twitter.com/ownX525qmJ

— Brian Roemmele (@BrianRoemmele) 8. Juni 2023

Auch die Vereinigten Arabischen Emirate haben gerade ihr Open-Source-Modell für große Sprachen namens AI veröffentlicht Falcon 40B Modell ohne Lizenzgebühren für kommerzielle und Forschungszwecke. Es wird behauptet, dass es „Konkurrenten wie Metas LLaMA und Stability AIs StableLM übertrifft.“

Es gibt sogar einen gerade veröffentlichten Open-Source-Text-zu-Video-KI-Videogenerator namens Potat 1, der auf Untersuchungen von Runway basiert.

Ich freue mich, dass Menschen Potat 1️⃣ nutzen, um atemberaubende Videos zu erstellen 🌳🧱🌊

Künstler: @iskarioto ❤ https://t.co/Gg8VbCJpOY#Open Source #generativeKI #modelscope #texttovideo #text2video @80Level @ClaireSilver12 @LambdaAPI https://t.co/obyKWwd8sR pic.twitter.com/2Kb2a5z0dH

– Camenduru (@camenduru) 6. Juni 2023

Der Grund dafür, dass alle KI-Bereiche gleichzeitig Fortschritte gemacht haben

Wir haben im letzten Jahr oder so eine unglaubliche Explosion der KI-Fähigkeiten in allen Bereichen erlebt, von KI-Text über die Video- und Liedgenerierung bis hin zu magisch anmutender Fotobearbeitung, Stimmklonen und One-Click-Deep-Fakes. Aber warum kam es zu all diesen Fortschritten in so vielen verschiedenen Bereichen gleichzeitig?

Der Mathematiker und Mitbegründer des Earth Species Project, Aza Raskin, gab hierfür eine faszinierende Erklärung in einfachem Englisch Das KI-Dilemmawas den Durchbruch hervorhebt, der mit dem Transformer-Modell für maschinelles Lernen erzielt wurde.

„Die Einsicht war, dass man anfangen kann, absolut alles als Sprache zu behandeln“, erklärte er. „So kann man zum Beispiel Bilder machen. Man kann es einfach als eine Art Sprache behandeln, es ist einfach eine Reihe von Bildfeldern, die man linear anordnen kann, und dann kann man einfach vorhersagen, was als nächstes kommt.“

ChatGPT wird oft mit einer Maschine verglichen, die nur das wahrscheinlichste nächste Wort vorhersagt. Sie sehen also die Möglichkeiten, das nächste „Wort“ generieren zu können, wenn alles Digitale in eine Sprache umgewandelt werden kann.

„Bilder können also als Sprache behandelt werden, Ton, man zerlegt ihn in kleine Mikrofonnamen, sagt voraus, welcher davon als nächstes kommt, das wird eine Sprache.“ fMRT-Daten werden zu einer Art Sprache, DNA ist nur eine andere Art von Sprache. Und so wurde plötzlich jeder Fortschritt in irgendeinem Teil der KI-Welt zu einem Fortschritt in jedem Teil der KI-Welt. Sie könnten einfach kopieren und einfügen, und Sie können sehen, wie sich Fortschritte jetzt sofort über die gesamte Reihe von Feldern multiplizieren.“

Es ist und ist nicht so Schwarzer Spiegel

Viele Menschen haben beobachtet, dass die jüngsten Fortschritte in der künstlichen Intelligenz etwas Ungewöhnliches zu sein scheinen Schwarzer Spiegel. Aber der Schöpfer Charlie Brooker scheint zu glauben, dass seine Fantasie wesentlich beeindruckender ist als die Realität, und erzählte dem Empire Magazine, er habe ChatGPT gebeten, eine Episode von zu schreiben Schwarzer Spiegel und das Ergebnis war „Scheiße“.

„Ich habe ein bisschen mit ChatGPT herumgespielt“, sagte Brooker. „Als erstes habe ich ‚Black Mirror-Episode generieren‘ eingegeben und es kam etwas heraus, das sich auf den ersten Blick plausibel liest, auf den zweiten Blick aber Scheiße ist.“ Laut Brooker hat die KI die verschiedenen Handlungsstränge der einzelnen Episoden einfach wieder erbrochen und zu einem völligen Durcheinander vermischt.

„Wenn man etwas tiefer gräbt, kommt man zu dem Schluss: ‚Oh, hier gibt es eigentlich keinen wirklich originellen Gedanken‘“, sagte er.

KI-Bilder der Woche

Eines der schönen Dinge an KI-Programmen zur Text-zu-Sprache-Bildgenerierung ist, dass sie wegwerfbare Wortspiele in teuer aussehende Bilder verwandeln können, für deren Erstellung sich kein Grafikdesigner die Mühe machen würde. Hier sind also die Wunder der Welt, falsch geschrieben von der KI (mit freundlicher Genehmigung von Redditor). mossymayn).

Video der Woche

Forscher der Universität Cambridge demonstrierten einem KI-Roboterkoch acht einfache Salatrezepte, der dann in der Lage war, die Salate selbst zuzubereiten und selbst ein neuntes Salatrezept zu entwickeln.