In einem urigen Im Regency-Ära-Büro mit Blick auf den Londoner Russell Square habe ich im Sommer 2010 zusammen mit zwei Freunden, Demis Hassabis und Shane Legg, ein Unternehmen namens DeepMind gegründet. Unser Ziel, das sich immer noch so ehrgeizig, verrückt und hoffnungsvoll anfühlt wie damals, bestand darin, genau das zu reproduzieren, was uns als Spezies einzigartig macht: unsere Intelligenz.
Um dies zu erreichen, müssten wir ein System schaffen, das alle kognitiven Fähigkeiten des Menschen imitieren und schließlich übertreffen kann, vom Sehen und Sprechen über Planung und Vorstellungskraft bis hin zu Empathie und Kreativität. Da ein solches System von der massiv parallelen Verarbeitung von Supercomputern und der Explosion riesiger neuer Datenquellen aus dem gesamten offenen Web profitieren würde, wussten wir, dass selbst bescheidene Fortschritte in Richtung dieses Ziels tiefgreifende gesellschaftliche Auswirkungen haben würden.
Es fühlte sich damals sicherlich ziemlich weit hergeholt an.
Aber die KI erklimmt seit Jahrzehnten die Leiter der kognitiven Fähigkeiten und dürfte nun innerhalb der nächsten drei Jahre in einem sehr breiten Spektrum von Aufgaben Leistungen auf menschlichem Niveau erreichen. Das ist eine große Behauptung, aber wenn ich auch nur annähernd richtig liege, sind die Implikationen wirklich tiefgreifend.
Weitere Fortschritte in einem Bereich beschleunigen die anderen in einem chaotischen und sich gegenseitig katalysierenden Prozess, der außerhalb der direkten Kontrolle von irgendjemandem liegt. Es war klar, dass, wenn es uns oder anderen gelingen würde, menschliche Intelligenz zu reproduzieren, dies nicht nur ein profitables Business-as-usual wäre, sondern ein seismischer Wandel für die Menschheit, der eine Ära einleitete, in der beispiellose Chancen mit beispiellosen Risiken einhergehen würden. Jetzt beginnt neben einer Vielzahl von Technologien, darunter synthetische Biologie, Robotik und Quantencomputing, eine Welle sich schnell entwickelnder und äußerst leistungsfähiger KI zu brechen. Was sich bei der Gründung von DeepMind weltfremd angefühlt hatte, ist nicht nur plausibel, sondern scheinbar unvermeidlich geworden.
Als Entwickler dieser Technologien glaube ich, dass sie außergewöhnlich viel Gutes bewirken können. Aber ohne das, was ich Eindämmung nenne, ist jeder andere Aspekt einer Technologie, jede Diskussion über ihre ethischen Mängel oder die Vorteile, die sie bringen könnte, belanglos. Ich betrachte Eindämmung als eine Reihe ineinandergreifender technischer, sozialer und rechtlicher Mechanismen, die die Technologie einschränken und kontrollieren und auf allen möglichen Ebenen funktionieren: theoretisch ein Mittel, um dem Dilemma zu entgehen, wie wir die Kontrolle über die mächtigsten Technologien der Geschichte behalten können. Wir brauchen dringend schlüssige Antworten darauf, wie die kommende Welle kontrolliert und eingedämmt werden kann und wie die Schutzmaßnahmen und Möglichkeiten des demokratischen Nationalstaats aufrechterhalten werden können, die für den Umgang mit diesen Technologien von entscheidender Bedeutung und dennoch von ihnen bedroht sind. Im Moment hat niemand einen solchen Plan. Das deutet auf eine Zukunft hin, die keiner von uns wünscht, aber ich befürchte, dass sie immer wahrscheinlicher wird.
Angesichts der enormen, tief verwurzelten Anreize, die Technologie voranzutreiben, ist eine Eindämmung auf den ersten Blick nicht möglich. Und dennoch gilt für uns alle: Eindämmung muss möglich sein.
Es scheint, dass der Schlüssel zur Eindämmung in einer geschickten Regulierung auf nationaler und supranationaler Ebene liegt, die die Notwendigkeit von Fortschritten mit vernünftigen Sicherheitsbeschränkungen in Einklang bringt und alles von Technologiegiganten und Militärs bis hin zu kleinen universitären Forschungsgruppen und Start-ups umfasst und in ein umfassendes, durchsetzbares System eingebunden ist Rahmen. Wir haben es schon einmal gemacht, so lautet das Argument; Schauen Sie sich Autos, Flugzeuge und Medikamente an. Ist das nicht die Art und Weise, wie wir die kommende Welle bewältigen und eindämmen?
Wenn es nur so einfach wäre. Regulierung ist unerlässlich. Doch Regulierung allein reicht nicht aus. Auf den ersten Blick sollten Regierungen besser als je zuvor auf den Umgang mit neuartigen Risiken und Technologien vorbereitet sein. Die Staatshaushalte für solche Dinge liegen im Allgemeinen auf Rekordniveau. Die Wahrheit ist jedoch, dass neuartige Bedrohungen für jede Regierung außerordentlich schwer zu bewältigen sind. Das ist kein Fehler in der Idee einer Regierung; Es ist eine Einschätzung des Ausmaßes der vor uns liegenden Herausforderung. Regierungen bekämpfen den letzten Krieg, die letzte Pandemie, regulieren die letzte Welle. Regulierungsbehörden regulieren Dinge, die sie vorhersehen können.