Forscher und Zukunftsforscher sprechen seit Jahrzehnten von dem Tag, an dem intelligente Software-Agenten als persönliche Assistenten, Tutoren und Berater fungieren werden. Apple hat sein berühmtes produziert Wissensnavigator Video aus dem Jahr 1987. Ich erinnere mich an den Besuch einer MIT Media Lab-Veranstaltung in den 1990er Jahren über Softwareagenten, bei der der Moderator als Butler mit Melone auftrat. Mit dem Aufkommen der generativen KI ist diese vage Vision von Software als Adjutant plötzlich in den Fokus gerückt. Will Knight von WIRED gab diese Woche einen Überblick darüber, was jetzt verfügbar ist und was unmittelbar bevorsteht.
Ich mache mir Sorgen darüber, wie sich das ändern wird unsund unsere Beziehungen zu anderen auf längere Sicht. Viele unserer Interaktionen mit anderen werden durch Bots vermittelt, die an unserer Stelle handeln. Roboterassistenten unterscheiden sich von menschlichen Helfern: Sie machen keine Pausen, können sofort auf das gesamte Wissen der Welt zugreifen und müssen keinen existenzsichernden Lohn zahlen. Je öfter wir sie nutzen, desto verlockender wird es, Aufgaben abzugeben, die wir einst für uns selbst reserviert hatten.
Derzeit sind die angebotenen KI-Assistenten noch unausgereift. Wir sind noch nicht an dem Punkt angelangt, an dem autonome Bots routinemäßig Aktivitäten übernehmen, bei denen Fehler nicht toleriert werden können, wie etwa die Buchung von Flügen, die Vereinbarung von Arztterminen und die Verwaltung von Finanzportfolios. Aber das wird sich ändern, denn es kann. Wir scheinen dazu bestimmt zu sein, unser Leben wie Langstreckenpiloten zu leben – nachdem wir einen Kurs festgelegt haben, können wir uns im Cockpit zurücklehnen, während die KI das Flugzeug steuert und bei Bedarf in den manuellen Modus wechselt. Es besteht die Befürchtung, dass es letztendlich die Agenten sein könnten, die darüber entscheiden, wohin das Flugzeug überhaupt fliegt.
Abgesehen vom Doomerismus müssen wir uns alle mit den superintelligenten und möglicherweise manipulativen Agenten anderer auseinandersetzen. Wir werden die Kontrolle über unsere eigenen täglichen Aktivitäten und alltäglichen Entscheidungen, von Einkaufslisten bis hin zu Terminkalendern, an unsere eigenen KI-Assistenten übergeben, die auch mit den Agenten unserer Familie, Freunden und Feinden interagieren. Mit zunehmender Unabhängigkeit treffen unsere automatisierten Helfer möglicherweise in unserem Namen Entscheidungen oder Geschäfte, die überhaupt nicht gut sind.
Für einen optimistischen Blick auf diese Zukunft konsultiere ich Mustafa Suleyman. Als Mitbegründer des KI-Startups DeepMind, heute das Herzstück der KI-Entwicklung von Google, ist er heute CEO von Inflection.ai, einem Unternehmen, das Chatbots entwickelt. Suleyman hat kürzlich auch die Residenz übernommen Die New York Times Bestsellerliste für sein Buch Die kommende Welle, was darauf hindeutet, wie Menschen den existenziellen Gefahren der KI begegnen können. Insgesamt ist er ein Optimist und hat natürlich eine rosige Einstellung zu Softwareagenten. Er beschreibt den Bot, den sein Unternehmen herstellt: Pials persönlicher „Stabschef“, der nicht nur Weisheit, sondern auch einfühlsame Ermutigung und Freundlichkeit bietet.
„Heutzutage ist Pi nicht in der Lage, Ihnen Restaurants zu reservieren oder ein Auto zu organisieren oder, Sie wissen schon, Dinge für Sie zu kaufen“, sagt Suleyman. „Aber in Zukunft wird es Ihren vertraglichen und gesetzlichen Vertreter haben, was bedeutet, dass Sie die Erlaubnis erteilt haben, in Ihrem Namen Verträge abzuschließen, echtes Geld auszugeben und Sie an wesentliche Vereinbarungen in der realen Welt zu binden.“ Außerdem auf der Roadmap: Pi wird im Namen seines Besitzers telefonieren und mit Kundendienstmitarbeitern verhandeln.
Das erscheint fair, denn im Moment sind zu viele dieser Servicemitarbeiter bereits Bots und – vielleicht absichtlich? – nicht anfällig für vernünftige Argumente, dass ihre Arbeitgeber ihre eigenen Kunden verarschen. Zwangsläufig werden wir unsere KIs in Verhandlungen mit anderen KIs in allen Lebensbereichen bringen. Suleyman räumt ein, dass wir nicht möchten, dass diese Bots sich zu sehr anfreunden oder auf eine Weise interagieren, die der menschlichen Kontrolle entzogen ist. „Wir wollen eigentlich, dass die KI-zu-KI-Kommunikation auf einfaches Englisch beschränkt wird“, sagt Suleyman. „Auf diese Weise können wir es prüfen.“