Am Vorabend seines 25-jährigen Jubiläums startet Mozilla, die gemeinnützige Organisation hinter dem Firefox-Browser, ein auf KI ausgerichtetes Startup.
Genannt Mozilla.aiist die Mission des neu gegründeten Unternehmens nicht, irgendeine KI zu bauen – seine Mission ist es, KI zu bauen, die Open Source und „vertrauenswürdig“ ist, so Mark Surman, Executive President von Mozilla und Leiter von Mozilla.ai.
„Ich arbeite seit fast fünf Jahren an vertrauenswürdiger KI und habe ständig eine Mischung aus Aufregung und Angst verspürt“, sagte er TechCrunch in einem E-Mail-Interview. „Die letzten ein oder zwei Monate mit rasanten Big-Tech-KI-Ankündigungen waren nicht anders. Es entstehen wirklich aufregende neue Technologien – neue Tools, die Künstler, Gründer … alle Arten von Menschen sofort dazu gebracht haben, neue Dinge zu tun. Die Angst kommt, wenn man merkt, dass fast niemand auf die Leitplanken schaut.“
Surman bezog sich auf die Flut von KI-Modellen in den letzten Monaten, die zwar beeindruckend in ihren Fähigkeiten sind, aber besorgniserregende Auswirkungen auf die reale Welt haben. Bei der Veröffentlichung könnte das textgenerierende ChatGPT von OpenAI aufgefordert werden, Malware zu schreiben, Exploits in Open-Source-Code zu identifizieren und Phishing-Websites zu erstellen, die stark frequentierten Websites ähneln. Text-zu-Bild-KI wie Stable Diffusion wurde inzwischen kooptiert, um pornografische, nicht einvernehmliche Deepfakes und ultragrafische Darstellungen von Gewalt zu erstellen.
Die Schöpfer dieser Modelle sagen, dass sie Schritte unternehmen, um Missbrauch einzudämmen. Aber Mozilla hatte das Gefühl, dass nicht genug getan wurde.
„Wir arbeiten seit etwa fünf Jahren auf der Seite der Forschung von öffentlichem Interesse an vertrauenswürdiger KI, in der Hoffnung, dass andere Branchenakteure mit mehr KI-Expertise vortreten würden, um vertrauenswürdigere Technologien zu entwickeln“, sagte Surman. „Das haben sie nicht. Also entschieden wir Mitte letzten Jahres, dass wir es selbst machen mussten – und gleichgesinnte Partner finden mussten, die es neben uns machten. Wir machten uns dann daran, jemanden mit der richtigen Mischung aus akademischer und industrieller KI-Erfahrung zu finden, um es zu leiten.“
Mozilla.ai wird durch eine Startinvestition in Höhe von 30 Millionen US-Dollar von der Mozilla Foundation, der Mutterorganisation von Mozilla, finanziert und ist eine hundertprozentige Tochtergesellschaft der Mozilla Foundation – ähnlich wie die Mozilla Corporation (die Organisation, die für die Entwicklung von Firefox verantwortlich ist) und Mozilla Ventures (der VC der Mozilla Foundation). Fonds). Geschäftsführer ist Moez Draief, der zuvor Chefwissenschaftler im KI-Labor Noah’s Ark von Huawei und globaler Chefwissenschaftler des Beratungsunternehmens Capgemini war.
Karim Lakhani von Harvard, Navrina Singh von Credo und Surman werden als erste Vorstandsmitglieder von Mozilla.ai fungieren. Lakhani ist Vorsitzender und Mitbegründer des Digital, Data and Design Institute in Harvard, während Singh Mitglied des National AI Advisory Committee des US-Handelsministeriums ist, das den Präsidenten in einer Reihe von ethischen KI-Fragen berät.
Surman beschreibt Mozilla.ai als teils Forschungsunternehmen, teils Community – ein Startup, das sich der Erstellung eines vertrauenswürdigen, unabhängigen Open-Source-KI-Stacks verschrieben hat. Die Priorität von Mozilla.ai wird zunächst darin bestehen, ein Team von rund 25 Ingenieuren, Wissenschaftlern und Produktmanagern aufzubauen, um an „vertrauenswürdigen“ Empfehlungssystemen und großen Sprachmodellen nach dem Vorbild von OpenAIs GPT-4 zu arbeiten. Das breitere Ziel des Unternehmens ist es jedoch, ein Netzwerk von verbundenen Unternehmen und Forschungsgruppen aufzubauen – darunter von Mozilla Ventures unterstützte Startups und akademische Institutionen – die seine Vision teilen.
„Wir glauben, dass es einen kommerziellen Markt für vertrauenswürdige KI gibt – und dass dieser Markt wachsen muss, wenn wir verändern wollen, wie die Industrie KI in die Apps, Produkte und Dienste einbaut, die wir alle täglich nutzen“, sagte Surman. „Mozilla.ai – arbeitet lose mit vielen verbündeten Unternehmen, Forschern und Regierungen zusammen – [has] die Möglichkeit, gemeinsam einen „Trust First“-Open-Source-KI-Stack zu erstellen. Wenn wir erfolgreich sind, würde der Mainstream der Industrie diesen Stack als Teil ihres regulären Toolkits nutzen, so wie sie es in den letzten zwei Jahrzehnten mit dem Linux- und Apache-Stack getan haben.“
Mozilla.ai wird es nicht alleine schaffen – nicht ganz. Mehrere gemeinnützige Organisationen haben es sich zur Aufgabe gemacht, KI-Tools zu demokratisieren, darunter das kürzlich gegründete EleutherAI Institute, das von Unterstützern von Unternehmen wie Canva und Hugging Face finanziert wird. Es gibt auch das Allen Institute for AI, das vom verstorbenen Microsoft-Mitbegründer Paul Allen gegründet wurde, und das Alan Turing Institute. Zu den kleineren vielversprechenden Bemühungen gehören Cohere For AI des KI-Startups Cohere und Distributed AI Research von Timnit Gebru, eine globale dezentrale Forschungsorganisation.
Bezeichnenderweise ist Mozilla.ai keine gemeinnützige Organisation. Es ist zwar an bestimmte ethische Prinzipien gebunden (nämlich die Mozilla-Manifest), ist es offen für die Ausgliederung – und zielt tatsächlich darauf ab – seine erfolgreicheren Erkundungen von Produkten und Unternehmen zusätzlich zu Open-Source-Projekten auszugliedern.
Draief sieht darin eher einen Vorteil als einen Nachteil und argumentiert, dass es Mozilla.ai eine Flexibilität gibt, die gemeinnützigen Organisationen fehlt. Für ihn gibt es warnende Geschichten wie OpenAI, das 2015 als gemeinnützige Organisation gegründet wurde, aber später gezwungen war, in eine „gedeckelte“ Struktur überzugehen, um seine laufende Forschung zu finanzieren.
„Die große Frage ist, wie viele der neueren, kleineren, vertrauenswürdigen KI-Startups in der Lage sein werden, unabhängig zu bleiben?“ Draief teilte TechCrunch per E-Mail mit. „Es ist klar, dass die Big Player – insbesondere die Cloud-Plattformen von Amazon, Google und Microsoft – sich beeilen, den KI-Raum zu konsolidieren. Hier wird das ganze Geld verdient. Und es wird für kleine Unternehmen schwierig sein, nicht in diese Konsolidierung hineingezogen zu werden.“
Mozilla.ai verfolgt die aktuellen KI-Forschungstrends – und nicht zufällig die besser finanzierten Forschungsbereiche – und wird die nächsten Monate damit verbringen, Tools zu entwickeln, mit denen Benutzer beispielsweise die Quellen hinter den Antworten von KI-Chatbots abfragen können geben Sie ihnen. Das Unternehmen wird auch versuchen, Systeme zu entwickeln, die den Benutzern mehr Kontrolle über die Inhaltsempfehlungs-KI geben (dh die Algorithmen, die YouTube-, Twitter- und TikTok-Feeds steuern), wie Systeme, die einen Empfehlungsgeber für individuelle oder Gemeinschaftswerte optimieren – aufbauend auf Mozillas bestehender Forschung.
Draief gibt nicht vor, dass eine sinnvolle Verschiebung des KI-Stapels ein schneller Prozess sein wird. Während er verspricht, dass Mozilla.ai Code „dieses Jahr“ ausliefern wird, spricht er von mehreren Jahren.
Aber messbarer Erfolg braucht mehr als Zeit.
Wenn die Geschichte ein Hinweis ist, werden freiwillige Rahmenbedingungen und einmalige Tools die Nadel nicht viel bewegen, wenn überhaupt. Die Herausforderung von Mozilla.ai besteht darin, die Branche davon zu überzeugen, dass ihre Vision einer vertrauenswürdigen KI die richtige ist – und diese Vision zu übernehmen.
„Zuverlässige KI-Funktionen wie diese scheinen trivial hinzuzufügen zu sein – aber wir sehen sie immer noch meistens im Labor“, sagte Draief. „Mozilla.ai wird mit Forschern zusammenarbeiten, um ihre Arbeit in funktionierenden Code umzuwandeln und die gemeinsame Verwendung mit traditionelleren KI-Tools zu ermöglichen.“