Die Originalversion von diese Geschichte erschien in Quanta-Magazin.
Fahrerlose Autos und Flugzeuge sind nicht mehr der Stoff der Zukunft. Allein in der Stadt San Francisco haben zwei Taxiunternehmen bis August 2023 insgesamt 8 Millionen Meilen autonomes Fahren zurückgelegt. Und in den Vereinigten Staaten sind mehr als 850.000 autonome Luftfahrzeuge oder Drohnen registriert – die Fahrzeuge des Militärs nicht mitgerechnet.
Es gibt jedoch berechtigte Bedenken hinsichtlich der Sicherheit. Beispielsweise in einem Zeitraum von 10 Monaten, der im Mai 2022 endete, die National Highway Traffic Safety Administration gemeldet Fast 400 Unfälle, an denen Autos beteiligt waren, die irgendeine Form der autonomen Steuerung nutzten. Bei diesen Unfällen kamen sechs Menschen ums Leben, fünf wurden schwer verletzt.
Der übliche Weg, dieses Problem anzugehen – manchmal auch „Testen durch Erschöpfung“ genannt – besteht darin, diese Systeme zu testen, bis Sie überzeugt sind, dass sie sicher sind. Sie können jedoch nie sicher sein, dass dieser Prozess alle potenziellen Mängel aufdeckt. „Menschen führen Tests durch, bis ihre Ressourcen und ihre Geduld erschöpft sind“, sagte er Sayan Mitra, Informatiker an der University of Illinois, Urbana-Champaign. Tests allein können jedoch keine Garantien bieten.
Mitra und seine Kollegen können. Seinem Team ist es gelungen beweisen Die Sicherheit von Spurverfolgungsfunktionen für Autos und Landesysteme für autonome Flugzeuge. Ihre Strategie wird nun genutzt, um die Landung von Drohnen auf Flugzeugträgern zu unterstützen, und Boeing plant, sie in diesem Jahr an einem Versuchsflugzeug zu testen. „Ihre Methode, durchgängige Sicherheitsgarantien zu bieten, ist sehr wichtig“, sagte er Corina PasareanuForscher an der Carnegie Mellon University und am Ames Research Center der NASA.
Ihre Aufgabe besteht darin, die Ergebnisse der maschinellen Lernalgorithmen zu garantieren, die zur Information autonomer Fahrzeuge eingesetzt werden. Auf hoher Ebene bestehen viele autonome Fahrzeuge aus zwei Komponenten: einem Wahrnehmungssystem und einem Steuerungssystem. Das Wahrnehmungssystem sagt Ihnen beispielsweise, wie weit Ihr Auto von der Mitte der Fahrspur entfernt ist oder in welche Richtung ein Flugzeug fliegt und welchen Winkel es zum Horizont hat. Das System funktioniert, indem es Rohdaten von Kameras und anderen sensorischen Werkzeugen an maschinelle Lernalgorithmen weiterleitet, die auf neuronalen Netzen basieren und die Umgebung außerhalb des Fahrzeugs nachbilden.
Diese Bewertungen werden dann an ein separates System, das Kontrollmodul, gesendet, das entscheidet, was zu tun ist. Steht beispielsweise ein Hindernis bevor, entscheidet es, ob es bremst oder umfährt. Entsprechend Luca Carloneein außerordentlicher Professor am Massachusetts Institute of Technology, erklärt, dass das Steuerungsmodul zwar auf etablierter Technologie basiert, „aber es trifft Entscheidungen auf der Grundlage der Wahrnehmungsergebnisse, und es gibt keine Garantie dafür, dass diese Ergebnisse korrekt sind.“
Um eine Sicherheitsgarantie zu bieten, arbeitete Mitras Team daran, die Zuverlässigkeit des Wahrnehmungssystems des Fahrzeugs sicherzustellen. Sie gingen zunächst davon aus, dass Sicherheit gewährleistet werden kann, wenn eine perfekte Abbildung der Außenwelt vorliegt. Anschließend ermittelten sie, wie viel Fehler das Wahrnehmungssystem bei der Nachbildung der Fahrzeugumgebung verursacht.
Der Schlüssel zu dieser Strategie liegt in der Quantifizierung der damit verbundenen Unsicherheiten, dem sogenannten Fehlerband – oder den „bekannten Unbekannten“, wie Mitra es ausdrückte. Diese Berechnung basiert auf dem, was er und sein Team einen Wahrnehmungsvertrag nennen. In der Softwareentwicklung ist ein Vertrag eine Verpflichtung, dass für eine bestimmte Eingabe in ein Computerprogramm die Ausgabe innerhalb eines bestimmten Bereichs liegt. Es ist nicht einfach, diesen Bereich herauszufinden. Wie genau sind die Sensoren des Autos? Wie viel Nebel, Regen oder Sonneneinstrahlung verträgt eine Drohne? Aber wenn Sie das Fahrzeug innerhalb eines bestimmten Unsicherheitsbereichs halten können und die Bestimmung dieses Bereichs ausreichend genau ist, hat Mitras Team bewiesen, dass Sie seine Sicherheit gewährleisten können.