Die autonomen Autos von Uber sind zurück – und ich habe eine für eine Spritztour gemacht

Technik


Die autonomen Autos von Uber sind zurück – und ich habe eine für eine Spritztour gemacht

In den meisten Kursen zum moralischen Denken werden Sie wahrscheinlich auf das Trolley-Dilemma stoßen. Es gibt mehrere Versionen des philosophischen Problems, aber im Wesentlichen ist es folgendes: Ein außer Kontrolle geratener Zug rast die Gleise entlang, direkt auf fünf unschuldige Menschen zu. Du stehst in der Nähe eines Hebels und hast die Möglichkeit, den Zug umzuleiten, nur gibt es auf der abzweigenden Strecke eine sechste Person, die sicher getroffen wird. Wie geht's?

Der vorherrschende Gedanke ist, die Wenigen zu opfern, um die Vielen zu retten, aber was ist, wenn diese einsame Person auf der umgeleiteten Strecke Ihr Sohn ist? Was würden Sie dann tun?


Was ist, wenn wir einen Roboter bitten, die gleichen Entscheidungen zu treffen – was wird er wählen?

Diese Frage taucht immer häufiger auf, da Maschinen beginnen, komplizierte menschliche Aufgaben wie das Fahren zu übernehmen. „Es ist die komplexeste tägliche Arbeit, die der durchschnittliche Mensch tut“, sagt Professor Raj Rajkumar von der Robotikabteilung der Carnegie Mellon University. Laut Rajkumar werden selbstfahrende Fahrzeuge bis zum Ende dieses Jahrzehnts eine Multi-Billionen-Dollar-Industrie sein – das sind viele Roboter-Trolleys, die auf diese fünf Personen zufahren.

Aber die Antwort auf die KI-Version des Trolley-Zifferns ist – wie alle guten ethischen Fragen – ein Trick: Ein Roboter würde idealerweise nie in diese Situation geraten, oder das habe ich während meines Missionsspezialisten-Kurses bei Ubers Advanced Technologies Group zum Piloten gelernt ihre autonomen Fahrzeuge. Im Wesentlichen an der Uber University, wo ich mich auf die Erprobung früher selbstfahrender Software für eine mögliche (sprich: hoffnungsvolle) Zukunft spezialisiert habe, wenn der fragliche Roboter intelligent genug wäre, um ein unbegleitetes Selbstfahren zu versuchen.

Ich war der erste Zivilist, der eingeladen wurde, an dem Programm teilzunehmen, und ich habe versagt. Spektakulär. Nicht, weil ich kein guter Fahrer war (Sie sollten meine Fähigkeiten zum parallelen Einparken sehen) – ich habe auch das Philosophieseminar bestanden –, sondern weil sich die Strenge des Programms dramatisch verändert hat, seit es nach dem Vorfall, auf den sich das ATG-Team in gedämpfte Töne als „Tempe“.


Am 18. März 2018 erlebte Uber in Tempe, Arizona, seine eigene reale Variante des Trolley-Problems, als einer seiner Volvo XC90 in eine Katastrophe rutschte. Es war der perfekte Sturm: Die Fahrerin des Fahrzeugs war zu sehr von der Technik überzeugt und achtete auf ihr Handy statt auf die Straße; die selbstfahrende Software – noch in der Entwicklungsphase – konnte ein Hindernis auf dem direkten Weg des Autos nicht eindeutig identifizieren; und ein Fußgänger versuchte, nachts in einem ausgeschilderten Bereich, der das Jaywalking verbot, mit dem Fahrrad über einen breiten, an eine Autobahn angrenzenden Boulevard zu laufen. Niemand war mental da, weder Mensch noch Roboter, um den Hebel zu betätigen, und der Jaywalker wurde getötet, was Ubers aufkeimendes Programm für autonome Fahrzeuge sofort beendete.

Es dauerte ganze neun Monate, bis das Programm im Dezember 2018 als reduzierte Version seines früheren Selbst wieder auf den Markt kam und sich hauptsächlich auf eine Teststrecke neben dem ATG-Hauptquartier in Pittsburgh konzentrierte. (San Francisco, Dallas und Toronto haben auch kleine Satellitenforschungsteams, aber Tempe bleibt dauerhaft geschlossen.) Und aus der längeren Pause wurde eine neue Programmphilosophie geboren, bei der das Kaliber der gesammelten Daten (anstelle des Volumens) Priorität hat. Neue Sicherheitsniveaus wurden definiert und die Kursarbeit wurde neu entwickelt, um „die Luftfahrtzertifizierung besser widerzuspiegeln“, erklärt Nick Wedge, Leiter für Lernen und Entwicklung bei Uber ATG. Kurz gesagt, die zuvor etablierten Sicherheitsstandards wurden angehoben, einschließlich zusätzlicher Reduzierungen der Systemlatenz – der Mikroverzögerungen in der Sensor-zu-Software-zu-Hardware-Kommunikation autonomer Fahrzeuge – um sicherzustellen, dass „Tempe“ nicht noch einmal passiert.

Der Vergleich mit der Luftfahrt ist treffend, da der Einsatz autonomer Technologie in Verkehrsflugzeugen bereits an der Tagesordnung ist – Piloten manipulieren das Rollen, Starts und Landungen, aber sobald sie in der Luft sind, setzt die selbststeuernde Technologie ein, die vom Flugdeck überwacht wird. Und als aktuelles Transportmittel mit der besten Sicherheitsbilanz – ungeachtet der softwarebedingten Boeing 737 Max 8-Katastrophe – sind die Standards der Luftfahrtindustrie für das Risikobewertungsmanagement jetzt die dringend benötigte Vorlage, auf die die aufstrebende selbstfahrende Industrie ihre Sicherheit gelegt hat Rahmen. Der Himmel ist natürlich auch eine kontrollierte Umgebung, da jeder Pilot ein intensives Training durchläuft; Ein limitierender Faktor für die Verbreitung selbstfahrender Fahrzeuge am Boden ist ganz einfach die Unberechenbarkeit anderer Menschen. Das sagt dir dein Vater, wenn er dir auf einem Walmart-Parkplatz das Autofahren beibringt: „Ich mache mir keine Sorgen um dich, sondern um die anderen Fahrer!“

Nie hätte ich mir als Teenager so verzweifelt vorstellen können, meinen Lernausweis zu bekommen, dass ich eines Tages die in Arbeit befindliche Technologie testen würde, die in nicht allzu ferner Zukunft eine Lizenz obsolet machen könnte. Nach ein paar Tagen Onboarding, Briefings und Vorträgen über die Unternehmensstruktur von Uber nehmen die Auszubildenden (alle außer mir sind ATG-Mitarbeiter) an einer vollen Woche intensiven manuellen Betriebs teil, lernen den Volvo XC90 kennen und testen seine Fähigkeiten auf dem abgesperrten -aus der Bahn. Notmanöver (wie das Überprüfen der Kreischgrenzen von Antiblockierbremsen) werden ebenso geübt wie rigorose Routennavigation, Einparken und Rückwärtsfahren – eine Schlüsselloch-Autorotation (ein Auto aus einer Parklücke ziehen und wieder in dieselbe Lücke einfädeln .) durch eine fast unmöglich enge Schleife) kann als eines der unangenehmsten Dinge gelten, die ich in letzter Zeit gemacht habe.


„Vieles von dem, was Sie im manuellen Teil des Schulungsprogramms für Missionsspezialisten lernen, lässt sich letztendlich in der Steuerung eines selbstfahrenden Fahrzeugs umsetzen“, erklärt Wedge. „Dinge wie Grenzpunkte und Okklusionen sind wirklich wichtig“ – Begriffe, die ich in meiner Jugend noch nie gehört habe, als ich das Autofahren erlernte, aber wesentliche Faktoren sind, wenn ein Fahrer das Risiko bestimmt. Die Notwendigkeit für alle Missionsspezialisten, das Fahrzeug vollständig von Hand zu beherrschen, ist von entscheidender Bedeutung, da sie derzeit der Vermittler zwischen dem Roboter und seiner Umgebung sind, da sich die Software in dieser Grenzphase weiterhin an die Straßenbedingungen anpasst. Das Niveau und die Strenge des manuellen Trainingsprogramms unterstreicht auch die eklatante Ironie des modernen Straßenverkehrs: Wenn normale Fahrer an einem manuellen Trainingsprogramm dieses Kalibers teilnehmen würden, wären wir der Autonomie aufgrund der massiven potenzielle Verringerung menschlicher Fehler. Warum werden reguläre Fahrer nicht erst auf einem höheren Niveau ausgebildet?

Die einfache Antwort lautet: Die Art und Weise, wie wir heute fahren, wurde als gut genug erachtet. Die 35.000 jährlichen Autototen mögen viel klingen – und es ist sicherlich verheerend für die Beteiligten – aber statistisch müssten Sie über 100.000.000 Meilen (das sind 390 Jahre ununterbrochenes Fahren) zurücklegen, bevor ein Todesfall auftreten würde. Wenn Sie einschränkende Faktoren wie abgelenktes Fahren (SMS), beeinträchtigtes Fahren (Betrunkenheit) und Müdigkeit (ATG-Missionsspezialisten dürfen nur zwei Stunden lang am Steuer sitzen; es waren 12 vor Tempe) entfernen, ist das menschliche Gehirn auf natürliche Weise dafür gerüstet beobachten, antizipieren und reagieren in wagenähnlichen Szenarien; Die Gehirne selbstfahrender Roboter sind noch nicht ganz da.

In der dritten Woche des Missionsspezialisten-Trainings können Sie den autonomen Fahrmodus des Autos umlegen. Und es ist dieser Teil der Studienarbeit, der den greifbarsten Paradigmenwechsel seit Tempe erlebt hat. Während die Messung subjektiv ist, fahren die Autos jetzt selbstbewusster – Uber vertraute der menschlichen Hand als Ausfallsicherung anfangs zu viel – mit verbesserter Erkennung und Verfolgung, die ungewöhnlich geformte Objekte in Bewegung wie Fußgänger und Radfahrer besser unterscheiden können.

Auch die Methoden zur Datenerfassung haben sich seit Tempe dramatisch verändert. Zuvor war es notwendig, Fortschritte durch das zu demonstrieren, was das ATG-Team heute als „Landraub“ bezeichnet: eine objektive Möglichkeit, messbare Updates bereitzustellen – kilometergetaktet – während selbstfahrende Autos über belebte Boulevards surrten und Interaktionen mit den Konstanten der realen Welt versuchten Schwarm bewegter Körper. Anstatt Manöver wie eine Linkskurve zu üben, bestand der vorherrschende Gedanke darin, der Roboterfahrsoftware mit ihrer unendlichen Speicherkapazität ein Auswendiglernen jeder Straße, Ecke und Kurve zu ermöglichen, als würde man sich Millionen von Sätzen einer Fremdsprache merken, aber nie begreifen Konjugation oder die Grundlagen des Satzbaus.


Jetzt wurde der Goldrausch um kartierte Meilen durch einen qualitativen Lernansatz ersetzt: Bringen Sie der Software alle Regeln und Ausnahmen der Fremdsprache bei (wie das Üben aller möglichen Linksabbieger auf einer Teststrecke) und sie weiß, wie es geht Generieren Sie nahtlos jeden gewünschten Satz (unterwegs). Während die Software lernt, funktioniert sie nur innerhalb der Grenzen ihrer gelehrten Umgebung und testet neue Datenpunkte wie ein französischer Schüler mit seinem Lehrer, bevor er nach Paris fliegt – es ist eine langsamere Verbrennung, aber Uber versucht nicht mehr, den Ozean zum Kochen zu bringen.

Und hier kommt die Trick-Roboter-Trolley-Frage ins Spiel. Wie der Mensch erkennt, prognostiziert und reagiert künstliche Intelligenz auf die Szenarien, mit denen sie konfrontiert ist, aber der Unterschied liegt in der Ausgereiftheit anwendungsbasierter selbstfahrender Software. Bei einer Feinabstimmung werden seine Vorhersagefunktionen so präzise sein, dass ein automatisierter Möchtegern-Trolley einfach nicht auf fünf – oder eine – Personen zusteuert.

Ungeachtet des vorherrschenden gesellschaftlichen Misstrauens gegenüber KIs – dass sie zwar über menschliche Entscheidungskompetenzen verfügen, aber ohne den moralischen Schleier – können Maschinen vorausschauende Maßnahmen ergreifen, um das potenzielle Risiko zu eliminieren, das ein Trolley-Dilemma erst in Gang setzt. „Mit einem konstanten 360-Grad-Blick auf die Welt um sie herum funktionieren selbstfahrende Fahrzeuge ohne Probleme mit der menschlichen Leistung, um sicherere und fundiertere Entscheidungen darüber zu treffen, wie sie auf Dinge in ihrer Umgebung reagieren sollen“, ergänzt Nat Beuse, der Sicherheitschef von Uber ATG. Der Einsatz übermenschlicher Technologien wie Lidar (Lichterkennung und Entfernungsmessung), Radar und Kameras überwindet die sensorischen Einschränkungen, die manuelle Fahrer von Natur aus besitzen; Im Wesentlichen gibt es keinen blinden Fleck für Roboter. Damit wird das Trolley-Szenario letztlich obsolet, weil das Dilemma selbst ein menschliches Wahrnehmungsversagen voraussetzt, das eine Vorhersage (fünf oder eine Person) und Reaktion (Wegwahl) auslöst; ein verschärftes Weltbild greift früher und mit gründlicheren Überlegungen ein, um negative Variablen zu isolieren, bevor sie zu unerwünschten Vorhersagen werden.

Aber was passiert, wenn die Software Beachballs macht? Es wirbelt ständig auf meinem Laptop, was also tun, wenn es in einem selbstfahrenden Auto auftritt? Ein Großteil der autonomen Kursarbeit bezieht sich auf die sogenannte „Fehlerinjektion“ – das Aushandeln von gezielt erzeugten Störungen in der selbstfahrenden Technologie, damit sich die Geschichte (z. B. Tempe) nicht wiederholt. Die Zeit, die es braucht, um die Kontrolle über das Fahrzeug zurückzugewinnen (das Lenkrad zu bewegen oder entweder das Gaspedal zu betätigen oder die Bremse zurückzugeben, gibt dem Piloten die Fahrfähigkeiten zurück) wird ordnungsgemäß gemessen, da plötzliche Stopps und Schraubenschlüssel den Auszubildenden helfen, ihre Reaktionszeit so weit wie möglich zu verkürzen Null Sekunden wie möglich, sollte es im echten Leben auf dem Feld zu Schluckauf kommen. Die Wachsamkeit des Fahrers ist ein Schlüsselfaktor bei der Unfallvermeidung auf dem Weg zum vollständig autonomen Fahren, da die Selbstzufriedenheit des Fahrers eine der Hauptursachen für den Vorfall in Tempe war. „Unsere aktuelle Technologie erfordert jederzeit hochqualifizierte Missionsspezialisten am Steuer, und erst wenn wir bestätigt haben, dass unser System unseren Sicherheitsnachweis erfüllt, werden wir das vollständig autonome Fahren erforschen“, fügt Wedge hinzu. Und mit dem neuen, von der Luftfahrtindustrie übernommenen Post-Tempe-Sicherheitsrahmen muss jedes Risiko berücksichtigt werden (und sichergestellt werden, dass die Software keinen Beachball macht), bevor ein fahrerloses Auto fliegen kann.

Hätte ich meinen Abschluss gemacht, wäre ich Teil eines Elite-Teams bei Uber ATG geworden, das sich – bis die Technologie eine akzeptable Nutzungsschwelle erreicht – mit einem weiteren philosophischen Dilemma auseinandersetzt, das Wedge als das Paradox des Misstrauens bezeichnet: „Der Erfolg der Missionsspezialist hängt davon ab, in der Grauzone zu leben, zwischen der Suche nach dem Erfolg der Technologie und der Erwartung, dass sie scheitert. Du bist gleichzeitig sein enthusiastischster Champion, aber auch sein größter Ungläubiger.“

Noch seltsamer ist die Vorstellung, dass der Gesamterfolg des Missionsspezialistenteams – das Erreichen des sogenannten NVO (kein Fahrzeugbetreiber) – eine mögliche Redundanz bedeutet; Sie pflegen im Wesentlichen die Technologie, um sich selbst überflüssig zu machen. Was ist also die Motivation (sagt der Autor im immer kleiner werdenden Bereich des Journalismus)?

Die kurze Antwort ist, dass Uber noch nicht nach einer Welt der totalen Autonomie strebt – die Entwicklung von Reichen selbstfahrender Pisten ist das aktuelle Ziel.

Vor zehn Jahren war es alles Guerilla-Taktiken, als Uber mit dem Fallschirm auf die Straße stürzte und die Verkehrsparadigmen so dramatisch veränderte, dass die Städte keine andere Wahl hatten, als zu gehorchen. Heute sind diese Yottabytes an Benutzerdaten zu wertvollen Werkzeugen für dieselben Ziele geworden, da sie Routen isolieren, die auf Autonomie vorbereitet sind; hochdichte Arterien in einem gemeinsamen Betriebsbereich, in dem selbstfahrende Fahrzeuge den Verkehr entlasten, das Kollisionspotenzial reduzieren und den Transportpreis für den Fahrgast senken könnten.

Autobahnen sind ein besonders förderlicher Raum für Autonomie, da sie mit ihren langen, breiten Fahrspuren, ohne Kurven oder Fußgänger und einem einzigen Vorwärtsfluss von Fahrzeugen den kommerziellen Flugbedingungen am besten entsprechen.

Während Autokonzerne wie Tesla hoffen, mit ihren glitzernden Versionen von „Autopilot“ (der, um es festzuhalten, eine aufgemotzte Version des Tempomaten und keine richtige Autonomie ist) den Absatz steigern zu können, würde Uber das Auto lieber aus dem Verkehr ziehen deine Einfahrt. Es wurden keine dramatischen Dekrete erlassen, um Ihr Fahrzeug vollständig aufzugeben, aber eine ideale nahe Zukunft würde es Pendlern ermöglichen, selbstfahrenden Leitungen zu ihren Arbeitsplätzen in der Innenstadt zu folgen. Der Traum besteht vorerst darin, Autonomie zu nutzen, um die Symptome einer überfüllten Umgebung wie Engpässe in der Hauptverkehrszeit zu beseitigen, während manuelle Autos für hausnahe Aufgaben wie Backstreet-Navigation und Lebensmitteleinkauf beibehalten werden. Und wenn die Technologie bereit ist, würden nur noch Passagiere im Roboterauto fahren, was die Betriebskosten für den Betrieb des Fahrzeugs senkt (was wiederum die Fahrpreise für die Fahrer senkt), da die Navigation durch Piloten nicht mehr überwacht wird.

„Parkhäuser werden bald der Vergangenheit angehören“, merkt Wedge an, und die Pläne mit der Verbreitung der Mitfahr-App Uber laufen seit über einem Jahrzehnt auf Hochtouren. Aber es ist die Plattform selbst, die auch Uber geschaffen hat, die den Schlüssel zur Zukunft sowohl für die Rationalisierung der Autonomie als auch für die Steigerung der Rentabilität in sich birgt – es ist das Schachbrett, auf dem alle späteren selbstfahrenden Dienste ihre Figuren platzieren werden: zuerst Autos, dann Lastwagen , und vielleicht sogar Busse. Aber bitte keine Trolleys.