Vor einem Monat wurde ein Video von a Waymo-Robotertaxi steckt im Kreisverkehr fest – laut Waymo ein Einzelfall ohne Passagiere im Fahrzeug.
Anscheinend war es keine einmalige Sache.
Etwa zur gleichen Zeit kreiste auch Mike Johns, Gründer und CEO des KI-Beratungsunternehmens Digital Mind State, in einem anderen Waymo-Robotaxi auf dem Weg zum Flughafen Phoenix um einen Parkplatz und war nicht in der Lage, das Auto anzuhalten oder auszusteigen.
Die Videos wurden im Abstand von einigen Tagen veröffentlicht. Waymo hat nicht bestätigt, ob die Vorfälle gleichzeitig passiert sind oder ob es andere ähnliche verrückte Vorfälle gegeben hat, es gibt jedoch Software-Updates herausgegeben, um das Problem zu beheben.
Johns saß „weniger als sieben Minuten“ in einer Schleife im Waymo fest, aber er sagt, es habe sich „wie eine Ewigkeit angefühlt“, hauptsächlich weil er befürchtete, seinen Flug zu verpassen, und sich fragte, ob das Auto gehackt worden sei. Es war sein zweites Mal in einem Waymo-Robotaxi.
Ein Waymo-Sprecher bestätigte den Vorfall. „Dieses Ereignis ereignete sich Anfang Dezember und wurde seitdem durch ein regelmäßig geplantes Software-Update behoben. Das Fahrzeug hat die Fahrt des Passagiers abgeschlossen und ihm wurde die Fahrt nicht in Rechnung gestellt.“
Ein Waymo-Kundendienstspezialist habe das Auto angerufen, ohne es Johns zu sagen, sagte er gegenüber TechCrunch. Die Agentin sagte, sie habe eine Benachrichtigung erhalten, dass ihr Auto „möglicherweise Probleme mit der Route habe“, so a Video des Vorfalls, den Johns teilte.
Um das Problem zu lösen, forderte der Experte Johns auf, seine Waymo-App zu öffnen und „in der unteren linken Ecke der App auf ‚Meine Reise‘ zu tippen“, worauf Johns antwortete: „Können Sie das nicht einfach tun?“ Du solltest damit klarkommen, die Kontrolle über das Auto übernehmen, mein Telefon brauchst du nicht.
Eine berechtigte Frage, wenn man bedenkt, dass eine solche Anschaffung offenbar der Zweck eines Fernassistenten ist.
„Ich habe keine Möglichkeit, das Auto zu kontrollieren“, gestand sie.
Waymo teilt TechCrunch mit, dass sich seine Passagierbetreuer von denen unterscheiden FlottenreaktionsteamDarauf greift die Software für autonomes Fahren (bekannt als „Waymo Driver“) um Hilfe, wenn sie auf der Straße auf eine ungewohnte Situation stößt.
Fahrerunterstützungsmitarbeiter, wie derjenige, mit dem Johns gesprochen hat, können auf die Kontaktaufnahme der Fahrer reagieren – Fahrer können über die Waymo-App und eine Anruftaste im Fahrzeug Kontakt aufnehmen. Sie können auch „Kontakt aufnehmen, wenn die Fahrzeugdiagnose von Waymo einen solchen Bedarf anzeigt.“ Sie interagieren jedoch nicht direkt mit der Fahrsoftware des Fahrzeugs.
Am Ende, sagt Johns, habe das Befolgen der Anweisungen des Support-Mitarbeiters in der App das Robotaxi wieder auf Kurs gebracht.
Johns sagte, Waymo habe ihn für die Reise entschädigt und ihn auf die Website des Unternehmens verwiesen, um eine Beschwerde einzureichen. Das Unternehmen kontaktierte ihn nicht unmittelbar nach dem Vorfall, tat dies jedoch diese Woche, nachdem sein Video veröffentlicht wurde wichtigsten Nachrichtenagenturen.
„Mein größtes Problem ist, dass wir in diesem digitalen Zeitalter, in dem wir leben, so weit vom menschlichen Faktor entfernt sind“, sagte Johns gegenüber TechCrunch. „Ich bin voll und ganz für KI. Ich bin führend in den Bereichen KI, Automatisierung und Robotik, aber es gibt immer noch einen menschlichen Faktor.“
Missy Cummings, Professorin für Autonomie und Robotik an der George Mason University und ehemalige leitende Sicherheitsberaterin bei der National Highway Traffic Safety Administration, sagt, dieser Vorfall sei zwar klein, zeige aber ein größeres Problem, das AV-Unternehmen angehen sollten.
„In jedem Robotersystem gibt es irgendwo einen großen roten Knopf, der sich bei Betätigung ausschaltet“, sagte Cummings gegenüber TechCrunch und bemerkte, dass der Knopf an einer schwer zugänglichen Stelle im Auto versteckt sein könnte. „Und ich sage Ihnen, dass dies eine sehr wichtige Sicherheitsmaßnahme für die Zukunft ist, denn was passiert, wenn das Auto … von jemandem gehackt wird und sich ein Passagier im Fahrzeug befindet? Sie brauchen auf jeden Fall die Möglichkeit, alles im Auto aus der Ferne anzuhalten, damit sie aussteigen können.“
Waymo sagte gegenüber TechCrunch, dass „Waymo-Fahrzeuge tatsächlich über einen Stoppknopf verfügen, der den Passagieren jederzeit zur Verfügung steht“, der sich in der App und auf dem Beifahrerbildschirm befindet, aber Johns sagte, der Support-Mitarbeiter habe ihm davon nichts erzählt, und er habe es getan Ich sehe es nicht.
Cummings wies außerdem darauf hin, dass es aufgrund möglicher Verbindungsprobleme und unfreundlicher Apps „fehleranfällig“ sei, den Fahrer zu bitten, sich aktiv an der Korrektur mithilfe Ihrer App zu beteiligen.
„Ich war überrascht, dass sie versuchte, ihn dazu zu bringen, ans Telefon zu gehen, um eine Lösung für dieses Problem zu finden, obwohl es sich eindeutig um eine dringende Situation handelt, die sofort angegangen werden muss“, sagte Cummings. „Sie hätte sagen sollen: ‚Sehen Sie, ziehen Sie an der linken Ecke des Teppichs auf dem Boden und Sie werden einen roten Knopf sehen.‘ Drücken Sie diesen Knopf.‘“
