De robotaxi is de laatste jaren flink in opkomst. In Amerikaanse steden als San Francisco en Los Angeles kun je al een aantal jaar onder andere autonome Jaguar I-Pace-robotaxi’s van Waymo zien rijden. De afgelopen tijd zijn er verschillende incidenten gemeld, waarbij deze maand zelfs een aanhouding plaatsvond nadat vanuit een robotaxi de politie was ingeschakeld. Het interessante: de taxi heeft niet zelf gebeld.
Vuurwapen in de auto
De oproep naar de politie ging over een wapen dat in de robotaxi was gedetecteerd. In de taxi wordt continu gefilmd en de beelden kunnen door AI worden geanalyseerd. Twee jongeren zaten in de auto, met wat later bleek een zelfgemaakt én geladen vuurwapen. Toen de auto dit wapen detecteerde, werd de politie gewaarschuwd. Waymo heeft een strikt beleid rondom hulpdiensten. Taxi’s moeten direct stoppen en, in dit geval, de deuren op slot houden. Zo kon de politie de inzittenden arresteren.
Hoe autonoom is de robotaxi?
Hier wordt het vaag, want Waymo vertelt niet concreet wat er nou precies is gebeurd. Hoe zag de auto wat er gebeurde? En wanneer wordt er hulp ingeschakeld? Waymo gebruikt AI om camerabeelden in en rond de auto te analyseren. In dit geval werd volgens het bedrijf iets gedetecteerd dat mogelijk een vuurwapen was, waarna contact werd opgenomen met de politie.
Maar nu het punt: de robotaxi kan niet zelf de politie bellen. Daar heeft de auto een menselijke operator voor nodig. Er zijn namelijk ongeveer 70 Remote Assistance Operators van Waymo die mee kunnen kijken als een robotaxi daarom vraagt. Met een vloot van ongeveer 3.000 taxi’s betekent dit dat er niet continu een menselijke operator meekijkt. Als er een situatie ontstaat die de autonome taxi niet makkelijk zelf kan oplossen, kan menselijke hulp worden ingeschakeld. Ook is er een Event Response Team dat reageert op complexe zaken, waaronder het coördineren met hulpdiensten.
Over dit incident blijft Waymo dus vaag. Het bedrijf vertelt namelijk niet hoeveel zekerheid het AI-systeem moet hebben voordat een verdachte situatie wordt doorgestuurd naar menselijke ondersteuning.
Hoeveel privacy heb je in een robotaxi?
Het incident roept daarmee wat vragen op over autonomie en privacy. Want hoeveel mag een robotaxi eigenlijk van de passagiers zien? Naast dit recente voorval zijn er nog meer incidenten geweest. Eerder werd ook de politie ingeschakeld toen twee minderjarigen met een speelgoedpistool uit het raam van de taxi aan het schieten waren. Ook Waymo zelf is niet vrij van kritiek. Het bedrijf werd namelijk aangesproken op de manier waarop het camerabeelden wilde gebruiken voor AI-training en gepersonaliseerde advertenties. Daarbij ontstonden vragen rondom de Californische privacywetgeving.
Waymo heeft eerder al gereageerd op berichten over zijn privacyregels. Gegevens zullen sowieso nooit verkocht worden aan derden en ook zal Waymo hun regels rond privacy aanscherpen. De incidenten roepen wel vragen op, want hoe ver wil je gaan met surveillance? In dit geval heeft het goed uitgepakt: de politie kon de verdachten aanhouden en een geladen vuurwapen in beslag nemen. Tegelijkertijd zijn er vanuit de privacywetgeving duidelijke vragen over wat bedrijven met zulke beelden mogen doen. Als passagier wil je uiteindelijk niet alleen weten dát er wordt ingegrepen, maar ook waarom.
