Tesla's Autopilot zal levens redden, maar ook levens kosten
Elon Musk is ervan overtuigd dat zelfsturende computers auto's veel veiliger zullen maken. Maar tijdens hun leerproces zijn slachtoffers onvermijdelijk.
Op de laatste dag van zijn leven stond Jeremy Banner voor zonsopkomst op om naar zijn werk te rijden. Hij stapte in zijn rode Tesla Model 3 en begaf zich zuidwaarts langs de oevers van de Everglades in de Amerikaanse staat Florida . Moerassen en landbouwgebieden zoefden als een groene waas aan hem voorbij.
Banner haalde een hendeltje over op het stuurwiel, en er klonk een zachte toon. Hij had het meest complexe en controversiële veiligheidsproduct voor auto’s aangezet: Tesla Autopilot, een computersysteem dat alle functies van het gewone snelwegverkeer uitvoert zonder dat de bestuurder zich ermee hoeft te bemoeien. Als de computer de auto bestuurt, kan de auto sneller gaan rijden, van rijbaan verwisselen, een afrit nemen en, als hij een obstakel voor zich ziet, op de rem trappen.
Het doel van Tesla is om de mondiale automarkt te beheersen door ’s werelds eerste zelfrijdende auto te maken, en volgens Tesla is Autopilot daarvoor de essentiële eerste stap. Klanten vinden het prachtig.
Ze hebben samen al bijna 2,5 miljard kilometer met Autopilot afgelegd en daarbij de grenzen van de software vaak opgezocht. Hoewel de handleiding bestuurders waarschuwt om de auto voortdurend in de gaten te houden, zijn er toch bestuurders die boeken lezen, een dutje doen, op hun ukelele tokkelen of seks hebben. Meestal brengt de auto ze wel waar ze willen zijn.
Tractor met oplegger
Maar op die ochtend in maart had Banners sedan niet in de gaten dat voor hem een tractor met oplegger de vierbaansweg overstak. En ook Banner zag het niet; blijkbaar was hij afgeleid geweest. Hij raakte de oplegger vol in het midden met een snelheid van 110 km/u. Het dak van zijn auto wipte eraf alsof het om een sardineblikje ging. De man, 50 jaar oud en vader van drie kinderen, was op slag dood.
Computerfouten zien er anders uit dan menselijke fouten. De automatische piloot heeft een bliksemsnelle reflex en is nooit afgeleid, maar een gevaar voor hem ziet hij soms niet. In vier van de vijf bekende dodelijke ongelukken sinds de introductie van Autopilot in 2015 lijkt het erop dat er iets aan de waarneming is ontsnapt.
Het ongeluk waar Banner het slachtoffer van werd leek ook onwaarschijnlijk veel op een eerder ongeluk. In augustus eisten de nabestaanden op grond van de wet op dood door schuld van de staat Florida een schadevergoeding van Tesla. De claim van de nabestaanden is gewoon op productaansprakelijkheid gebaseerd: Tesla beloofde een veilige auto en leverde er een met gevaarlijke tekortkomingen.
Gigantisch experiment
Maar Autopilot is anders dan bijna alle andere consumentengoederen die er ooit zijn geweest. Wat hier gebeurt, is een voorproefje van de ongemakkelijke vragen die in het dagende robottijdperk op ons af zullen komen. De flamboyante ceo van Tesla, Elon Musk, zegt dat de technologie levens redt, en er zijn legio Teslarijders die getuigen van bespeurde gevaren en vermeden botsingen.
Het is mogelijk dat beide kanten gelijk hebben, dat er door de computers een paar mensen zijn omgekomen die anders hadden geleefd, maar dat door hen eveneens de levens van veel meer mensen zijn gered. In de komende jaren zal door de maatschappij, en in het bijzonder door de autoriteiten en justitie, moeten worden besloten of het een het andere waard is.
Dat is geen academische vraag meer. De beslissing van Musk om Autopilot aan zo veel mogelijk mensen beschikbaar te stellen komt neer op een gigantisch experiment op alle autowegen ter wereld.
L.A.-spitsuur
Ik ging als passagier naar het noorden op interstate 405 in Los Angeles en zag dat Omar Qazi zijn stuur met beide handen losliet. We gingen zo’n 75 km/u op de drukste autoweg van het land, en het stuur van Qazi's zwarte Model 3 draaide lichtjes naar links zodat de auto ook bij de flauwe bocht midden op de rijbaan bleef. ‘Echt een L.A.-spitsuur hier, vind je niet?’ zei Qazi (26), softwareontwikkelaar. ‘Maar alles gaat bizar perfect.’
Tesla heeft massa’s verstokte fans. De meesten hebben geld, een obsessie voor tech, en zijn man. Qazi is in veel opzichten zo’n type. Op zijn twitteraccount, @tesla_truth, wordt Musk tot in het oneindige opgehemeld. Voordat we elkaar in augustus ontmoetten, had hij Musk een e-mail gestuurd om hem te waarschuwen en aan te moedigen mij te woord te staan.
De ceo, die miljarden bezit en niet voor dit artikel geïnterviewd wilde worden, beantwoordde zijn fan nog op dezelfde dag. ‘Wat een prachtig twitteraccount’, zei hij, maar toen volgde de waarschuwing: ‘Pas op voor journalisten. Eerst smeren ze je stroop om de mond en dan geven ze je een dreun met een honkbalknuppel.’ Musk stuurde mij een cc van zijn bericht. Tesla wilde evenmin commentaar geven.
500.000
Op dit moment rijden al ruim 500.000 Tesla-rijders rond met Autopilot. Hun data worden gebruikt om het systeem constant te verbeteren. Bron: Reuters
Smart Summon
Qazi had met me afgesproken bij het oplaadstation naast het kantoor van Tesla in Los Angeles, waar een van Musks SpaceX-startraketten als een soort industriële obelisk hoog boven ons uittorent. Qazi had zijn baard een dag laten staan en droeg blauwe Nike Airs. Hij liet me onmiddellijk zien hoe Smart Summon werkt, een experimentele functie waar op dat moment slechts een select groepje bètatesters van Tesla de beschikking over had. (Qazi mocht meedoen toen hij Musk er op Twitter om had gesmeekt; in september kregen alle gewone klanten toegang tot deze functie.)
Hij drukte op een icoon op zijn telefoon en zijn auto verliet de parkeerplaats. Qazi zag de auto het parkeerterrein overgaan en naar hem toerijden. ‘Niet echt heel nuttig, nog niet tenminste’, grinnikte hij. Maar hij laat dit kunstje zo graag zien dat hij af en toe weleens op de parkeerplaats blijft rondhangen tot hij publiek heeft.
Smart Summon is een heel bescheiden voorproefje van de chauffeurloze toekomst die Musk ons belooft, maar op dit moment is Autopilot het hoogst haalbare. Tesla zegt dat de technologie nog niet zo betrouwbaar is dat mensen hun aandacht ergens anders op kunnen richten, zelfs nog geen seconde, dus ze moeten hun handen aan het stuur houden. Omdat de meeste Amerikaanse staten er ook nog niet uit zijn welke regels voor chauffeurloze auto's moeten gelden, zit daar ook een juridisch oogmerk achter.
Voor de overheid is Autopilot gewoon een geavanceerd hulpprogramma voor bestuurders, een opgevoerde cruisecontrol dus eigenlijk. Autopilot kan nog geen dingen aan die je op snelwegen niet hebt, zoals verkeerslichten en stopborden. Maar in de vier jaar dat het in gebruik is, heeft het geleidelijk aan complexere taken op zich genomen: probleemloos invoegen, auto’s uit de weg gaan die zich voor je op de baan dringen, en van de ene snelweg naar een andere navigeren.