Death by Driverless Car: Hvem har skylden når robotbiler dreper?
Det er året 2025. Din førerløse bil har akkurat krasjet inn i et tre på 55 km / t fordi den innebygde datamaskinen verdsetter et fotgjengerliv over ditt eget. Skadene dine er resultatet av noen få kodelinjer som ble hacket ut av en 26 år gammel programvareprogrammerer i San Francisco Bay Area tilbake i de tøffe dagene i 2018. Mens du venter på en paramedisinsk drone, som blør ut ved veikanten, spør du deg selv - hvor gikk det galt?
Ovenstående scenario kan høres fantasifull ut, men døden med førerløs bil er ikke bare uunngåelig - det skjer allerede. Sist, en Uber selvkjørende bil traff og drepte en fotgjenger i Arizona, mens i mai 2017 mislyktes semi-autonom programvare i en på en lignende tragisk måte da Joshua Browns Tesla Model S kjørte under traileren til en 18-hjuls lastebil på en motorvei mens de var i Autopilot modus.
Tesla innrømmer at systemsensorene ikke klarte å skille den hvite traileren mot en lys himmel, noe som førte til at den 40 år gamle Floridian utløp for tidlig. Men Tesla sier også at sjåfører må holde hendene på rattet for å stoppe ulykker som dette, selv når Autopilot er aktivert. Til tross for navnet er det et semi-autonomt system.
Uber, derimot, kan ikke ha noen feil, ifølge en foreløpig politirapport som legger skylden på offeret.
Det er et trist faktum at disse tragediene bare er en smak av det som kommer. Ved å skrive denne artikkelen har jeg innsett hvor sørgelige uforberedte vi er for den førerløse fremtiden - forventet så snart som 2020. Det som er mer bekymringsfullt er at denne fremtiden allerede sprer ut i vår nåtid, takket være semi-autonome systemer som Teslas Autopilot og Uber (nå stoppet) selvkjørende biltester.
Morgendagens teknologi er her i dag, og med spørsmål som etikk og ansvar nå umulig å unngå, har ikke bilprodusenter råd til å ikke være klare.
Hva skjer når en førerløs bil forårsaker en ulykke og, enda verre, dreper noen?
Forstå død ved datamaskin
For å takle ansvar, må vi spørre hvordan og hvorfor en førerløs bil kan drepe noen. I motsetning til mennesker, lider ikke biler av tretthet, de opplever ikke raseri, og de kan ikke slå tilbake seks halvliter øl før de treffer motorveien - men de kan gjør fortsatt feil.
Teslas Model S har semi-autonom Autopilot-teknologi
Uten tvil vil den mest sannsynlige årsaken til "død-av-førerløs-bil" være hvis sensorene til en bil skulle tolke data feil, og føre til at datamaskinen tok en dårlig kjørebeslutning. Mens hver hendelse, dødelig eller på annen måte, vil føre til reparasjoner og forbedringer, vil sporing av ansvaret være en lang og vanskelig juridisk reise. Jeg kommer til det senere.
Den andre mulige årsaken til bil uten fører er mye vanskeligere å løse, fordi det handler om etikk.
Se for deg dette scenariet: Du kjører i en førerløs bil med ektefellen din og reiser langs en ensidig, trekantet B-vei. Det er dusinvis på dusinvis av B-veier som dette i Storbritannia. Bilen kjører 55 mph, som er under den nasjonale fartsgrensen på 60 mph på denne veien.
En blind sving kommer opp, så bilen din bremser ned til en mer fornuftig 40 km / t. Når du reiser rundt svingen, ser du at et barn har løpt ut på veien fra en offentlig sti gjemt i trærne. Moren hans fikk panikk og fulgte ham, og nå er de begge midt på veien. Det er en blåsig dag, og bilen din er elektrisk, så de hørte deg ikke komme. Sensorene på bilen din så ingen av dem før de var bare noen meter unna.
Det er ingen sjanse for å bremse i tide, så moren og barnet kommer til å dø hvis bilen din ikke svinger umiddelbart. Hvis bilen svinger til venstre, går du off-road og treffer et tre; svinger bilen riktig, treffer du en autonom lastebil som kommer i motsatt retning. Det er tomt, så du og din ektefelle vil være de eneste skadelidende.
I denne situasjonen blir bilen tvunget til å ta en beslutning - treffer den nesten fotgjengerne sikkert drepe dem, eller risikerer det passasjerene i sannsynligheten for at de kan overleve ulykke. Svarene vil ha blitt avgjort måneder (eller til og med år) før, da algoritmene opprinnelig ble programmert i bilens datasystem - og de kan veldig godt avslutte livet ditt. Selv om bilen ikke vet det, er dette faktisk en etisk beslutning.
For å demonstrere den overveldende vanskeligheten med å kode etikk, ta en tur på Massachusetts Institute of Technology Moralsk maskin. Det er en quiz som tar sikte på å spore hvordan mennesker reagerer på moralske beslutninger tatt av selvkjørende biler. Du får en rekke scenarier der en førerløs bil må velge mellom to onder (dvs. å drepe to passasjerer eller fem fotgjengere) og du må velge hvilken du tror er mest akseptabel. Som du raskt vil innse, er det veldig vanskelig.
Hvilket scenario vil du velge? MIT’s Moral Machine er et selvkjørende mareritt
Hvis alt dette skremmer deg, er du ikke alene. I mars avslørte en undersøkelse fra den amerikanske bilorganisasjonen AAA at tre av fire amerikanske sjåfører er "redde" for å kjøre i selvkjørende biler, og 84% av dem sa at det var fordi de stolte på sine egne kjøreferdigheter mer enn datamaskinens, til tross for overveldende bevis som tyder på at førerløse biler er betydelig tryggere - menneskelige feil er den største morderen på våre veier, tross alt.
Så hvorfor er vi så redde? Spurte jeg Prof. Luciano Floridi, professor i filosofi og informasjonsetikk ved University of Oxford, akkurat det spørsmålet.
"Jeg tror det er en forfedres frykt for det ukjente, frykt for maskiner. Det var Golem og Frankenstein, og nå er det en teknologi som vi ikke fullt ut kontrollerer når det gjelder førerløse biler, sier professor Floridi til meg. “Det ser også ut til å være en feilsalg på siden av bransjen, der total sikkerhet selges som en mulighet, noe vi vet ikke er tilfelle. Ingenting er 100% trygt, du kan bare være tryggere. ”
Så selv om førerløse biler er tryggere og reduserer en persons sjanse for død, sliter bilister med å akseptere ideen om at de kan bli drept av en maskin, snarere enn av menneskelige feil.
Jo større fordel mot din sikkerhet - hvem vinner?
Massachusetts Institute of Technology undersøkte nylig 2000 mennesker og fant at 76% av respondentene forventer at en førerløs bil prioriterer sikkerheten til en gruppe på ti fotgjengere fremfor en singel passasjer. Veldig edel, ikke sant? I etikken kalles dette "utilitarisme" - det er stenografi når beslutninger tas jo større god.
Men mennesker er dyr, og det betyr at evolusjon har koblet oss til å beskytte oss selv og de som er viktige for oss, ofte på bekostning av det "større gode", uansett hva det måtte være.
Fortellende, da MITs respondenter ble bedt om å vurdere moralen til den samme førerløse bilen - den som ville krasje og drepe eieren for å redde fotgjengerne - som om de selv var en passasjer i kjøretøyet, falt moralverdien til den "etiske" bilen med tredje.
Moralen i historien er ingen stor overraskelse - vi alle liker ideen om utilitaristiske førerløse biler, til vi må ri i en. Dette selvbevarende trossystemet vil ha en akutt effekt på førerløs bilindustri. Hva om for eksempel bilprodusenter begynner å selge kjøretøyene sine på etisk grunnlag? Kunne noen biler være designet for å alltid streve etter et "største gode" resultat, mens andre er bygget for å handle i sjåførens eller passasjerens interesse?
Men mens professor Floridi mener at etikk vil spille en rolle i markedsføringen av førerløse kjøretøyer, er han ikke overbevist om at de vil bli solgt basert på deres moralske kode:
“Det ville være så dårlig på reklamesiden av ting. Det vi imidlertid vil se, er en etisk komponent i reklame generelt. Hvis du husker når biler begynte å bli annonsert som tryggere på grunn av sikkerhetsbelter, sa selskaper at det var så mye tryggere hvis du er i en ulykke. Det blir slik. Ikke at denne etiske koden er bedre enn den etiske koden. ”
Professor Luciano Floridi mener at etikk er en av de største sperringene for fremtiden uten fører
Er førerløse biler umulig kompliserte?
Dessverre for oss alle, forteller Floridi meg, er førerløse biler dårlig rustet til å takle slike komplekse avgjørelser. Han mener at til tross for all forsknings- og utviklingsinnsatsen fokuserte på å bringe førerløse biler på veiene våre er datamaskiner iboende i stand til å håndtere de komplekse moralske avgjørelsene som kjører krever.
"Etikken er delikat, for subtil, for åpen for en vanlig førerløs bil," forklarer han. “Bilen jeg trenger for å reise fra landsbygda til London, eller fra London tilbake til Roma, som jeg gjorde da jeg var en ung fyr med ikke mye penger - kan du forestille deg den reisen? Rundt 2000 miles fra Oxford til Roma og tilbake? I en sammenheng der alt kan skje, er det veldig vanskelig å forestille seg et helt ukontrollert miljø med en førerløs bil som lykkes, uten at jeg har sjansen til å ta opp rattet. "
Floridi sier at det er "umulig" å lage en algoritme som kan etterligne menneskelig etikk på veien, fordi det er et uendelig antall mulige scenarier som kan oppstå når du kjører. Han gir eksemplet med en katt i veien:
"Du kan si" stopp hver gang "det er en katt - med mindre hva? Med mindre det er en stor lastebil som kjører 70 km / t bak deg, og du har barna i bilen. På det tidspunktet sier du ‘gå og drep katten’, fordi familien din er i fare. Du kan multiplisere dette med 'bare hvis' og 'med mindre' til et uendelig antall forhold. "
Hvorfor er det så vanskelig? Det er veldig enkelt å datamatisere en lukket verden, der vi kan forstå hver eneste tilstand. Men kjøring er et scenario i åpen verden, der forholdene er tilfeldige og umulige å forutsi, noe som gjør det veldig vanskelig å datamatisere. Det er på grunn av dette Floridi mener det ikke er noe håp for førerløs bilprogramvare for å være tilstrekkelig etisk kompetent, i det minste på eksisterende veinett:
"Tenk deg å spille sjakk med noen som plukker opp en pistol på et tidspunkt, ut av lommen, og sier" du kan ikke gjøre det trekket, "fleiper Floridi. «Det er en annen slags sjakk. Ingen datamaskiner kan gjøre noe med det, uansett hva vi har lagt inn i det. "
Floridi sier at for å takle dette konsulterer bilselskapene allerede etiske eksperter for å sikre at programvaren deres er moralsk vanntett. Jeg ba om et eksempel, og han fortalte at han deltok på et møte med Audi “der etiske spørsmål var hovedtemaet nettopp på grunn av implikasjonene av førerløse biler. Som enhver avansert teknologi som vi utvikler krever, på et tidspunkt tvinger den sosiale innvirkningen et etisk hensyn. ”
Så hvem betaler opp?
OK, så vi er tilbake i veikanten, og paramedisinsk drone er endelig kommet. Blødningen har stoppet, du er klar nok en gang, og du er klar til å takle problemet med kompensasjon. Du krasjet ikke bilen din; bilen krasjet selv - hvem betaler opp?
"I strafferett og i sivil lov er problemet hvem som har kontroll over kjøretøyet," forteller Matthew Claxson, en trafikskadeadvokat i Slater & Gordon. "Så operatøren kunne si:" Vel, jeg leste en avis og stolte på datamaskinen for å ta kontrollen av reisen, ’og det ville være et argument om at produsenten av bilen ville ha ansvaret. Det gjenstår å se om de forfølger ytterligere krav mot programvareprodusenter. ”
I slekt: Apple CarPlay vs Android Auto
Hvis en bildel - som for eksempel en girkasse - mislykkes i Storbritannia i dag, forklarer Claxson, og feilen var resultatet av dodgy produksjon, og at bilen fortsetter med å drepe noen, dødsboene til den som døde vil "vanligvis saksøke bilføreren", eller biloperatøren i tilfelle en førerløs bil. Sjåførens forsikringsselskap avgjør deretter kravet, men fortsetter deretter med en ytterligere handling mot bilprodusenten "bak kulissene for å få tilbake tapet."
"Det er en av fordelene med den britiske forsikringen at den benytter seg av de som har blitt alvorlig skadet eller drept til en økonomisk oppgjør som enten kan hjelpe med medisinsk behandling, eller betale for begravelseskostnadene, eller hjelpe de etterlatte familiene på en eller annen måte, ”sier Claxson.
Men det er en sak som kaster en nøkkel i verk, og det er hacking. Tidligere i år ble det oppdaget at Mitsubishi Outlander-hybrid kunne være kontrollert av hackere takket være en sårbarhet i bilens innebygde Wi-Fi-system. Og mer nylig måtte Fiat Chrysler utstede en frivillig tilbakekalling for 1,4 millioner biler etter et hack som kunne drep motoren eksternt ble oppdaget.
Sjåførløse biler kan bli hacket og krasjet - så hvem betaler da?
Så hvis en førerløs bil dreper noen fordi den er hacket, virker det ikke rettferdig å fastsette ansvar på sjåføren eller bilprodusenten. Hvem betaler i så fall opp? Claxson foreslår følgende løsning:
"Vi har en prosess i dette landet der hvis en bil blir stjålet, og den dreper eller forårsaker skade på noen, så forsvinner den tyven (dvs. det er en hit-and-run), har vi en organisasjon kjent som Motor Insurers Bureau, som er et fond av siste utvei som ble opprettet av transportsekretæren i dette landet. Det ville komme inn for de hit-and-run ofrene og kompensere dem hvis de er det uskyldige partiet. ”
Han fortsetter: "Man håper å se en lignende mekanisme som den i fremtiden, at hvis en bil blir hacket og den er ikke produsentens eller sjåførens skyld, du håper det vil være et lignende fond for å hjelpe disse ofrene. ”
Førerløse biler er et mareritt
Meldingen her er enkel: Det er ganske enkelt å tildele ansvar når biler er helt autonome. Og selv i tilfelle hacking kan kompensasjon fortsatt utbetales. Men hva skjer når en bil ikke er helt autonom, og føreren fortsatt kan kontrollere kjøretøyet?
Når alt kommer til alt, da Joshua Brown døde etter at bilens sensorer sviktet tidligere i år, minnet Tesla oss raskt om sitt råd om at Autopilot “er en hjelpefunksjon som krever at du hold hendene på rattet hele tiden. ” Tesla la også til: “Autopiloten blir bedre hele tiden, men den er ikke perfekt og krever fortsatt at sjåføren forblir varsling."
Utgangspunktet er å finne ut nøyaktig hvor autonomt et kjøretøy er. Det er mange forskjellige metoder for å gjøre dette, men det mest populære (så langt, uansett) er SAE-systemet, som har seks forskjellige nivåer av bilautomatisering:
Nivå 0 – Ingen automatisering - Den menneskelige sjåførens heltidsprestasjon for alle aspekter av kjøring
Nivå 1 – Driverassistanse - Kjøremodus-spesifikk utførelse av akselerasjon, retardasjon eller styring, ved hjelp av informasjon om miljøet
Nivå 2 – Delvis automatisering - Kjøremodus-spesifikk utførelse av et eller flere førerassistentsystemer av både styring og akselerasjon / retardasjon
Nivå 3 – Betinget automatisering - Ytelse fra et automatisert kjøresystem av alle aspekter av kjøreoppgaven, med forventning om at en menneskelig sjåfør vil svare på en anmodning om å gripe inn
Nivå 4 – Høy automatisering - Utførelsen av et automatisert kjøresystem av alle aspekter ved kjøring, selv om en menneskelig sjåfør ikke svarer på en forespørsel om å gripe inn
Nivå 5 – Full automatisering - Heltidsytelse av et automatisert kjøresystem for hele kjøreoppgaven, under alle vei- og miljøforhold som kan administreres av en menneskelig sjåfør
I slekt: Hva er Tesla Autopilot?
Selv nye biler når ikke autonomi på nivå 5 ennå, og det er mange biler på veien som fremdeles ikke har kommet over nivå 0. Det betyr at hvis bilen din har en ulykke i henhold til eksisterende lov, fordi du ikke hadde hendene på rattet, selv ikke i en semi-autonom bil, du er nesten helt sikkert ansvarlig, i hvert fall ifølge Adrian Armstrong, fra Collision Investigation-teamet hos rettsmedisinsk firma Keith Borer Konsulenter:
For øyeblikket er det sjåførens feil. Alle sikkerhetsfunksjonene som er lagt til, ta for eksempel Tesla, er designet for å være et tillegg til førerens innspill. De skal ikke erstatte førerens bevissthet. "
Men som Tesla-saken har bevist, blir det betydelig vanskeligere å tildele ansvar når bilene blir mer autonome.
Nvidias DRIVEnet-demo, som viser bilsensorer som sporer gjenstander i sanntid
Det britiske transportdepartementet foreslår for øyeblikket at ansvar for et kjøretøy i autonom modus hviler med bilprodusenten, men når sjåføren har fått kontroll igjen, bør sjåføren påta seg ansvar i stedet.
Problemet er at det er vanskelig for sjåfører å være mentalt engasjert når de ikke er fysisk engasjert, noe som gjør den 'overleveringsperioden' vanskelig å løse når det gjelder ansvar. Noen studier har vist at det kan ta så lang tid som 35 til 40 sekunder før sjåførene tar effektiv kontroll over en bil når de bytter tilbake fra autonom modus.
Forsikringsselskaper er (ikke overraskende) veldig opptatt av å knekke ansvaret i vanskelige situasjoner som overleveringsdilemmaet. Et forsikringsselskap som allerede gjør et betydelig fremskritt i rommet, er AXA, som Daniel O’Byrne, selskapets Public Affairs Manager for Storbritannia, forklarer:
“Vi er partner i tre av de statlig finansierte rettssakene som ønsker å bringe førerløse eller tilkoblede eller autonome kjøretøy til å bli oppfylt. Vi tar den modifiserte Bowler Wildcat, som allerede er i stand til å kjøres under fjernkontroll, og ble utviklet militært av BAE. Vi prøver å ta det til neste nivå med sensorene og beslutningsprosessen, og hvor vi kommer inn er å se på det fra et forsikringsansvarsperspektiv. "
O’Byrne sier at selskapet er spesielt interessert i hvordan ansvar blir tildelt i overleveringsperioden. Tross alt sier han til meg at regjeringen "etter hvert vil at du skal kunne lese en bok eller sjekke e-post på en iPad", og legger til: "Jeg vil bli veldig overrasket om du innen 2020 kan ikke bare trykke på en knapp i bilen din og begynne å lese en bok. " Men det er et stort problem, fordi det betyr at "sjåføren" ikke tar hensyn til veien miljø:
“Hvis bilen overleverer kontrollen til mennesket, hvor lenge er det rimelig å la føreren påta seg ansvar igjen? Kan en sjåfør gå fra å lese en bok til å kjøre X miles i timen på fem sekunder? Det er sannsynligvis urimelig. Vi ser på atferdsaspektet, universitetene ser på psykologien, og hvordan folk reagerer på den overleveringen. ”
Se: Autonomt ansvar debattert
I motsetning til i USA er det ingen lov i Storbritannia som sier at du må holde hendene på rattet. Det vi har i Storbritannia er Road Traffic Act, som bare tvinger sjåførene til å være "påpasselig forsiktighet og oppmerksomhet." Det høres ut som frustrerende bredt formulering, men O'Byrne mener at denne tvetydigheten faktisk kan gi Storbritannia en fordel mot andre land når det gjelder å bygge et lovverk rammeverk.
"Vi var undertegnere av, men ikke ratifiserende, av Wien-konvensjonen," sier O'Byrne, med henvisning til Wien-konvensjonen om veitrafikk, som sier at sjåfører alltid må holde hendene på rattet. “Og i et nøtteskall, mens veitrafikkloven sier at du må være forsiktig og oppmerksom, er vi ikke så reseptbelagte som andre land å si at du må holde hendene på rattet hele tiden, noe som potensielt tillater oss en lettere lovendring enn, si, Tyskland. ”
Venturer Consortium, som er den førerløse bilforsøksgruppen som AXA er en del av, tester for øyeblikket sjåførens ytelse under overleveringsprosessen i forskjellige scenarier. Resultatene av denne rettssaken vil være ekstremt nyttige for å finne ut hvem som er ansvarlig, og vil forhåpentligvis avsløre hvor lenge en sjåfør med rimelighet må gjenvinne full kontroll over et kjøretøy.
Når forsikringsselskapene og lovgiverne kommer til en felles konklusjon om dette, bør det være lettere å sette en standard tid for sjåfører for å gjenvinne kontrollen over et førerløst kjøretøy. Det burde gjøre det betydelig enklere å fastslå hvem som er ansvarlig, fordi overgangen fra autonome systemer til sjåførkontroll lett kan spores på programvarenivå. Og det betyr at tildeling av skyld er nesten like lett som det er i dag.
Bowler Wildcats er for tiden modifisert for førerløse biltester i Storbritannia
Er førerløse biler verdt alt dette arbeidet?
La oss være rettferdige: Når bransjegiganter som Tesla, Google og Ford forteller deg at vi vil være tryggere med førerløse biler, har de helt rett. Når biler begynner å stole mindre på menneskelig innspill, vil færre mennesker dø på veiene.
I følge OECD-data, oppstår en dødsfall en gang for hver 53,4 millioner miles kjørt av biler, som et gjennomsnitt i 20 EU-land som ble tatt ut. I USA reduserer trafikksikkerhetsstandarder bedre enn gjennomsnittet tallet til en dødsfall per 94 millioner miles. Men allerede er det kjørt over 130 millioner miles med Teslas Autopilot aktivert, med bare en eneste dødsfall på bøkene.
En del av lokken til førerløse biler er det faktum at den snuser ut menneskelige feil, noe AXA mener utgjør 94% av alle kjøreulykker. CDC sier at over 30% av omkomne i USA involverer alkohol. Og i Storbritannia setter Department of Transport tallet på rundt en av seks. Hvis vi våkner i morgen og hver bil er autonom, forsvinner promillekjøring over natten.
Det blir enda bedre: Ifølge Eno Center for Transportation, hvis 90% av alle biler på veiene inn USA var autonome, ville antall trafikkulykker falle fra 5,5 millioner per år til bare 1,3 million. Denne fremtiden er heller ikke så fjern, med Institute of Electrical and Electronics Engineers som forutsier at innen 2040 vil rundt 75% av alle kjøretøyene være helt autonome.
Den største utfordringen for førerløse biler som går mainstream er å få publikum på siden. Uten riktige løsninger for problemene rundt etikk og erstatningsansvar, vil opinionen sikkert holde seg frost i overskuelig fremtid.
Bilprodusenter kan snakke teknologien til de er blå i ansiktet, men hvis en produsent ikke kan fortelle en sørgende kone hvorfor hun ektemanns hatchback bare kjørte ham av en klippe - eller til og med hostet opp kompensasjonen - så vil trolig førerløse biler være det passasjerfri også.
Denne artikkelen ble opprinnelig publisert i 2016. På det tidspunktet svarte ikke Tesla på vår intervjuforespørsel.
Vil du ønske en fremtid uten bilfører velkommen? Fortell oss tankene dine ved å tvitre oss @TrustedReviews.
