Selvkjørende biler eller autonome kjøretøy har lenge vært i fokus hos bilprodusenter og teknologiselskaper. Nye såkalte ‘ride’ tjenester med autonome kjøretøy har også vært under uttesting en god stund. Men dette til tross, har spredningen av autonomi vært treg. Mange mennesker synes å være urolige for å gi fra seg kontrollen til maskiner og deres forhåndsprogrammerte algoritmer.
Dette er også aktuelle problemstillinger som det norske prosjektteamet SIITS – styring av sårbarheter i fremtidens integrerte, intelligente transportsystemer - adresserer i sitt prosjekt. Jan-Olaf Willums i Inspire Invest deltar i prosjektet som er støttet av Norges Forskningsråd, og som representerer et bredt sammensatt konsortium med bedriftspartnere som dekker risikostyring, samfunnssikkerhet og teknologi.
Samarbeid
Willums samarbeider blant annet med forskningsinstitusjoner og venture-selskaper i USA som fokuserer på nye mobilitetsløsninger og som også ser på risikobildet innen slike nye teknologier. Et av disse er forskerteamet til Julian De Freitas:
-De komplekse kjøreberegningene disse maskinene må gjøre på et øyeblikk er kjernen i ubehaget forbrukerne føler ved autonome biler, sier professor De Freitas. Han er professor ved Harvard Business School og har sammen med medforfatterne Sam Anthony i Perceptive Automata og Luigi Di Lillo fra Swiss Reinsurance Company nylig publisert en artikkel i Proceedings of the National Academy of Sciences om autonome kjøretøy.
-Vi husker debatten for fem år siden da bilprodusenten Mercedes kunngjorde at selvkjørende biler ville bli programmert til å beskytte livene til passasjerene, selv om det betydde å ofre fotgjengere i deres vei, sier De Freitas. - Dette er lik det berømte filosofiske "tralleproblemet" der en person må bestemme seg for å la en løpsk vogn drepe fem personer eller snu en bryter og velge å drepe bare en.
Programmere for sunn fornuft
-Selv om slike etiske dilemmaer tradisjonelt har vært fokus i den offentlige debatten om autonomi-algoritmer, er det feil måte å se på problemet, sier De Freitas og hans medforfattere. - For å få forbrukerne til å akseptere slik ny teknologi, må man fokusere på å programmere kjøretøyene til å oppføre seg med "sunn fornuft". Det vil si, gjøre det som menneskelige sjåfører vil gjøre når de navigerer komplekse eller farlige kjøreøyeblikk, konkluderer forskerteamet.
Å få en bil til å etterligne det beste av menneskelig adferd avhenger mindre av hvordan et kjøretøy bruker veiregler på ekstreme "førerløse dilemmaer", og mer om hvordan den kan ta beslutninger i hverdagslige tilfeller hvor man er nær opp til å bryte kjørereglene i noen grad.
-Menneskelige sjåfører tar en test, og vi antar da at de kommer til å bruke vår felles menneskelige psykologi for å håndtere det de møter utover testen, forklarer De Freitas. - Å få et autonomt kjøretøy til å kjøre med sunn fornuft kan delvis innebære å gjøre dem oppmerksomme på hva mennesker forventer av andre sjåfører. For eksempel kan et autonomt kjøretøy som bremser ned i nærheten av en fotgjengerovergang føre til at en fotgjenger oppfatter at bilen har oppdaget henne, selv når den ikke har gjort det. Å gjøre autonome kjøretøy tryggere, kan kreve å etterligne noen aspekter av menneskelig kjøring, men ikke andre, for eksempel å sende et mer eksplisitt signal om at kjøretøyet er i ferd med å stoppe.
Mennesker kjører ofte utrygt
Vi har spurt Willums om han deler synspunktene til De Freitas sitt forskerteam: - Jeg deler hans måte å se dette på. Programmering knyttet til sunn fornuft kan være en del av løsningen for fremtiden autonome kjøretøyer, sier Jan-Olaf Willums.
-Selv om mennesker er de mest anerkjente sjåførene, bør vi ikke blindt behandle dem som «gullstandarden», sier han. - Tross alt kjører mennesker ofte utrygt: De kan kjøre litt over fartsgrensen, unnlate å komme til et fullstendig stopp ved et stoppskilt, eller gi fart gjennom et kryss i stedet for å stoppe når en fotgjenger begynner å gå inn i veien.
-Spørsmålet, som De Freitas sier, bør ikke være: «Skal autonome kjøretøy tilpasse seg til mennesker eller omvendt? I stedet bør vi spørre: Hvilket system er det sikreste? I noen tilfeller må vi kanskje tenke om hele kjøreprosessen».
Tror du det er mulig å programmere sunn fornuft inn i fremtidens autonome kjøretøy?
-Jeg tror vi vil komme dit på sikt. Men for å lykkes må vi våge å ta noen første skritt, prøve enkle elementer som er nye, og sannsynligvis akseptere at det vil være en liten risiko. Slik er det med de fleste forhold vi befatter oss med. Jeg tror samfunnsfordelene vil være så store, at man vil være villig til å akseptere en mindre risiko etter hvert, sier Willums.
De Freitas og hans medforfattere hevder at å ta i bruk førerløse kjøretøy i bred skala vil kunne forbedre den globale helsen på et nivå som tilsvarer innføringen av penicillin eller vaksiner. Er du enig i dette?
-Dette vil jeg og mange andre nok oppfatte som en litt ekstrem påstand, svarer
Jan-Olaf Willums. - Samtidig er det et faktum at menneskelig feil forårsaker minst 90 prosent av de 5,25 millioner ulykkene i USA årlig. Men jeg deler hans syn at autonome kjøretøy vil gjøre veiene tryggere da de aldri er fulle, slitne eller uoppmerksomme, og at førerløse biler derfor kan redde liv.
Så hva skal da til for at vi i større grad tar i bruk autonome kjøretøy?
Michael Blanding, en kjent teknologiekspert i Boston som skriver for både for The New York Times, WIRED og The Boston Globe fremhever at kjernen er tester og flere tester.
-Å trene bilene til å håndtere et bredt spekter av kjørescenarioer og teste dem både i simulering og på ekte veier er nøkkelen, understreker Blanding. - Autonome kjøretøy bør kunne håndtere mulige situasjoner som å navigere rundt store hindringer i veien, trekke til siden for å gjøre plass til utrykningskjøretøy og finne ut hva den skal gjøre i et kryss dersom et trafikklys svikter.
-Det å simulere og teste autonome løsninger under realistiske forhold er viktig, sier Willums. - De Freitas og hans kolleger foreslår derfor at selskaper bør ta i bruk en standard de refererer til som SPRUCE – og lære autonome kjøretøy å kjøre på en måte som er:
- Safe - “does not harm others or put others at unreasonable risk of harm;”
- Predictable - "AV’s maneuvers can be anticipated from past behavior;”
- Reasonable - "does not offend notions of logic or justice;”
- Uniform - “treats seemingly like situations alike;”
- Comfortable - “physically and psychologically smooth;” and
- Explainable - “fits in an accessible narrative of cause and effect.”
-Vi bør heller ikke anta at det alltid er et binært rett eller galt svar, sier De Freitas, som har studert samspillet mellom moralsk dømmekraft og oppmerksomhet til omgivelsene de siste syv årene. - Hvis teknologien legitimt er transparent og kontinuerlig forbedrer seg, vil forbrukerne med rimelighet stole på dem.
Vi spør Willums på hvilken måte SIITS-prosjektet kan nyttiggjøre seg disse forsknings-tankene i USA?
-Jeg tror det er viktig for oss i Norge å utforske hva som gjøres av andre forskerteam rundt om i verden. Det er interessant i en SIITS-sammenheng å høre hva andre mener må til for å kunne høste noen av de fordeler som autonomi kan tilby. Vårt fokus i SIITS vil blant annet være knyttet til ansvarsfordeling, hvem har ansvaret hvis det skjer feil. Dette er også en særdeles viktig del å få klarlagt i arbeidet med å ta i bruk autonome kjøretøy, avslutter Jan-Olaf Willums.