-Hilde Waaler, Publisert 09 August 2022
Internasjonale regelverk for fremtidens transportsystemer
For at fremtidens transportsystemer skal bli sikre, effektive og grønne må vi forstå og håndtere sårbarheter og risiko, både når vi bygger og når vi drifter systemene. Kunnskap om, og håndtering av risiko – både juridisk og i praksis – er viktig i de enkelte nye teknologiene – men ikke minst i de store transportsystemene som helhet.
Det foregår en rivende teknologisk utvikling innen intelligente transportsystemer. Utviklingen av relevant og fleksibelt regelverk som rammebetingelser for praktisk bruk av teknologien, tar derimot ofte lengre tid. I tillegg adresserer gjerne regelverket gårsdagens teknologi og ikke teknologi som er under utvikling og i ferd med å bli implementert.
Det arbeides imidlertid aktivt både i EU og internasjonalt med å tilpasse eksisterende og utvikle nytt regelverk for å tilrettelegge for utvikling og implementering av intelligente transportsystemer på en sikker og trygg måte.
I en serie artikler på siits.com tar vi for oss noen sentrale initiativ til tilpasning og nytt regelverk. I denne artikkelen fokuserer vi på:
Regulering av kunstig intelligens
EU-kommisjonen la 21. april 2021 fram forslag til et risikobasert regelverk for kunstig intelligens (KI). Kommisjonen tar sikte på å adressere de risikoene som oppstår ved visse former for bruk av kunstig intelligens, gjennom et sett med komplementære, proporsjonale og fleksible regler. Disse reglene vil også sette Europa i en ledende rolle internasjonalt ved å sette en global «gullstandard» for anvendelse av kunstig intelligens.
- Dette rammeverket gir KI-utviklere, de som implementerer KI, og brukere klarheten de trenger ved kun å gripe inn i de tilfellene som eksisterende nasjonal lovgivning og EU-lovgivning ikke dekker, sier Arve Føyen, advokat med spesialfelt innen digital teknologiutvikling.
- Det foreslåtte juridiske rammeverket for KI legger til grunn en klar, lettfattelig tilnærming, basert på fire ulike risikonivåer: uakseptabel risiko, høy risiko, begrenset risiko og minimal risiko.
- Forslaget bygger på en risikobasert tilnærming, med inndeling i risikokategorier, forteller Føyen.
- Dette innebærer at jo høyere risiko bruken av KI utgjør, desto strengere bør bruken reguleres. De foreslåtte reglene regulerer derfor først og fremst “høyrisiko”- bruk av KI, som utgjør en stor potensiell trussel mot samfunnet og enkeltpersoner.
- Målet er å gjøre EU best i verden når det gjelder utvikling og bruk av sikker, pålitelig og menneskesentrert KI, fordi tillit til KI-systemer er viktig og nødvendig for at for at det sosiale og økonomiske potensialet i KI kan utnyttes fullt ut, understreker Føyen.
Ifølge forslaget skal et nytt EU-organ overvåke oppfølgingen av regelverket som nå behandles av Europaparlamentet og Rådet, med sikte på endelig vedtakelse i løpet av 2022.
Hvert medlemsland skal utpeke et nasjonalt overvåkningsorgan (hvor det har vært antydet at dette kan være Datatilsynet i Norge).
Høyrisikosystemer er angitt som biometrisk identifikasjon og kategorisering av fysiske personer (annet enn de som allerede er forbudt); forvaltning og drift av kritisk infrastruktur; utdanning og yrkesopplæring; sysselsetting, arbeiderledelse og tilgang til selvstendig næringsvirksomhet; tilgang til viktige private og offentlige tjenester og fordeler; rettshåndhevelse og politiarbeid; migrasjon, asyl og grensekontroll og rettspleie og demokratiske prosesser.
- Av relevans for sårbarhet i intelligente transportsystemer, er særlig bruk av KI i kritisk infrastruktur, tilføyer Føyen.
Hvilke utfordringer ser du ved dette?
- Hvis kunstig intelligens skapes og trenes opp i forhold til et land/en gruppe personers kjøremønster kan dette være helt annerledes i et annet land. Dette kan skape utfordringer i forhold til å kjøre på tvers av landegrensene og mellom land med forskjellig trafikk-kultur, understreker Føyen. – Det må implementeres sikringsmekanismer mot dette.
Avslutningsvis legger også Føyen til at hvis et system er klassifisert som høyrisiko, må det, for at det skal brukes lovlig innenfor EU, oppfylle kravene i kapittel 2-6, i Forordningen. - Dette pålegger leverandøren av KI-systemet ulike forpliktelser inkludert forpliktelser med hensyn til data governance, dokumentasjon, åpenhet og informasjon til brukere, menneskelig kontroll og tilsyn, prosedyrer for sikkerhet og samsvarsvurdering (utført av tredjeparter kjent som samsvarsvurderingsorganer) for å bekrefte at høyrisiko KI-systemene overholder forpliktelsene som er angitt i kapittel 2 i forordningen, avslutter Arve Føyen.
Dette er en i serie av artikler på siits.no hvor vi tar for oss noen sentrale initiativ til tilpasning og nytt regelverk for fremtidens transportsystemer. Les de andre artiklene her:
Sårbarhet og sikkerhet ved softwareoppdateringer i tilkoblede kjøretøy