Ljudski faktor najčešći je uzrok prometnih nesreća. Autonomna vozila trebala bi ukloniti taj rizik te smanjiti broj prometnih nesreća i smrtnih slučajeva. Međutim, ona donose novi, drugačiji rizik za vozače, putnike i pješake.
Nove generacije automobila koriste sustave umjetne inteligencije koji pak koriste tehnike strojnog učenja za prikupljanje, analizu i prijenos podataka kako bi donijeli odluke koje u konvencionalnim automobilima donose ljudi. To snažno utječe na postojeće ponašanje i prakse, jer su takvi sustavi, kao i svi IT sustavi, ranjivi na napade koji bi mogli ugroziti pravilno funkcioniranje vozila.
Sigurnost je preduvjet pouzdane i odgovorne vožnje
Uz neporecive prednosti autonomne vožnje za mnoge aspekte našeg društva, postavlja se pitanje sigurnosti i zaštite ove tehnologije, posebno u slučaju zlonamjernih radnji. Uz razmatranja kibernetske sigurnosti s obzirom na povećanu digitalizaciju automobila, primjena tehnologije umjetne inteligencije donosi nove rizike koji bi mogli ugroziti pravilno funkcioniranje poluautonomnih i autonomnih vozila, što bi potencijalno moglo dovesti do ozbiljnih utjecaja na sigurnost putnika i ostalih sudionika u prometu.
Zajednički istraživački centar (Joint Research Center – JRC) Europske komisije, tijelo koje provodi istraživanja kako bi pružili neovisne znanstvene savjete i podršku politici EU-a , i Agencija Europske unije za cyber sigurnost (ENISA) proveli su istraživanje o kibernetičkim sigurnosnim rizicima, a u izvješću su dali preporuke za njihovo ublažavanje.
“Važno je da europski propisi osiguraju da se koristi od autonomne vožnje neće značajno povećati sigurnosne rizike. Svrha ovog izvješća je povećati razumijevanje tehnika umjetne inteligencije koje se koriste za autonomnu vožnju, kao i kibernetičkih sigurnosnih rizika povezanih s njima, tako da se mogu poduzeti mjere kojima bi se osigurala sigurna primjena umjetne inteligencije u autonomnoj vožnji”, rekao je generalni direktor JRC-a Stephen Quest.
“Kada nesigurno autonomno vozilo pređe granicu države članice EU-a, granice prelaze i njegove ranjivosti. Sigurnost ne bi trebala biti nešto sporedno, već bi trebala biti preduvjet pouzdane i odgovorne upotrebe vozila na europskim cestama”, rekao je izvršni direktor Agencije za kibernetsku sigurnost Juhan Lepassaar.
Ranjivosti sustava umjetne inteligencije
Sustavi umjetne inteligencije u autonomnim vozilima rade neprestano kako bi prepoznali prometne znakove i oznake na cestama, prepoznali vozila i ostale sudionike u prometu, procijenili njihovu brzinu i planirali kretanje vozila kojim upravljaju.
Osim nenamjernih prijetnji, poput iznenadnih kvarova, ovi su sustavi osjetljivi na namjerne napade čiji je cilj ometanje sustava umjetne inteligencije i narušavanje sigurnosno kritičnih funkcija.
Primjeri takvih napada su dodavanje boje na cestu kako bi se zbunio navigacijski sustav ili lijepljenje naljepnica na znak za zaustavljanje kako bi se spriječilo njegovo prepoznavanje.
Posljedice takvih poteza mogu biti da sustav umjetne inteligencije pogrešno klasificira objekte, a rezultat toga je da autonomno vozilo može ugroziti sigurnost a cesti.
Preporuke za sigurniju umjetnu inteligenciju u autonomnim vozilima
Izvješće sadrži nekoliko preporuka o tome kako bi se mogla poboljšala sigurnost sustava umjetne inteligencije u autonomnim vozilima. Jedna od preporuka je da se procjene sigurnosti komponenata sustava umjetne inteligencije redovito izvode tijekom njihovog životnog ciklusa.
Sustavna provjera ispravnosti AI modela i podataka ključna je kako bi se osiguralo da se vozilo uvijek ponaša ispravno u neočekivanim situacijama ili u slučaju zlonamjernog napada.
Druga preporuka je da se kontinuiranim procjenama rizika uz redovito ažuriranje podataka o mogućim prijetnjama omogući prepoznavanje potencijalnih rizika i novih prijetnji vezanih uz sustave umjetne inteligencije u autonomnim automobilima.
Ispravna sigurnosna politika i kultura izuzetno su važne za cijeli opskrbni lanac kod autonomnih vozila.
Automobilska industrija trebala bi ugraditi pristup utemeljen na sigurnosti u cijeli proizvodni proces, od dizajna, razvoja do uvođenja funkcionalnosti umjetne inteligencije. Drugim riječima, kibernetička sigurnost mora od početka biti središnji element digitalnog dizajna.
Važno je da automobilski sektor poveća svoju spremnost reagiranja na incidente i sposobnost rješavanja problema vezanih uz sigurnost sustava umjetne inteligencije.