Autopilots un dilemma: kurš «mirs» – vadītājs vai gājēji?

Autonomās automašīnas jau vairs nav fantastika: uz ceļiem parādās auto ar autopilota režīmu, kas spēj braukt bez cilvēka iejaukšanās. Autobraucējus pagaidām vairāk interesē tradicionālie rādītāji – ātrums, jauda, komforts. Ar aizrautību viņi salīdzina, piemēram, vācu supersedānus BMW M5 F90 un Mercedes-AMG E63 S pēc to parametriem. Taču līdz ar autopilota parādīšanos priekšplānā izvirzās pavisam cita tēma – ētika un drošība. Ko darīt automašīnai, ja avārija ir neizbēgama?

Tas vairs nav teorētisks jautājums no mācību grāmatām, bet reāla problēma uz ceļa. Iedomāsimies situāciju: bezpilota auto traucas, un pēkšņi tā priekšā uz gājēju pārejas parādās cilvēku grupa. Bremzēt jau ir par vēlu. Ir divi notikumu attīstības varianti: novirzīties sānis un ietriekties sienā (upurējot vadītāju) vai turpināt kustību un notriekt gājējus. Mākslīgā intelekta algoritms ir ieprogrammēts konkrētam lēmumam – un no šī lēmuma ir atkarīgas dzīvības.

Filozofi šādu traģisku izvēli sauc par «trolejbusa (vagonetes) problēmu». Kādreiz tas bija tikai iedomāts eksperiments: vai novirzīt nevaldāmu tramvaju uz citu sliedi, lai izglābtu piecus cilvēkus uz viena dzīvības rēķina? Tagad līdzīga dilemma nostājas mākslīgā intelekta priekšā uz ceļa – un tā lēmumiem būs reālas sekas.

• Glābt pasažieri. Turpināt kustību, aizsargājot vadītāju, neraugoties uz risku gājēju grupai.
• Glābt gājējus. Novirzīt auto uz šķērsli vai ceļa malu, upurējot dzīvību tam, kurš atrodas automašīnas salonā.
• Apzināti neizvēlēties. Izvairīties no speciāla izvēles algoritma – t. i., ieprogrammēt kaitējuma minimizēšanu bez mērķēšanas, faktiski ļaujot notikumiem attīstīties stihiski.

Kāds var iebilst, ka mākslīgais intelekts būs tik gudrs, ka vienmēr atradīs trešo, drošo izeju. Taču tas drīzāk ir mīts. Patiesībā pat modernākie sensori un programmas nespēj atcelt fizikas likumus un izslēgt visus riskus. Kritiskas situācijas tik un tā notiks. Tātad agrāk vai vēlāk automašīna var nonākt izvēles priekšā, kuru pasargāt uz citas dzīvības rēķina.

Cilvēce joprojām nav atradusi vienu pareizu atbildi uz šo dilemmu. Tomēr socioloģiskie pētījumi piedāvā interesantu skatījumu uz problēmu. Aptaujas rāda: vairums respondentu piekrīt, ka galējā situācijā autonomajam auto būtu jāupurē pasažieris, lai izglābtu cilvēku grupu. Taču tie paši cilvēki atzīst, ka paši negribētu braukt automašīnā, kas briesmu gadījumā apzināti upurēs viņus citu dzīvību vārdā. Šis paradokss var kļūt par šķērsli bezpilota auto ieviešanai uz ceļiem.

Minēsim ilustratīvu rezultātu no viena sabiedriskās domas pētījuma par «autopilota dilemmu»:

Kā redzams, sabiedrība vienlaikus vēlas, lai roboti-vadītāji glābtu pēc iespējas vairāk cilvēku, un tajā pašā laikā nevēlas riskēt ar sevi. Šāda plaisa starp morālajām un personiskajām interesēm rada dilemmu ražotājiem un regulatoriem. Jo, lai kā arī ieprogrammētu algoritmu – lēmums būs pretrunīgs un var izraisīt sašutumu.

Kas sēdēs cietumā, ja bezpilota auto izraisīs avāriju?

Ja automašīna ar autopilotu tomēr izraisīja avāriju ar letālām sekām – kuru sodīt? Šis jautājums nav mazāk sarežģīts par morālo izvēli. Pirmie satraucošie signāli jau izskanējuši. Piemēram, 2018. gadā Uber testēšanas autonomais automobilis notrieca gājēju līdz nāvei; zināmi arī citi letāli negadījumi ar Tesla autopilota režīmā. Šādi gadījumi, kuros stūri «tur» dators, apšauba tradicionālo principu, ka visa vaina tiek uzlikta vadītājam.

Situācijā ar «robotu vadītāju» iespējamas dažādas pieejas vainīgā noteikšanai. Apskatīsim galvenos scenārijus:

1. Auto īpašnieks (pasažieris). Loģika: tieši viņš sēdēja salonā un ieslēdza autopilota režīmu. Iespējams, cilvēkam bija jākontrolē braukšana un jāiejaucas – tātad viņš nes daļu vainas par bezdarbību.
2. Programmas (algoritma) izstrādātājs. Jo tieši programmētāji ielika tādu uzvedības modeli, kas noveda pie traģēdijas. Vai inženieriem jāuzņemas kriminālatbildība par sava koda lēmumu sekām?
3. Automašīnas ražotājuzņēmums. Uzņēmums, kas izlaida bezpilota auto, varēja neparedzēt visus riskus vai ietaupīt uz sensoriem. Atbildēt var ražotājs (vadības personā) kā juridiska persona – piemēram, tiesas prasību un sodu veidā.

Pagaidām skaidras likuma normas šajā jautājumā nav. Lielākajā daļā valstu, kur tiek testēti autonomi auto, atbildība tiek uzlikta cilvēkam pie stūres. Jo pašreizējās autopilota sistēmas (2.–3. līmenis) prasa, lai vadītājs paliktu uzmanīgs. Tā, Tesla gadījumos tiesas pārsvarā par vainīgu atzīst vadītāju, kurš pārvērtēja autopilota iespējas un neiejaucās, kad tas bija nepieciešams.

Tomēr, parādoties pilnībā bezpilota automašīnām (4.–5. līmenis), loģiski rodas nepieciešamība pārcelt vainu uz tehnoloģijas radītājiem. Vācijā nacionālā Ētikas komisija automatizētai braukšanai vēl 2017. gadā nolēma: ja cilvēks vairs nekontrolē auto, tad atbildību par tā darbībām nes nevis pasažieris, bet ražotājs vai sistēmas operators. Daži autoražotāji paši ir gatavi uzņemties šādu atbildību – piemēram, Volvo publiski solīja uzņemties visu vainu, kad tās automašīnas brauks autonomā režīmā.

Vainas pārlikšanai uz uzņēmumu ir savi plusi un mīnusi. No vienas puses, īpašnieki labprātāk uzticēsies autopilotam, ja zinās, ka avārijas gadījumā viņus nepadarīs par «galējiem». No otras puses – ražotāji baidās uzņemties visu vainu, jo tas draud ar daudzu miljonu prasībām un pat kriminālatbildību uzņēmuma amatpersonām. Iespējams, tiks ieviestas speciālas apdrošināšanas polises vai juridiski ierobežojumi, lai līdzsvarotu šos riskus.

Neraugoties uz visām šīm neskaidrībām, autonomās braukšanas tehnoloģijas nestāv uz vietas. Jaunie auto modeļi saņem arvien gudrākas «smadzenes». Piemēram, elektriskais krosovers Volkswagen ID.4 ir aprīkots ar Travel Assist kompleksu pusautonomai braukšanai, bet šī modeļa vadītāji var paaugstināt komfortu un praktiskumu, uzstādot dažādus aksesuārus Volkswagen ID.4. Pilnībā autonomā vadība (5. līmenis) pagaidām vēl ir nākotnes jautājums. Tāpēc diskusijas par morālajiem algoritmiem un juridisko atbildību turpināsies – sabiedrībai vajadzīgs laiks, lai panāktu vienošanos.

Tātad autopilota morālajai dilemmai pagaidām nav skaidra atrisinājuma. Programmēt automašīnas vairākuma glābšanai uz pasažiera rēķina vai sava vadītāja aizsardzībai jebkuros apstākļos? Kuru sodīt par mākslīgā intelekta kļūdām – inženierus, īpašniekus vai vispār nevienu? Par šiem jautājumiem domā filozofi, juristi un paši ražotāji. Iespējams, jau drīz nāksies pārskatīt ierastos ētikas un atbildības principus uz ceļiem. Jo, kad pie stūres ir dators, gan lēmumi, gan vaina iegūst pavisam jaunu nozīmi – tādu, ar kuru cilvēcei vēl tikai jāmācās dzīvot.