Isesõitev auto ja algoritmi eetika
Riho Paramonov
20.02.2016

Kujutage ette, et olete äsja ostnud isesõitva auto ja võtate sellega ette närvekosutava matka Norrasse. Sõites kitsal mägiteel, hüppavad järsku kaljunuki tagant välja kaks last. Pidurdada enam ei jõua. Autol on kaks võimalust: kas säästa teid, autosistujaid, sõites lastest üle, või säästa lapsi, pöörates otse kuristikku. Kohutav juhtum, kuid sellegipoolest – kumb variant oleks eelistatavam ja miks?

Loodetavasti ei leia niisugune juhtum kunagi aset, kuid igal juhul kaasnevad isesõitva autoga märkimisväärsed eetilised dilemmad ja probleemid, millele tuhanded inimesed vastust otsivad. Vastuste leidmisega näib olevat kiire, sest niisugused autod (prototüübid) sõidavad teedel juba praegu. Teatud määral on „isesõitmiseks” võimeline ka populaarne Tesla Model S, kuid praegu käib jutt täiesti autonoomsetest sõidukitest, mis autojuhti üldse ei vaja. Tuntud-teatud autotootjate kõrval arendab sellist sõidukit välja ka Google, kelle testautod on tänaseks iseseisvalt läbinud enam kui 2 miljonit kilomeetrit (autos on alati kaks inimest, kes jälgivad, et kõik töötaks nii nagu peab).
Ilmselt kuulub tulevik just sellistele, täielikult autonoomsetele autodele. Seejuures arvatakse, et juba 10 aasta pärast on isesõitvad autod üsna laialt levinud. Tõenäoliselt need erakätesse nii lühikese aja jooksul siiski ei jõua. Esmalt hakatakse autonoomseid sõidukeid rakendama suurlinnades taksodena jms.

Probleemi olemus
Vaatame eetilist dilemmat pisut lähemalt. Kui auto satub õnnetusse või mõnda teise eriolukorda, võib tulemus sõltuda valiku(te)st. Isesõitva auto korral on laias laastus kolm valikut:
a) säästetakse omanikku/sõitjat;
b) seatakse eesmärgiks võimalikult väike inimkahju (st et omaniku huvid ja tervis ei ole esmatähtis);
c) ei eelistata otseselt kedagi (juhuslik valik).

Lisandub rida muid olulisi küsimusi. Näiteks: kas olukord on millegi poolest erinev, kui autos viibivad lapsed? Mida teha siis, kui valikuid on mitu, kuid igaühega näib kaasnevat võrdne kahju? Kes vastutab õnnetuse korral: kas auto valmistaja, programmeerija, see, kes autonoomsed autod liiklusesse lasi (võim) või autoostja? Autoostja seisukohalt on oluline tõik, et kui masin on programmeeritud tegema valikut ühel või teisel kindlal viisil, siis ilmselt teavitatakse sellest ka teda (samal kombel nagu ta omab infot auto varustuse, suutlikkuse jms kohta) – seega teab ta, mis võib juhtuda.
Masina eetika ei ole iseenesest uus teema. Juba 1942. aastal sõnastas ulmekirjanik Isaac Asimov kuulsad robootika kolm põhiseadust.
1. Robot ei tohi oma tegevuse ega tegevusetusega inimesele kahju teha.
2. Robot peab alluma inimese antud käsule, kui see ei lähe vastuollu esimese seadusega.
3. Robot peab kaitsma oma olemasolu kuni see ei ole vastuolus esimese või teise seadusega.
Hiljem sõnastas Asimov ka nullseaduse:
0. Robot ei tohi oma tegevuse või tegevusetusega inimkonnale kahju teha.
Nagu näha, on isesõitvat autot väga raske nende reeglite raamidesse paigutada, sest teatud olukordades pole inimkahju välditav. Ja välditav pole ka huvide konflikt: kes on see inimene, kellele masin kuuletuma peab? Keda eelistada? Kuidas mõõta „kahju”? Kui kutselised autojuhid hakkavad tööd kaotama, kas ei ole seegi masina poolt tehtud kahju inimesele?

Eksperimentaalne eetika
Niisiis on õhus küsimused, millele ainuõiget vastust ei leidu. Kuid mingi seisukoht tuleb võtta. Abi otsitakse teadusharult nimega eksperimentaaleetika. Selles teaduses seatakse inimesed vastakuti erinevate eetiliste probleemidega ning uuritakse nende reaktsioone ja arvamusi.
Eeldus on, et inimesed nõustuvad sellega, mis langeb kokku nende vaadetega. Kokkulangevus on aga tähtis, sest kui tehnoloogia läheb vastuollu inimeste ootustega – eriti niisugustes fundamentaalsetes küsimustes nagu elu või surm –, ei hakata seda piisavalt kasutama. Isikud, kellel jagub raha isesõitva auto ostmiseks, ilmselt mõistavad oma elu hinnata. Keegi ei taha iseend kergekäeliselt „ohvriks tuua”.
Olukord on sellevõrra raskem, et isegi kui autonoomseid sõidukeid oma elu kindlustamise nimel vähem ostetaks, sureb ikkagi rohkem inimesi, sest tavaautod satuvad kõnealustest palju sagedamini õnnetusse. On pakutud, et isesõitvad autod vähendavad liiklussurmasid isegi 50–90 protsendi ulatuses. Elon Musk on mänginud mõttega, et kunagi võib saabuda aeg, mil inimautojuhtimine on koguni keelatud. Just seepärast, et isesõitev auto on inimesest niivõrd palju üle.
Mida siis eksperimentaaleetika uuringud näitavad? Üldiselt pooldavad inimesed ootuspäraselt väikesemat inimkahju: eelistatakse mitme inimese elu ühe inimese elule. Niisiis ei ole õigupoolest kellelgi midagi liikluses osalevate autonoomsete sõidukite vastu, mis võivad omaniku „ohverdada”. Kuid paraku selgub ka, et palju vähem on uuringutes osalejad ise nõus sellise autoga sõitma. Niisiis on oma elu ikkagi kõige armsam.

Vastuargumendid
Mõned arvavad, et autonoomse masina eetika on üks suurimaid väljakutseid tehnoloogiamaastikul. Arvestades kui raske on eetika küsimustes konsensust saavutada, võib see tõsi olla. Tuleb ka analüüsida, kuivõrd õigustatud eetiliste dilemmade arutelu ülepea on. Mõned argumendid, miks pole põhjust selliste probleemidega nii pingsalt tegeleda:

• Dilemmad on kunstlikult konstrueeritud ja võimalus, et autonoomne sõiduk satub äärmusolukorda, on äärmiselt väike.
• Kui näiteks toodud olukorda satub inimene, ei suuda ka tema teha ainuõiget valikut, sest seda ei ole lihtsalt olemas. Seega ei tule „õige” valiku tegemist nõuda ka masinalt.
• Dilemmade eripära on see, et tulemus on ette teada. Kuid reaalsuses ei ole tulemus teada. Auto ei pruugi olla võimeline määrama tema teele jääva inimese sugu, vanust, võimalikku käitumist ega ka kokkupõrke täpseid tagajärgi ühel või teisel juhul.
• Küsimus ise on vale. Kuna on olukordi, mil „õiget valikut” ei ole, võib olla olulisem või isegi õigem küsida „vale valiku” kohta. Seega tuleks vältida võib-olla üksnes eetiliselt valesid valikuid. Siin on oluline vahe.

Oluline on veel teadvustada, et isesõitvad autod ei ole klassikaliselt programmeeritud, vaid nad õpivad ja kohanduvad nii nagu teeb seda tehisintellekt.
See tähendab, et isesõitva auto käitumist ei determineeri mingi kindel programm või skeem. Valikuid teeb ta oma sisemise otsustusloogika, mitte väljast ette antud reeglite baasil. Masina käitumine sõltub olukordadest, millesse ta varem sattunud on. Samades olukordades ei pruugi tehtavad valikud kattuda. Selleks, et saavutada kõrgetasemelist õppimisstrateegiat, ongi vaja läbida miljoneid testkilomeetreid, pannes autot pidevalt proovile.

Hea või halb?
Tehnoloogia kui asi iseeneses ei ole kunagi hea ega halb. Hinnangud lähtuvad sellest, kuidas inimesed asju kasutavad. Iga asja saab kasutada heal/halval viisil või eesmärgil. Autonoomsete sõidukite laialdane kasutamine toob kaasa väga suured muutused, mis aitavad lahendada või leevendada tervet hulka tavaautode kasutamist saatvaid probleeme: ohutus, aja ja raha kokkuhoid, liikumise võimaldamine rohkematele inimestele jne.
Kuid kui seda autot kasutatakse halbadel eesmärkidel, võib sellest sündida ka märkimisväärset kahju. Autonoomne sõiduk on väga keeruline tehnoloogiline objekt. Me teame, et tehnoloogia, olgu kui tahes täiuslik, ei ole kunagi täielikult veavaba. Veel enam: moodsad sõidukid ei ole kaitstud ka häkkimise eest. Saavutades kontrolli auto süsteemide üle, võib masinat kasutada näiteks terroristlikel eesmärkidel.
Ja lõpuks veel üks suur „aga“. Sellest ajast saati, kui inimene hakkas autot kasutama, on ühiskond oluliselt muutunud – ja seda muidugi ka n-ö halvas mõttes. Näiteks on vähenenud inimeste füüsiline liikuvus, kujunenud mitmesugused tervislikud kõrvalekalded, kahanenud kommunikatiivsus jne. Võib öelda, et autos ilmneb mõõdutundetul kasutamisel inimest kahjustav element.
Kuid auto ei ole ainult võtnud, vaid ka andnud: näiteks nõuab autojuhtimine vastutust ja kontrolli, mitmesuguseid võimeid ja oskusi (reageerimisvõime, analüüsivõime, oskus arvestada ilmaolusid, kiiruse ja vahemaa taju, oskus parandada katkiseid asju või lahendada probleeme jne).
Isesõitev auto kujutab sellele komplektile küllaltki suurt ohtu, sest enamikku, klassikalise auto puhul rakendatavatest oskustest ja võimetest ei ole enam vaja. Pole vaja ka vastutada. Autojuhti kui sellist õigupoolest ei eksisteerigi. Siit kerkivad uued probleemid. Mis saab siis, kui kogenematu autojuht peab näiteks erakordsetes ilmaoludes autojuhtimise üle võtma? Paratamatult seisame vastakuti küsimusega, kas isesõitvad autod ei muuda inimest pikas perspektiivis abitumaks, kui ta praegu on.

Sarnased artiklid