Kuulin purjehdusreissulla tarinan siitä, kuinka Norjan kuningas – tunnettu purjehtija – oli kerran saapumassa Nauvon satamaan. Aluksena oli hieno kymmenentonninen 8mR ja luonnollisesti tarkoituksena oli suorittaa tyylipuhdas landaus purjeilla. Oikeassa kohtaa kuningas antoi käskyn laskea isopurjeen. Purje oli kuitenkin jumissa, josta hänelle välittömästi ilmoitettiin. Kuningas kuitenkin toisti käskynsä: ”Laskekaa iso!”
Laituri lähestyi jo pelottavaa vauhtia. Oli sunnuntai-ilta ja laituri oli viimeistä paikkaa myöten täynnä toinen toistaan kalliimpia veneitä. Miehistö alkoi jo hermostua, sillä törmäys näytti väistämättömältä. Käskettyään kolmannen kerran laskea isopurjeen, ja saatuaan taas vastaukseksi purjeen olevan jumissa, antoi kuningas kylmän rauhallisesti uuden komennon:
“Tähdätkää halvimpaan!”
Merilegenda muistui mieleeni lukiessani artikkelia lähitulevaisuuden autoista, jotka ohjaavat itse itseään. Ajatushan on sinänsä nerokas. Koska suurin osa auto-onnettomuuksista johtuu kuljettajan tekemästä virheestä, tehokkain tapa vähentää onnettomuuksia on tietenkin vähentää suurimman riskitekijän vaikutusta ajotapahtumaan. Auton ohjauksesta vastaava tietokone pystyy yllättävässäkin tilanteessa salamannopeasti laskemaan oikean ajolinjan, ottamaan huomioon muut tienkäyttäjät sekä reagoimaan vaikkapa oikeaoppisella lukkojarrutuksella ilman ihmisaivojen jopa kahden sekunnin reaktioaikaa. Jos autot vielä kommunikoivat keskenään, osaavat ne väistää toisiaan jopa ruuhkassa tapahtuvassa massahätäjarrutustilanteessa. Tämä mahdollistaa paljon lyhyemmät turvavälit autojen välille (kuin mitä hitaasti reagoivat ihmiset tarvitsevat), helpottaen siten ruuhkia.
Mitä auton tulisi tilanteessa tehdä? Tulisiko sen ensisijaisesti pyrkiä suojelemaan auton matkustajia, vaikka se aiheuttaisi ulkopuolisille suuremman riskin?Mielenkiintoisia kysymyksiä, joita erästä netistä lukemaani artikkelia lukuunottamatta ei ole paljoa esille nostettu, ovat tällaisten järjestelmien eettiset kysymykset. Vaikka itseohjaavien autojen ohjelmisto olisi kuinka fiksu tahansa, väistämättä eteen tulee vaaratilanteita. Normaalisti vaaratilanteessa auton kuljettaja tekee päätöksensä – väistääkö vai yrittääkö jarruttaa – vaistonsa varassa. Tietokoneella ei ole vaistoa, joten se joutuu pohjaamaan päätöksensä todennäköisyyksiin tai ennalta annettuihin käskyihin. Se tekee siis kylmän rauhallisen ja tietoisen päätöksen. Nyt tilanne muuttuukin astetta mielenkiintoisemmaksi.
Oletetaan tilanne, jossa ulkopuolisesta syystä (tiellä koikkelehtiva hirvi, kaatuva puu tai humalainen isäntä traktorin puikoissa) aiheuttaa väistämättömän vaaratilanteen, josta tietokoneen ohjaama auto ei voi selvitä ilman kolaria. Mitä auton tulisi tilanteessa tehdä? Tulisiko sen ensisijaisesti pyrkiä suojelemaan auton matkustajia, vaikka se aiheuttaisi ulkopuolisille suuremman riskin? Tuleeko sen ottaa huomioon kaikki muutkin tienkäyttäjät ja valita ratkaisu, joka aiheuttaa pienimmän riskin kaikille, vaikka se olisi matkustajien kannalta huonompi ratkaisu? Ajaako mukavan pehmeään väkijoukkoon vai kiviseinään? Koska se ei voi päättää tällaista eettistä kysymystä itse, täytyy japanilaisen autofirman insinöörin ohjelmoida vastaus kysymykseen etukäteen.
Edellinen esimerkki on tietenkin melko kärjistetty, mutta relevantti. Entäs sitten tilanteessa, jossa väistäessään hirveä auto voi valita kahdesta autosta johon törmätä? Toinen on viisi tähteä EURO NCAP –kolaritestissa saanut Mersun maasturi, jossa on kolmilapsinen perhe kyydissä. Toinen taas pieni ranskalainen urheiluauto, jossa ei kuljettajan lisäksi ole matkustajia. Mersulla on suuremmat todennäköisyydet selvitä kolarista kuin frankkien pikku peltikirpulla, mutta onko reilua valita törmäyksen uhriksi perhe, joka on tehnyt tietoisen valinnan ostaa turvallinen auto lapsien suojaksi? Mitä jos valittavana on se, törmätäkö moottoripyöräkuskiin, jolla on kypärä tai sellaiseen, jolla ei ole. Kypäräpäisellä on suuremmat mahdollisuudet selvitä, mutta toinen on ottanut taas tietoisen riskin ja rikkonut lakia. Tuleeko lainkuuliaista rangaista?
Volvolla on tarkoitus kokeilla itseohjautuvia autoja yleisessä liikenteessä jo muutaman vuoden päästä, eli nämä moraaliset pohdinnat eivät ole pelkkiä asimovilaisia jorinoita, vaan tämän asiallisia tämän päivän kysymyksiä. On varmaa, että suurten autofirmojen lakimiehet ja vakuutusasiantuntijat pohdiskelevat nyt jo näitä samoja kysymyksiä. Eikä tarvitse olla läpikyyninen arvatakseen, että heidän lähestymistapansa on huomattavasti pragmaattisempi; mikä on autofirmalle halvinta? Onko todennäköisempää, että sen porschekuskin perhe nostaa oikeusjutun kuin sen 30 vuotta vanhan pickupin kuskin perhe? Uskonkin, että esimerkiksi yhdysvaltalaistet tulevaisuuden autot tullaan valitettavasti vaikeiden moraalisten päättelyketjujen sijasta ohjeistamaan Norjan kuninkaan keinoin: tähdätkää halvimpaan!
4 kommenttia
Frank501
18.5.2014 14:11
Tuo oikeusjuttu on sinällään ihan eri asia kuin se miten tuo auton tietokone tekee päätöksiä. Tietokoneelle ei tule eteen mitään moraalista valintaa koska tuo tapahtumaketju ei tapahdu noin. Se, että asiaan X lopulta törmättiin, alkoi jo aivan ensimmäisestä valinnasta. Autohan tekee valintoja sen mukaan, että tapahtuvaa joko lykättäisiin tai että sitä ei edes tapahtuisi kunnes tilanne on ohi, tuhansia valintoja sekunnissa - tuo koko aikajana on kauttaaltaan muuttuva jatkuvasti. Ei ole mitään yht'äkkistä päätöstä, että kenen päälle ajan ja kenen en ja siten ei mitään moraalista päätöstä vaan koko homma on niiden tuhansien aiempien valintojen summa.
Tuon lisäksi auton tietokoneet tarkkailevat jatkuvasti auton toimintaa ja auton liikennevalvontajärjestelmä näkee tilanteen jo kaukaa ja osaa toimia jos vaikkapa tila alkaa käydä ahtaaksi ja sitä myöten varoittaa kuskia yms yms.
Jos tälläisessä tilanteessa joku auton valmistaja menee vankilaan, on syy koko tapahtumaketjussa eikä missään viimeisessä päätöksessä.
Vastaa kommenttiinVastaa kommenttiin
TMS43
18.5.2014 20:45
"Sikta på något billigt" tai "sikta på den billigaste". Jacob Wallenberg Sandhamniin tullessa Refanutilla. Ei Norjan kuningas Nauvossa eikä kasilla. Yt
Vastaa kommenttiinVastaa kommenttiin
tuomas vimma
19.5.2014 13:21
Kyseessä on merilegenda, jonka olen kuullut parissqkin eri muodossa. Kapteeni, vene ja satama vain vaihtuvat. Tähän valitsin tuon Norjan kuningas -version, sillä se on mielestäni hauskin. Yhtä hyvin se voisi olla Eversti Sinappi kirjastossa, sillä fiktiivinen juttuhan tämä on.
Vastaa kommenttiinVastaa kommenttiin
orvelli
20.5.2014 08:08
Hyvä Frank, loistavasti missattu koko pointti! Mutta palataanpa takaisin Tuomaksen huomattavasti mielenkiintoisempaan aiheeseen, moraaliseen valintaan.
Toinen moraalinen valinta: kuka tekee tietokoneen päätöksen? Voiko Nalle Wahlroos ostaa auton jonka tietokone aina ja kaikkialla suojelee vain Nallea? Jos Nallen auto on ajautumassa rotkoon ja sen voi estää törmäämällä 12-lapsisen perheen minibussiin (ja samalla työntää sen rotkoon), voiko Nallen Rolls Royce olla ohjelmoitu näin?
Kuka valinnan tekee miten tietokone ohjattu auto käyttäytyy? Asiakas vai joku viranomainen? Kuinka tätä valvotaan?
Vastaa kommenttiinVastaa kommenttiin