Sveigja eða keyra: Þjóðverjar birta fyrstu siðareglurnar fyrir sjálfkeyrandi ökutæki

Tölvur þurfa að takast á við siðferðisleg álitamál í umferðinni. Eiga sjálfkeyrandi bílar að sveigja eða keyra þegar allt stefnir í voða?

Auglýsing

Fram­göng­ur.is er nýr vefur þar sem fjallað er um fram­tíð sam­göngu­mála og reynt að dýpka og auðga umræð­una um fram­tíð­ar­horfur í sam­göngu­málum og ferða­mát­um. Greinin birt­ist fyrst á vef Fram­gangna.

Í fram­tíð þar sem tækni­lega flókin tölvu­kerfi eru byggð á gervi­greind og eru fær um að læra sjálf, hversu háð erum við mann­fólkið til­búin að verða þessum kerfum í skiptum fyrir aukið öryggi, flytj­an­leika og þæg­indi? Hvaða skref þarf að taka í dag til að tryggja stjórn, gagn­sæi og umráð gagna?

Þessum spurn­ingum og fleirum leit­uð­ust 14 þýskir fræði­menn á sviði sið­fræði, lög­fræði og tækni að svara nýverið í þeim til­gangi að útbúa leið­ar­vísir og reglu­verk fyrir fram­leið­endur sjálf­keyr­andi tækni. Skýrsla siða­nefnd­ar­innar var kynnt af sam­göngu­ráð­herra Þýska­lands í síð­ustu viku, en stefnt er að lög­leið­ingu regln­anna innan tíð­ar.

Verk­efni siða­nefnd­ar­innar var að svara sið­ferð­is­legum álita­málum er varða ákvörð­un­ar­töku sjálf­keyr­andi tækni, þ.e. hug­bún­að­ar­ins eða algórit­hmans. Meg­in­spurn­ingin varðar ákvörð­un­ar­töku við aðstæður þar sem slys er óum­flýj­an­legt og má stilla upp með þessum hætti:

Við slíkar aðstæður og af tveimur mögu­leik­um, hvort á sjálf­keyr­andi öku­tæki að keyra á gang­andi veg­far­enda á gang­braut með þeim afleið­ingum að veg­far­and­inn deyr eða á öku­tækið að sveigja til hliðar með þeim afleið­ingum að far­þegi þess deyr?

Auglýsing

Sveigja eða keyra?

Margt bendir til að aukin sjálf­stýr­ing öku­tækja, þ.e. tækni sem leysir mennska öku­menn af hólmi að hluta eða öllu leyti, muni draga úr slysa­tíðni og gera umferð­ina örugg­ari. Spár um bætt umferð­ar­ör­yggi vegna sjálf­stýr­ingar byggja m.a. á þeirri stað­reynd að yfir 90% slysa í dag má rekja til mann­legrar hegð­un­ar, hvort sem hún telst vera mis­tök (t.d. líta ekki nægi­lega í kringum sig) eða alvar­legri afglöp (keyra undir áhrif­um).

En hvernig eiga sjálf­keyr­andi bílar að bregð­ast við þegar slys er óum­flýj­an­legt? Með öðrum orð­um, hvernig á að for­rita sjálf­keyr­andi bíla svo að þeir bregð­ist rétt við þegar slys er óum­flýj­an­legt og hvað telst vera rétt ákvörðun?

E.t.v. eiga ein­hverjir auð­velt með að svara spurn­ing­unni hér að ofan um hvor skuli láta líf­ið, far­þeg­inn eða veg­far­and­inn. En spurn­ing­unni má snúa, breyta og flækja og er raunar nauð­syn­legt að gera svo þegar rætt er um sják­feyr­andi öku­tæki. Er ein­hver reiðu­búin að setj­ast upp í sjálf­keyr­andi bíl með­vituð um að bíll­inn fórnar sér og far­þegum fyrir gang­andi veg­far­end­ur? Er rétt­læt­an­legt að öku­tækið keyri á gang­andi veg­far­endur ef um er að ræða rútu fulla af skóla­börnum og yfir gang­braut­ina gengur 95 ára gam­all mað­ur? En ef eitt barn er í bílnum og tíu gam­al­menni ganga yfir göt­una? Og í víð­ara sam­hengi, er rétt­læt­an­legt að stundum deyji ein­hverjir vegna sjálf­keyr­andi tækni ef slysum fækkar veru­lega yfir höfuð vegna henn­ar?

Spurn­ing­in, eða vanda­málið, sem glímt er við er eldra en sjálf­keyr­andi tækni og er eitt vin­sælasta álita­efni sið­fræð­inn­ar. The Trolley Problem á akademískar rætur að rekja til 7. ára­tug­ar­ins. Á allra síð­ustu árum hefur Vagna­vanda­málið öðl­ast nýtt líf, ann­ars vegar í tengslum við þróun sjálf­keyr­andi tækni og hins vegar vegna áhuga mem­e-grín­ara inter­nets­ins sem hafa gert sér mat úr því (og ekki verður farið nánar út í hér).

Kanna hug almenn­ings

Eitt skref í átt að ákvörðun um hvernig best er að for­rita sjálf­keyr­andi bíla er að kanna við­horf almenn­ings og athuga þannig hvað meiri­hluti telur vera rétta ákvörð­un. Það hafa pró­fess­orar MIT háskól­ans m.a. gert með Siða­vél­inni svoköll­uðu, eða The Moral Machine, þar sem spurt er hvað sjálf­keyr­andi bíll ætti að gera þegar slys er óum­flýj­an­legt. Dæmi um spurn­ingar Siða­vél­ar­innar má sjá hér að neð­an.

Siðareglur bíla.

Ákveðið með lögum og reglum

Þjóð­verjar hafa nú stigið skrefið lengra og gefið út áður­nefnda skýrslu sér­stakrar siða­nefndar þar sem leit­ast er við að svara sið­ferð­is­legum álita­málum varð­andi sjálf­keyr­andi tækni. Stjórn­völd í Þýska­landi, sem er heim­ili m.a. Daim­ler, Volkswagen og BMW, hafa áður látið sig lög um sjálf­keyr­andi tækni varða en fyrr á þessu ári var umferð­ar­lögum í Þýska­landi breytt á þann veg að nú verður öku­maður bif­reiðar að sitja undir stýri á öllum tím­um, og vera til­bú­inn að taka yfir stjórn öku­tæk­is­ins ef sjálf­keyr­andi tækni krefst þess. Þótt slík lög geti í fyrstu hljó­mað íþyngj­andi, þá þvert á móti greiða þau veg­inn fyrir þýska fram­leið­endur til að þróa og prófa tækn­ina.

Meðal þess sem fræði­menn­irnir fjór­tján leggja til að lög­fest verði er að mann­eskjur skuli ávallt njóta for­gangs yfir dýr og eignir í umferð­inni. Algórit­hmi sjálf­keyr­andi öku­tækis skal því alltaf leit­ast við að forð­ast meiðsli eða dauðs­föll á fólki. Þá er lagt til að ekki megi for­rita öku­tæki þannig að þau taki ákvarð­anir sem mis­muna fólki út frá aldri, kyni, kyn­þætti eða lík­am­legu ásig­komu­lagi. Auk þess er talað fyrir notkun svartra rit­boxa eins og þekk­ist í flug­iðn­að­in­um, svo rann­saka megi til­drög slysa eftir á.

„Sam­skipti manna og véla vekur upp nýjar sið­ferð­is­spurn­ingar á tímum tækninýj­unga og gervi­greind­ar. Sið­fræði­nefndin hefur unnið braut­ryðj­andi starf og búið til fyrstu við­mið­un­ar­reglur heims fyrir sjálf­keyr­andi öku­tæki. Við munum nú inn­leiða þessar regl­ur,“ sagði þýski sam­göngu­ráð­herr­ann þegar hann kynnti efni skýrsl­unnar í síð­ustu viku.

Meira eftir höfundinnHallgrímur Oddsson
Meira úr sama flokkiFréttaskýringar