Sveigja eða keyra: Þjóðverjar birta fyrstu siðareglurnar fyrir sjálfkeyrandi ökutæki

Tölvur þurfa að takast á við siðferðisleg álitamál í umferðinni. Eiga sjálfkeyrandi bílar að sveigja eða keyra þegar allt stefnir í voða?

Auglýsing

Fram­göng­ur.is er nýr vefur þar sem fjallað er um fram­tíð sam­göngu­mála og reynt að dýpka og auðga umræð­una um fram­tíð­ar­horfur í sam­göngu­málum og ferða­mát­um. Greinin birt­ist fyrst á vef Fram­gangna.

Í fram­tíð þar sem tækni­lega flókin tölvu­kerfi eru byggð á gervi­greind og eru fær um að læra sjálf, hversu háð erum við mann­fólkið til­búin að verða þessum kerfum í skiptum fyrir aukið öryggi, flytj­an­leika og þæg­indi? Hvaða skref þarf að taka í dag til að tryggja stjórn, gagn­sæi og umráð gagna?

Þessum spurn­ingum og fleirum leit­uð­ust 14 þýskir fræði­menn á sviði sið­fræði, lög­fræði og tækni að svara nýverið í þeim til­gangi að útbúa leið­ar­vísir og reglu­verk fyrir fram­leið­endur sjálf­keyr­andi tækni. Skýrsla siða­nefnd­ar­innar var kynnt af sam­göngu­ráð­herra Þýska­lands í síð­ustu viku, en stefnt er að lög­leið­ingu regln­anna innan tíð­ar.

Verk­efni siða­nefnd­ar­innar var að svara sið­ferð­is­legum álita­málum er varða ákvörð­un­ar­töku sjálf­keyr­andi tækni, þ.e. hug­bún­að­ar­ins eða algórit­hmans. Meg­in­spurn­ingin varðar ákvörð­un­ar­töku við aðstæður þar sem slys er óum­flýj­an­legt og má stilla upp með þessum hætti:

Við slíkar aðstæður og af tveimur mögu­leik­um, hvort á sjálf­keyr­andi öku­tæki að keyra á gang­andi veg­far­enda á gang­braut með þeim afleið­ingum að veg­far­and­inn deyr eða á öku­tækið að sveigja til hliðar með þeim afleið­ingum að far­þegi þess deyr?

Auglýsing

Sveigja eða keyra?

Margt bendir til að aukin sjálf­stýr­ing öku­tækja, þ.e. tækni sem leysir mennska öku­menn af hólmi að hluta eða öllu leyti, muni draga úr slysa­tíðni og gera umferð­ina örugg­ari. Spár um bætt umferð­ar­ör­yggi vegna sjálf­stýr­ingar byggja m.a. á þeirri stað­reynd að yfir 90% slysa í dag má rekja til mann­legrar hegð­un­ar, hvort sem hún telst vera mis­tök (t.d. líta ekki nægi­lega í kringum sig) eða alvar­legri afglöp (keyra undir áhrif­um).

En hvernig eiga sjálf­keyr­andi bílar að bregð­ast við þegar slys er óum­flýj­an­legt? Með öðrum orð­um, hvernig á að for­rita sjálf­keyr­andi bíla svo að þeir bregð­ist rétt við þegar slys er óum­flýj­an­legt og hvað telst vera rétt ákvörðun?

E.t.v. eiga ein­hverjir auð­velt með að svara spurn­ing­unni hér að ofan um hvor skuli láta líf­ið, far­þeg­inn eða veg­far­and­inn. En spurn­ing­unni má snúa, breyta og flækja og er raunar nauð­syn­legt að gera svo þegar rætt er um sják­feyr­andi öku­tæki. Er ein­hver reiðu­búin að setj­ast upp í sjálf­keyr­andi bíl með­vituð um að bíll­inn fórnar sér og far­þegum fyrir gang­andi veg­far­end­ur? Er rétt­læt­an­legt að öku­tækið keyri á gang­andi veg­far­endur ef um er að ræða rútu fulla af skóla­börnum og yfir gang­braut­ina gengur 95 ára gam­all mað­ur? En ef eitt barn er í bílnum og tíu gam­al­menni ganga yfir göt­una? Og í víð­ara sam­hengi, er rétt­læt­an­legt að stundum deyji ein­hverjir vegna sjálf­keyr­andi tækni ef slysum fækkar veru­lega yfir höfuð vegna henn­ar?

Spurn­ing­in, eða vanda­málið, sem glímt er við er eldra en sjálf­keyr­andi tækni og er eitt vin­sælasta álita­efni sið­fræð­inn­ar. The Trolley Problem á akademískar rætur að rekja til 7. ára­tug­ar­ins. Á allra síð­ustu árum hefur Vagna­vanda­málið öðl­ast nýtt líf, ann­ars vegar í tengslum við þróun sjálf­keyr­andi tækni og hins vegar vegna áhuga mem­e-grín­ara inter­nets­ins sem hafa gert sér mat úr því (og ekki verður farið nánar út í hér).

Kanna hug almenn­ings

Eitt skref í átt að ákvörðun um hvernig best er að for­rita sjálf­keyr­andi bíla er að kanna við­horf almenn­ings og athuga þannig hvað meiri­hluti telur vera rétta ákvörð­un. Það hafa pró­fess­orar MIT háskól­ans m.a. gert með Siða­vél­inni svoköll­uðu, eða The Moral Machine, þar sem spurt er hvað sjálf­keyr­andi bíll ætti að gera þegar slys er óum­flýj­an­legt. Dæmi um spurn­ingar Siða­vél­ar­innar má sjá hér að neð­an.

Siðareglur bíla.

Ákveðið með lögum og reglum

Þjóð­verjar hafa nú stigið skrefið lengra og gefið út áður­nefnda skýrslu sér­stakrar siða­nefndar þar sem leit­ast er við að svara sið­ferð­is­legum álita­málum varð­andi sjálf­keyr­andi tækni. Stjórn­völd í Þýska­landi, sem er heim­ili m.a. Daim­ler, Volkswagen og BMW, hafa áður látið sig lög um sjálf­keyr­andi tækni varða en fyrr á þessu ári var umferð­ar­lögum í Þýska­landi breytt á þann veg að nú verður öku­maður bif­reiðar að sitja undir stýri á öllum tím­um, og vera til­bú­inn að taka yfir stjórn öku­tæk­is­ins ef sjálf­keyr­andi tækni krefst þess. Þótt slík lög geti í fyrstu hljó­mað íþyngj­andi, þá þvert á móti greiða þau veg­inn fyrir þýska fram­leið­endur til að þróa og prófa tækn­ina.

Meðal þess sem fræði­menn­irnir fjór­tján leggja til að lög­fest verði er að mann­eskjur skuli ávallt njóta for­gangs yfir dýr og eignir í umferð­inni. Algórit­hmi sjálf­keyr­andi öku­tækis skal því alltaf leit­ast við að forð­ast meiðsli eða dauðs­föll á fólki. Þá er lagt til að ekki megi for­rita öku­tæki þannig að þau taki ákvarð­anir sem mis­muna fólki út frá aldri, kyni, kyn­þætti eða lík­am­legu ásig­komu­lagi. Auk þess er talað fyrir notkun svartra rit­boxa eins og þekk­ist í flug­iðn­að­in­um, svo rann­saka megi til­drög slysa eftir á.

„Sam­skipti manna og véla vekur upp nýjar sið­ferð­is­spurn­ingar á tímum tækninýj­unga og gervi­greind­ar. Sið­fræði­nefndin hefur unnið braut­ryðj­andi starf og búið til fyrstu við­mið­un­ar­reglur heims fyrir sjálf­keyr­andi öku­tæki. Við munum nú inn­leiða þessar regl­ur,“ sagði þýski sam­göngu­ráð­herr­ann þegar hann kynnti efni skýrsl­unnar í síð­ustu viku.

Ert þú í Kjarnasamfélaginu?

Kjarninn er opinn vefur en líflínan okkar eru frjáls framlög frá lesendum, Kjarnasamfélagið. Sú stoð undir reksturinn er okkur afar mikilvæg.

Með því að skrá þig í Kjarnasamfélagið gerir þú okkur kleift að halda áfram að vinna í þágu almennings og birta vandaðar fréttaskýringar, djúpar greiningar á efnahagsmálum og annað fréttatengt gæðaefni. 

Kjarninn hefur verið til taks fyrir kröfuharða lesendur undanfarin sjö ár og við ætlum okkur að standa vaktina áfram. 

Fyrir þá sem nú þegar eru stoltir styrkjendur Kjarnans þá leyfum við okkur að benda á að hægt er að óska eftir að hækka mánaðarlega framlagið með því að senda póst á takk@kjarninn.is


Já takk, ég vil styrkja Kjarnann!
Lífeyrissjóður verzlunarmanna hefur aðsetur í Húsi verslunarinnar
Tæp tíu prósent útistandandi sjóðfélagalána LIVE í greiðsluhléi
Sjóðfélagalán í greiðsluhléi nema samtals um ellefu milljörðum króna. Til samanburðar námu útistandandi sjóðfélagalán Lífeyrissjóðs verzlunarmanna við lok árs 2019 rúmum 120 milljörðum. Ávöxtun sjóðsins á fyrstu fjórum mánuðum ársins áætluð 3,5 prósent.
Kjarninn 3. júní 2020
Tæknivarpið
Tæknivarpið
Tæknivarpið – Twitter tekur á rugli og Síminn sektaður
Kjarninn 3. júní 2020
Ástþór Ólafsson
Árið 1970 og upp úr
Kjarninn 3. júní 2020
Bjarni Benediktsson formaður Sjálfstæðisflokksins.
Sjálfstæðisflokkurinn áfram nærri kjörfylgi í nýrri könnun Gallup
Afar litlar breytingar urðu á fylgi flokka á milli mánaða, samkvæmt nýjum þjóðarpúlsi Gallup. Sjálfstæðisflokkurinn er áfram nærri kjörfylgi sínu og stuðningur við ríkisstjórnina mælist tæp 60 prósent á meðal þeirra sem taka afstöðu.
Kjarninn 3. júní 2020
Sex sakborningar í málinu, þeirra á meðal Bernhard Esau og Sacky Shanghala fyrrverandi ráðherrar í ríkisstjórn Namibíu, verða í gæsluvarðhaldi til 28. ágúst.
Namibísk yfirvöld hafa óskað liðsinnis Interpol vegna Samherjamálsins
Sex menn sem hafa verið í haldi namibískra yfirvalda vegna rannsóknar á Samherjaskjölunum verða áfram í haldi til 28. ágúst. Rannsókn málsins hefur reynst flókin og haf namibísk yfirvöld beðið Interpol um aðstoð.
Kjarninn 3. júní 2020
Fólk hefur flykkst á markaði víðsvegar um Indland eftir að útgöngubanni var aflétt.
Smitum á Indlandi fjölgar ört
Stjórnvöld á Indlandi eru að hefjast handa við að aflétta umfangsmesta útgöngubanni sem sett var á í kjölfar kórónuveirufaraldursins. Sjúkrahús í Mumbai hafa vart undan við að sinna sýktum en fellibylurinn Nisarga herjar nú á nágrenni borgarinnar.
Kjarninn 3. júní 2020
Samtök ferðaþjónustunnar telja að um 250 þúsund ferðamenn gætu komið hingað til lands það sem eftir lifir árs.
Ferðamenn greiði kostnað af skimun
Með greiðslu ferðamanna fyrir sýnatöku má stuðla að því að þeir sem sækja landið heim séu efnameiri ferðamenn sem eyði meiru og dvelji lengur, segir í greinargerð fjármálaráðuneytisins um hagræn áhrif þess að aflétta ferðatakmörkunum til Íslands.
Kjarninn 3. júní 2020
Ekkert pláss fyrir íhald í stjórnmálum næstu árin
Alvarlegt ástand er nú komið upp í íslensku efnahagslífi. Mörg hundruð milljarða króna tap í ríkisrekstri er fyrirsjáanlegt, tugir þúsunda verða án atvinnu að öllu leyti eða hluta og þúsundir fyrirtækja standa frammi fyrir algjörri óvissu.
Kjarninn 3. júní 2020
Meira eftir höfundinnHallgrímur Oddsson
Meira úr sama flokkiFréttaskýringar