Fylgst er með Fésbókarfærslum þínum

Hver er ritskoðunarstefna samfélagsmiðilsins Facebook? Aðalsteinn Sigmarsson skrifar um stefnu Facebook.

Auglýsing

Nú er einn fjórði mann­kyns skráður á Face­book og sam­skipta­mið­ill­inn felur í sér marg­falt meira eft­ir­lit en nokkur gæti ímyndað sér. Hef­urðu velt fyrir þér hvernig stjórn­endur Face­book fara að því að rit­skoða allt efnið sem not­endur skrá á hverjum degi? Leið­bein­ingar starfs­fólks fyr­ir­tæk­is­ins varð­andi rit­skoðun efnis hafa lekið til frétta­blaðs­ins The Guar­di­an. Og eru leið­bein­ing­arnar eru ansi áhuga­verð­ar.

Á degi hverjum fer gíf­ur­legt magn af ólög­legu og ósið­sam­legu efni inn á Face­book. Starfs­menn Face­book fylgj­ast með og rit­skoða efni. Sumt sem starfs­menn Face­book gera er vafa­samt og stang­ast jafn­vel á við lög ein­stakra þjóða. Sumar reglu­gerðir eru flóknar og starfs­fólk gerir mörg mis­tök þar sem þeir gætu haft svo lítið sem 10 sek­úndur til þess að skera úr um hvað er ásætt­an­legt á sam­fé­lags­miðl­in­um.

Hvernig er fylgst með?

Notendum Facebook býðst að tilkynna efni með þessari valmynd.Eft­ir­litið er marg­þætt. Sjálf­virkt raf­rænt eft­ir­lit er með ýmsum þáttum og starfs­fólk vinnur við lestur og skoðun af ýmsu tagi. Not­endur Face­book geta tekið þátt í rit­skoðun efn­is. Ef þú sem not­andi sérð efni sem þér finnst vera óvið­eig­andi gefst þér kostur á að til­kynna efnið til stjórn­enda sam­skipta­mið­ils­ins.

Hryðju­verk

Það er for­gangs­at­riði Face­book að taka burt áróð­ursefni hryðju­verka­manna. Fyr­ir­tækið hefur fjár­fest í bún­aði til þess að hindra birt­ingu til­tek­ins efnis frá hryðju­verka­mönn­um. Aðgerð­irnar hafa dregið úr magni efnis af þessu tagi, en hryðju­verka­menn ná samt auð­veld­lega að kom­ast fram hjá hindr­un­um.

Vanda þarf vinnu­brögð varð­andi vöktun og eft­ir­lit á Face­book. Dæmi er um að sama mynd­birt­ing geti falið í sér hvort sem er hryðju­verka­efni eða for­dæm­ingu á hryðju­verki. Það eru frekar orðin sem fylgja mynd­unum sem ráða því hvort efnið er leyfi­legt. Til­tekin mynd sem notuð er til þess að þjálfa starfs­fólk Face­book til eft­ir­lits­starfa er maður sem liggur í blóði sínu eftir að hafa verið skot­inn í höf­uð­ið. Mynd­birt­ing af þessu tagi er leyfi­leg á Face­book svo lengi sem yfir­skriftin for­dæmir verkn­að­inn.

Myndir frá Íslamska rík­inu af kross­festu fólki og aftökum eru not­aðar í þjálfun­inni. Ef þær bera yfir­skrift eins og „hetj­urnar okk­ar“ eða „frá­bær dag­ur“ eru þær bann­að­ar. Sömu myndir eru leyfðar ef mynda­text­inn inni­heldur for­dæm­ingu eins og „hversu sorg­legt“ og „niður með Íslamska rík­ið!“ Hlut­leysi er leyft og þá myndi mynda­text­inn inni­halda „Íslamska ríkið veldur ótta“ og „fleiri líf­lát.“

Upp­lýs­ingar um hryðju­verka­hópa eru leyfi­legar í sögu­legu sam­hengi. Hvergi á Face­book er hópur fyrir aðdá­endur írska lýð­veld­is­hers­ins, sem hafa verið skil­greindir sem hryðju­verka­menn. Hins vegar eru til upp­lýs­ingar um sam­tökin í sögu­legu sam­hengi.

Myndin er af síðu um írska lýðveldisherinn sem margir töldu hryðjuverkasamtök. Síðan er slóð á alfræðirit um samtökin. Hlutlaust efni um sögu er leyfilegt á Facebook.

Afleiðingar hryðjuverkaárásar írska lýðveldishersins. Ef þessi mynd bæri yfirskriftina „hetjurnar okkar drápu marga óvini þennan dag“ væri hún bönnuð. Ef yfirfskriftin væri „Margir létust í sprengjuherferð írska lýðveldishersins“ væri hún leyfileg á Facebook.

Face­book skil­greinir sam­tök eins og Íslamska rík­ið, Al-kaída eða írska lýð­veld­is­her­inn (IRA) sem hryðju­verka­hópa, þeir eru við­ur­kenndir hryðju­verka­hópar um allan heim. En stundum er erfitt að skil­greina hvað eru hryðju­verka­sam­tök og hvað ekki.

Sýr­lenski frels­is­her­inn er skil­greindur sem hryðju­verka­sam­tök af Face­book. Sam­tökin eru við­ur­kennd sem lög­mæt mót­staða sýr­lenskra stjórn­ar­hers­ins af vest­rænum yfir­völdum svo sem Banda­ríkj­unum og Bret­landi.

Hel­förin

Það er ólög­legt að afneita hel­för­inni í 14 löndum í heim­in­um. Í stað­inn fyrir að fjar­lægja efnið úti­lokar Face­book efni af þessu tagi frá ákveðnum lönd­um. Í leið­bein­ingum starfs­manna Face­book kemur fram að fyr­ir­tækið loki aðeins fyrir efni tengd afneitun helfar­ar­innar í þeim þjóðum þar sem þeir hætta á lög­sókn eða að þjóð­irnar loki fyrir aðgang að Face­book.

Þjóð­irnar eru Frakk­land, Þýska­land, Ísr­ael og Aust­ur­ríki.

Sjálfs­morðs­efni

Face­book gefur not­endum val­kost á því að streyma til þeirra efni í beina útsend­ingu. Þessi mögu­leiki verður eins konar bein sjón­varps­út­send­ing hvers not­anda.

Fólk í sjálfs­morðs­hug­leið­ingum hefur notað þennan mögu­leika til að sjón­varpa eigin sjálfs­vígum eða sjálfs­vígstil­raun­um. Óhugn­an­lega margir hafa streymt sjálfs­morð eða sjálfs­morð­stil­raunir á face­book. Til­vik af fólki að fremja svo­kall­aðar sjálfs­skaða á Face­book er einnig að fjölga. Þá skaða menn sjálfa sig án þess að við­kom­andi láti endi­lega líf­ið.

Á tveggja vikna tíma­bili sum­arið 2016 upp­götv­uðu rit­skoð­un­arteymi Face­book 4531 mál fólks sem frömdu sjálf­skaða á síð­unni. 63 af þeim til­vikum fóru til deild­ar­innar hjá fyr­ir­tæk­inu sem sér um að hafa sam­band við lög­reglu og önnur yfir­völd í neyð­ar­á­stönd­um.

Rit­stjórar fengu leið­bein­ingar um að veita færslum tengdum þátta­röðum 13 Rea­sons Why sér­stakan for­gang. Þætt­irnir fjalla um mennta­skóla­nem­anda sem fremur sjálfs­morð. Áhyggjur eru yfir að fólk hermi eftir þátt­unum og skaði sig sjálft.

Efni sem inni­heldur sjálfs­skaða hefur auk­ist á Face­book síðan í fyrra. Í ár voru um fimm þús­und til­kynn­ingar um sjálfs­skaða á tveggja vikna tíma­bili og rúm­lega fjögur hund­ruð fleiri á öðru jafn­löngu tíma­bili.

Sam­kvæmt leið­bein­ingum varð­andi rit­skoðun leyfir Face­book fólki að senda út til­raunir fólks til þess að skaða sig. Ástæðan er að þau vilja ekki „rit­skoða eða refsa fólki í neyð sem er að gera til­raun til sjálfs­morðs“. Stefnan var mótuð eftir ráð­gjöf frá sér­fræð­ing­um.

Á sama tíma gerir fyr­ir­tækið sér grein fyrir hætt­unni að aug­lýsa sjálfs­víg. Þess vegna ber að fjar­lægja efnið „um leið og það er ekki tæki­færi til þess að hjálpa mann­eskj­unn­i“. Und­an­tekn­ingin frá þeirri reglu er ef atburð­ur­inn þykir sér­lega frétt­næm­ur.

Auglýsing

For­dóm­ar, ein­elti og árásir á fatlað fólk

Það er stutt síðan Face­book bann­aði efni sem gerir lítið úr fötl­uðu fólki. Í leið­bein­ingum starfs­fólks voru myndir af fólki með Downs-heil­kenni með yfir­skriftum sem gerðu lítið úr þeim. Fram kom að starfs­fólki bæri ekki skylda til þess að fjar­lægja þess­háttar efni. Fyr­ir­tækið breytti snögg­lega um stefnu eftir að þetta komst í fjöl­miðla. Tals­maður Face­book sagði að mynd­irnar væru bann­að­ar. Samt sem áður hafði rit­skoð­un­arteymi fyr­ir­tæk­is­ins skoðað efnið minna en hálfum sól­ar­hring áður.

Sam­kvæmt nýju reglu­gerð­unum er bannað að birta myndir af fötl­uðu fólki með niðr­andi yfir­skrift­um. Það þarf ekki að fjar­lægja niðr­andi athuga­semdir einum og sér. Það þarf ekki að fjar­lægja niðr­andi athuga­semdir án mynda.

Leyfi­legt er að deila myndefni af börnum sem eru undir sjö ára aldri að vera lögð í lík­am­legt ein­elti svo lengi sem að það er engin fyr­ir­sögn.

Fyr­ir­ækið skil­greinir ein­elti sem „árás á ein­stak­ling“ (hug­takið á ensku er „pri­vate per­son“). Opin­berar per­sónur telj­ast ekki sem ein­stak­ling­ar. Opin­ber per­sóna er skil­greind sem stjórn­mála­mað­ur­,­blaða­maður og mann­eskja sem hefur fleiri en hund­rað þús­und aðdá­endur eða fylgj­endur á sam­fé­lags­miðl­um. Einnig telj­ist sú per­sóna vera opin­ber minnst hefur verið ef minnst hefur verið á hana í fimm eða fleiri frétta­greinum á síð­ustu tveimur árum. Dæmi er tekið um Rihönnu, popp­söng­konu. Það er leyfi­legt að gera lítið úr henni fyrir að syngja en ekki fyrir að vera fórn­ar­lamb heim­il­is­of­beld­is.

Sam­kvæmt leið­bein­ing­unum vill fyr­ir­tækið úti­loka til­tekið fólk sem það telur ekki eiga skilið vernd frá ein­elti. „Við viljum úti­loka ákveðið fólk sem er frægt eða umtalað á sinn eigin hátt og á ekki skilið vernd frá okk­ur.“ Per­sónur eins og Jesús, fjöldamorð­ing­inn Charles Man­son eða nauð­garar eiga ekki skilið vernd að mati Face­book. Fólk sem brýtur reglur um hat­urs­orð­ræðu á þar heldur ekki skilið vernd frá ein­elti.

Hefnd­arklám

Starfs­menn þurfa að fara í gegnum efni og ákveða hvað flokk­ast undir hefnd­arklám og kúgun með klámi. Sem dæmi má nefna að á einum mán­uði þurfti fyr­ir­tækið að meta 54.000 til­vik varð­andi það hvað flokk­ist undir hefnd­arklám og kúgun og hvað ekki. Fyr­ir­tækið notar ljós­mynda­sam­svör­unar búnað eða „Image matching“ til þess að halda ákveðnum myndum frá síð­unni.

Í jan­úar síð­ast­liðnum gerði Face­book sam­tals fjórtán þús­und aðganga óvirka tengda efni af þessu tagi. Börn komu við sögu í sam­tals þrjá­tíu og þremur málum sem voru rit­skoð­uð. Í leið­bein­ing­unum er hefnd­arklám og kúgun með klámi skil­greint á ákveð­inn hátt. Um er að ræða kyn­lífs­kúgun („sextortion“ á ensku) þegar ein­stak­lingur notar myndir af fáklæddum eða nöktum ein­stak­lingi til kúg­un­ar. Fyr­ir­tækið treystir á að not­endur til­kynni flest efni af þessu tagi.

Ofbeldi gagn­vart börnum

Face­book heim­ildar samt efni sem sýnir ofbeldi gegn börn­um. Ástæðan þess er að fyr­ir­tækið vill hafa síð­una eins opna og hægt er og sýna „sönn­un­ar­gögn“ fyrir barna­mis­notkun sem getur bjargað börn­um. Starfs­menn eiga erfitt með að vita hvað skal fjar­lægja og hvað ekki. Leið­bein­ing­arnar segja „við fjar­lægjum ekki myndir af barna­mis­notk­un“ „Við merkjum sem trufl­andi“ stendur í sömu glæru.

Hins vegar er á efni sem sýnir barna­mis­notkun að vera fjar­lægð ef hún sýnir það í ljósi sem hvetur til verkn­að­ar­ins eða ef það er sadista­legt.

Sumt efni verður aðeins fjar­lægt ef það er til­kynnt sem þýðir að millj­ónir manna geta séð það áður en það er fjar­lægt frá síð­unni.

Starfs­menn Face­book hafa kvartað yfir því að erfitt sé að gera grein­ar­mun á því hvað er leyfi­legt og hvað ekki.

Hat­urs­orð­ræða í garð inn­flytj­enda

Sam­kvæmt leið­bein­ing­unum er hat­urs­orð­ræða ekki leyfð á Face­book. Hins vegar vill fyr­ir­tækið að eld­fimar umræður fái að eiga sér stað á miðl­in­um. Face­book hefur ákveðið að flótta­mönnum fái ekki sömu vernd frá hat­urs­orð­ræðu og aðrir hópar sem eiga undir högg að sækja. Leið­bein­ing­arnar segja að inn­flytj­endur væri við­kvæmur hópur og að fyr­ir­tækið vilji fjar­lægja hat­urs­orð­ræðu meinta gegn þeim á Face­book.

Samt sem áður vill Face­book leyfa opna og fjöl­breytta umræðu um inn­flytj­end­ur. Leið­bein­ingar sýna hverjir njóta verndar frá hat­urs­orð­ræðu og hverjir ekki. Þeir sem frá vernd eru ein­stak­ling­ar, hópar, mann­eskj­ur. „Hug­mynd­ir“ „stofn­an­ir“ og „trú“ eru ekki vernd­að­ar. Til dæmis er hópur fyrir fólk sem er á móti sam­kyn­hneigðum bann­aður á Face­book, en hóp­ur­inn sem væri á móti sam­kyn­hneigð yrði leyfð­ur.

Ein­stak­lingar í trú­ar­brögðum njóta verndar frá hat­urs­orð­ræðu. Trú­ar­brögðin sjálf njóta ekki sömu vernd­ar. Þjóðir njóta ekki verndar frá hat­urs­orð­ræðu. Ein­stak­lingar frá þjóðum njóta hins vegar vernd­ar­inn­ar.

Mál­efni inn­flytj­enda eru aðeins flókn­ari. Inn­flytj­endur eru fólk sem flytur frá heim­kynnum sýnum til ann­ars lands hvort sem ástæðan er stjórn­mála­leg, efna­hags­leg eða flótti undan átök­um. Þessi flokkur af fólki flokk­ast sem „hálf­part­inn vernd­að­ur.“

Athuga­semdir svo sem „inn­flytj­endur eru þjófar og ræn­ingjar“ og „byggið vegg í Makedóníu til þess að halda inn­flytj­endum úti“ eru leyfð­ar. Einnig er leyfi­legt að kalla inn­flytj­endur „þjófa og ræn­ingja“ og „skítuga“.

Þessi mynd er leyfð samkvæmt reglugerðum Facebook. Myndatextinn var „haldið skítugu þjófunum út úr Þýskalandi“. Myndin er leyfð vegna þess að það að kalla innflytjendur „skítuga“ er ekki það sama og að kalla þá „skít“.

Bannað er að hvetja til ofbeldis gegn inn­flytj­endum og að bera þá saman við dýr eða glæpa­menn.

Tekin eru dæmi um orð­ræðu sem lýsir inn­flytj­endum sem dýrum, glæpa­mönnum eða öðrum niðr­andi lýs­ing­um.

  • „inn­flytj­endur eru kakka­lakkar sem munu sýkja þjóð­ina okk­ar“
  • „inn­flytj­endur eru allir nauð­gar­ar“
  • „inn­flytj­endur eru barn­a­níð­ingar fjár­magn­aðir af rík­is­stjórn­um“

Mikil vinna fram undan

Nú starfa á fimmta þús­und manns við rit­skoðun Face­book. Tals­menn Face­book hafa til­kynnt að þrjú þús­und manns verði ráðnir til við­bótar við rit­skoðun efn­is. Ákvörðun stjórn­enda Face­book um aukið eft­ir­lit kom eftir að maður að nafni Robert Good­win var myrt­ur. Morð­ing­inn tók upp athæfið á Face­book Live, for­riti sem gerir not­endum kleift að taka mynd­bönd á snjall­síma eða tölvu og sýna í beinni útsend­ingu.

Mark Zuckerberg, stofnandi Facebook, heldur fyrirlestur um ritskoðun efnis á Facebook.

Bar­átta Face­book við að halda ósið­sam­legu efni út af síð­unni sinni er samt alls ekki ný. Frá upp­hafi Inter­nets­ins hefur jafn gott fólk sem vondir átt þar vett­vang. Við upp­haf Inter­nets­ins spruttu bæði upp síður fyrir að góð­gerða­sam­tök að aug­lýsa mál­stað sinn jafnt sem barnaklám.

Eftir morðið á Robert Good­win við­ur­kenndi Mark Zucker­berg opin­ber­lega að Face­book hafi átt þátt í atvik­inu. Verið ein­hvers konar með­sekur aðili í þessum hræði­lega atviki. Zuc­ken­berger sagði að fyr­ir­tækið myndi gera allt sem það gæti til þess að halda fólki „ör­uggu“ og að starfs­fólk Face­book ætti „mikla vinnu fram und­an“. Ávarpið var stutt og Zucker­berg gaf upp ekk­ert um hvernig þau myndu halda fólki „ör­uggu“ eða hvernig „vinna“ biði þeirra.

Breskir þing­menn hafa nú sagt að Face­book eigi að móta rit­skoð­un­ar­stefnu sýna opin­ber­lega. Þetta er góð til­laga. Það er vissu­lega hættu­legt að leyfa fámennum hópi í leyni að ákveða hvað er rétt og rangt á miðli sem einn fjórði mann­kyns notar á hverjum degi.

Meira úr sama flokkiAðsendar greinar