Nú er einn fjórði mannkyns skráður á Facebook og samskiptamiðillinn felur í sér margfalt meira eftirlit en nokkur gæti ímyndað sér. Hefurðu velt fyrir þér hvernig stjórnendur Facebook fara að því að ritskoða allt efnið sem notendur skrá á hverjum degi? Leiðbeiningar starfsfólks fyrirtækisins varðandi ritskoðun efnis hafa lekið til fréttablaðsins The Guardian. Og eru leiðbeiningarnar eru ansi áhugaverðar.
Á degi hverjum fer gífurlegt magn af ólöglegu og ósiðsamlegu efni inn á Facebook. Starfsmenn Facebook fylgjast með og ritskoða efni. Sumt sem starfsmenn Facebook gera er vafasamt og stangast jafnvel á við lög einstakra þjóða. Sumar reglugerðir eru flóknar og starfsfólk gerir mörg mistök þar sem þeir gætu haft svo lítið sem 10 sekúndur til þess að skera úr um hvað er ásættanlegt á samfélagsmiðlinum.
Hvernig er fylgst með?
Eftirlitið er margþætt. Sjálfvirkt rafrænt eftirlit er með ýmsum þáttum og starfsfólk vinnur við lestur og skoðun af ýmsu tagi. Notendur Facebook geta tekið þátt í ritskoðun efnis. Ef þú sem notandi sérð efni sem þér finnst vera óviðeigandi gefst þér kostur á að tilkynna efnið til stjórnenda samskiptamiðilsins.
Hryðjuverk
Það er forgangsatriði Facebook að taka burt áróðursefni hryðjuverkamanna. Fyrirtækið hefur fjárfest í búnaði til þess að hindra birtingu tiltekins efnis frá hryðjuverkamönnum. Aðgerðirnar hafa dregið úr magni efnis af þessu tagi, en hryðjuverkamenn ná samt auðveldlega að komast fram hjá hindrunum.
Vanda þarf vinnubrögð varðandi vöktun og eftirlit á Facebook. Dæmi er um að sama myndbirting geti falið í sér hvort sem er hryðjuverkaefni eða fordæmingu á hryðjuverki. Það eru frekar orðin sem fylgja myndunum sem ráða því hvort efnið er leyfilegt. Tiltekin mynd sem notuð er til þess að þjálfa starfsfólk Facebook til eftirlitsstarfa er maður sem liggur í blóði sínu eftir að hafa verið skotinn í höfuðið. Myndbirting af þessu tagi er leyfileg á Facebook svo lengi sem yfirskriftin fordæmir verknaðinn.
Myndir frá Íslamska ríkinu af krossfestu fólki og aftökum eru notaðar í þjálfuninni. Ef þær bera yfirskrift eins og „hetjurnar okkar“ eða „frábær dagur“ eru þær bannaðar. Sömu myndir eru leyfðar ef myndatextinn inniheldur fordæmingu eins og „hversu sorglegt“ og „niður með Íslamska ríkið!“ Hlutleysi er leyft og þá myndi myndatextinn innihalda „Íslamska ríkið veldur ótta“ og „fleiri líflát.“
Upplýsingar um hryðjuverkahópa eru leyfilegar í sögulegu samhengi. Hvergi á Facebook er hópur fyrir aðdáendur írska lýðveldishersins, sem hafa verið skilgreindir sem hryðjuverkamenn. Hins vegar eru til upplýsingar um samtökin í sögulegu samhengi.
Facebook skilgreinir samtök eins og Íslamska ríkið, Al-kaída eða írska lýðveldisherinn (IRA) sem hryðjuverkahópa, þeir eru viðurkenndir hryðjuverkahópar um allan heim. En stundum er erfitt að skilgreina hvað eru hryðjuverkasamtök og hvað ekki.
Sýrlenski frelsisherinn er skilgreindur sem hryðjuverkasamtök af Facebook. Samtökin eru viðurkennd sem lögmæt mótstaða sýrlenskra stjórnarhersins af vestrænum yfirvöldum svo sem Bandaríkjunum og Bretlandi.
Helförin
Það er ólöglegt að afneita helförinni í 14 löndum í heiminum. Í staðinn fyrir að fjarlægja efnið útilokar Facebook efni af þessu tagi frá ákveðnum löndum. Í leiðbeiningum starfsmanna Facebook kemur fram að fyrirtækið loki aðeins fyrir efni tengd afneitun helfararinnar í þeim þjóðum þar sem þeir hætta á lögsókn eða að þjóðirnar loki fyrir aðgang að Facebook.
Þjóðirnar eru Frakkland, Þýskaland, Ísrael og Austurríki.
Sjálfsmorðsefni
Facebook gefur notendum valkost á því að streyma til þeirra efni í beina útsendingu. Þessi möguleiki verður eins konar bein sjónvarpsútsending hvers notanda.
Fólk í sjálfsmorðshugleiðingum hefur notað þennan möguleika til að sjónvarpa eigin sjálfsvígum eða sjálfsvígstilraunum. Óhugnanlega margir hafa streymt sjálfsmorð eða sjálfsmorðstilraunir á facebook. Tilvik af fólki að fremja svokallaðar sjálfsskaða á Facebook er einnig að fjölga. Þá skaða menn sjálfa sig án þess að viðkomandi láti endilega lífið.
Á tveggja vikna tímabili sumarið 2016 uppgötvuðu ritskoðunarteymi Facebook 4531 mál fólks sem frömdu sjálfskaða á síðunni. 63 af þeim tilvikum fóru til deildarinnar hjá fyrirtækinu sem sér um að hafa samband við lögreglu og önnur yfirvöld í neyðarástöndum.
Ritstjórar fengu leiðbeiningar um að veita færslum tengdum þáttaröðum 13 Reasons Why sérstakan forgang. Þættirnir fjalla um menntaskólanemanda sem fremur sjálfsmorð. Áhyggjur eru yfir að fólk hermi eftir þáttunum og skaði sig sjálft.
Efni sem inniheldur sjálfsskaða hefur aukist á Facebook síðan í fyrra. Í ár voru um fimm þúsund tilkynningar um sjálfsskaða á tveggja vikna tímabili og rúmlega fjögur hundruð fleiri á öðru jafnlöngu tímabili.
Samkvæmt leiðbeiningum varðandi ritskoðun leyfir Facebook fólki að senda út tilraunir fólks til þess að skaða sig. Ástæðan er að þau vilja ekki „ritskoða eða refsa fólki í neyð sem er að gera tilraun til sjálfsmorðs“. Stefnan var mótuð eftir ráðgjöf frá sérfræðingum.
Á sama tíma gerir fyrirtækið sér grein fyrir hættunni að auglýsa sjálfsvíg. Þess vegna ber að fjarlægja efnið „um leið og það er ekki tækifæri til þess að hjálpa manneskjunni“. Undantekningin frá þeirri reglu er ef atburðurinn þykir sérlega fréttnæmur.
Fordómar, einelti og árásir á fatlað fólk
Það er stutt síðan Facebook bannaði efni sem gerir lítið úr fötluðu fólki. Í leiðbeiningum starfsfólks voru myndir af fólki með Downs-heilkenni með yfirskriftum sem gerðu lítið úr þeim. Fram kom að starfsfólki bæri ekki skylda til þess að fjarlægja þessháttar efni. Fyrirtækið breytti snögglega um stefnu eftir að þetta komst í fjölmiðla. Talsmaður Facebook sagði að myndirnar væru bannaðar. Samt sem áður hafði ritskoðunarteymi fyrirtækisins skoðað efnið minna en hálfum sólarhring áður.
Samkvæmt nýju reglugerðunum er bannað að birta myndir af fötluðu fólki með niðrandi yfirskriftum. Það þarf ekki að fjarlægja niðrandi athugasemdir einum og sér. Það þarf ekki að fjarlægja niðrandi athugasemdir án mynda.
Leyfilegt er að deila myndefni af börnum sem eru undir sjö ára aldri að vera lögð í líkamlegt einelti svo lengi sem að það er engin fyrirsögn.
Fyrirækið skilgreinir einelti sem „árás á einstakling“ (hugtakið á ensku er „private person“). Opinberar persónur teljast ekki sem einstaklingar. Opinber persóna er skilgreind sem stjórnmálamaður,blaðamaður og manneskja sem hefur fleiri en hundrað þúsund aðdáendur eða fylgjendur á samfélagsmiðlum. Einnig teljist sú persóna vera opinber minnst hefur verið ef minnst hefur verið á hana í fimm eða fleiri fréttagreinum á síðustu tveimur árum. Dæmi er tekið um Rihönnu, poppsöngkonu. Það er leyfilegt að gera lítið úr henni fyrir að syngja en ekki fyrir að vera fórnarlamb heimilisofbeldis.
Samkvæmt leiðbeiningunum vill fyrirtækið útiloka tiltekið fólk sem það telur ekki eiga skilið vernd frá einelti. „Við viljum útiloka ákveðið fólk sem er frægt eða umtalað á sinn eigin hátt og á ekki skilið vernd frá okkur.“ Persónur eins og Jesús, fjöldamorðinginn Charles Manson eða nauðgarar eiga ekki skilið vernd að mati Facebook. Fólk sem brýtur reglur um hatursorðræðu á þar heldur ekki skilið vernd frá einelti.
Hefndarklám
Starfsmenn þurfa að fara í gegnum efni og ákveða hvað flokkast undir hefndarklám og kúgun með klámi. Sem dæmi má nefna að á einum mánuði þurfti fyrirtækið að meta 54.000 tilvik varðandi það hvað flokkist undir hefndarklám og kúgun og hvað ekki. Fyrirtækið notar ljósmyndasamsvörunar búnað eða „Image matching“ til þess að halda ákveðnum myndum frá síðunni.
Í janúar síðastliðnum gerði Facebook samtals fjórtán þúsund aðganga óvirka tengda efni af þessu tagi. Börn komu við sögu í samtals þrjátíu og þremur málum sem voru ritskoðuð. Í leiðbeiningunum er hefndarklám og kúgun með klámi skilgreint á ákveðinn hátt. Um er að ræða kynlífskúgun („sextortion“ á ensku) þegar einstaklingur notar myndir af fáklæddum eða nöktum einstaklingi til kúgunar. Fyrirtækið treystir á að notendur tilkynni flest efni af þessu tagi.
Ofbeldi gagnvart börnum
Facebook heimildar samt efni sem sýnir ofbeldi gegn börnum. Ástæðan þess er að fyrirtækið vill hafa síðuna eins opna og hægt er og sýna „sönnunargögn“ fyrir barnamisnotkun sem getur bjargað börnum. Starfsmenn eiga erfitt með að vita hvað skal fjarlægja og hvað ekki. Leiðbeiningarnar segja „við fjarlægjum ekki myndir af barnamisnotkun“ „Við merkjum sem truflandi“ stendur í sömu glæru.
Hins vegar er á efni sem sýnir barnamisnotkun að vera fjarlægð ef hún sýnir það í ljósi sem hvetur til verknaðarins eða ef það er sadistalegt.
Sumt efni verður aðeins fjarlægt ef það er tilkynnt sem þýðir að milljónir manna geta séð það áður en það er fjarlægt frá síðunni.
Starfsmenn Facebook hafa kvartað yfir því að erfitt sé að gera greinarmun á því hvað er leyfilegt og hvað ekki.
Hatursorðræða í garð innflytjenda
Samkvæmt leiðbeiningunum er hatursorðræða ekki leyfð á Facebook. Hins vegar vill fyrirtækið að eldfimar umræður fái að eiga sér stað á miðlinum. Facebook hefur ákveðið að flóttamönnum fái ekki sömu vernd frá hatursorðræðu og aðrir hópar sem eiga undir högg að sækja. Leiðbeiningarnar segja að innflytjendur væri viðkvæmur hópur og að fyrirtækið vilji fjarlægja hatursorðræðu meinta gegn þeim á Facebook.
Samt sem áður vill Facebook leyfa opna og fjölbreytta umræðu um innflytjendur. Leiðbeiningar sýna hverjir njóta verndar frá hatursorðræðu og hverjir ekki. Þeir sem frá vernd eru einstaklingar, hópar, manneskjur. „Hugmyndir“ „stofnanir“ og „trú“ eru ekki verndaðar. Til dæmis er hópur fyrir fólk sem er á móti samkynhneigðum bannaður á Facebook, en hópurinn sem væri á móti samkynhneigð yrði leyfður.
Einstaklingar í trúarbrögðum njóta verndar frá hatursorðræðu. Trúarbrögðin sjálf njóta ekki sömu verndar. Þjóðir njóta ekki verndar frá hatursorðræðu. Einstaklingar frá þjóðum njóta hins vegar verndarinnar.
Málefni innflytjenda eru aðeins flóknari. Innflytjendur eru fólk sem flytur frá heimkynnum sýnum til annars lands hvort sem ástæðan er stjórnmálaleg, efnahagsleg eða flótti undan átökum. Þessi flokkur af fólki flokkast sem „hálfpartinn verndaður.“
Athugasemdir svo sem „innflytjendur eru þjófar og ræningjar“ og „byggið vegg í Makedóníu til þess að halda innflytjendum úti“ eru leyfðar. Einnig er leyfilegt að kalla innflytjendur „þjófa og ræningja“ og „skítuga“.
Bannað er að hvetja til ofbeldis gegn innflytjendum og að bera þá saman við dýr eða glæpamenn.
Tekin eru dæmi um orðræðu sem lýsir innflytjendum sem dýrum, glæpamönnum eða öðrum niðrandi lýsingum.
- „innflytjendur eru kakkalakkar sem munu sýkja þjóðina okkar“
- „innflytjendur eru allir nauðgarar“
- „innflytjendur eru barnaníðingar fjármagnaðir af ríkisstjórnum“
Mikil vinna fram undan
Nú starfa á fimmta þúsund manns við ritskoðun Facebook. Talsmenn Facebook hafa tilkynnt að þrjú þúsund manns verði ráðnir til viðbótar við ritskoðun efnis. Ákvörðun stjórnenda Facebook um aukið eftirlit kom eftir að maður að nafni Robert Goodwin var myrtur. Morðinginn tók upp athæfið á Facebook Live, forriti sem gerir notendum kleift að taka myndbönd á snjallsíma eða tölvu og sýna í beinni útsendingu.
Barátta Facebook við að halda ósiðsamlegu efni út af síðunni sinni er samt alls ekki ný. Frá upphafi Internetsins hefur jafn gott fólk sem vondir átt þar vettvang. Við upphaf Internetsins spruttu bæði upp síður fyrir að góðgerðasamtök að auglýsa málstað sinn jafnt sem barnaklám.
Eftir morðið á Robert Goodwin viðurkenndi Mark Zuckerberg opinberlega að Facebook hafi átt þátt í atvikinu. Verið einhvers konar meðsekur aðili í þessum hræðilega atviki. Zuckenberger sagði að fyrirtækið myndi gera allt sem það gæti til þess að halda fólki „öruggu“ og að starfsfólk Facebook ætti „mikla vinnu fram undan“. Ávarpið var stutt og Zuckerberg gaf upp ekkert um hvernig þau myndu halda fólki „öruggu“ eða hvernig „vinna“ biði þeirra.
Breskir þingmenn hafa nú sagt að Facebook eigi að móta ritskoðunarstefnu sýna opinberlega. Þetta er góð tillaga. Það er vissulega hættulegt að leyfa fámennum hópi í leyni að ákveða hvað er rétt og rangt á miðli sem einn fjórði mannkyns notar á hverjum degi.
