Þessi færsla er úr eldra greinasafni Kjarnans og gæti þess vegna birst furðulega.

Drápsvélmenni eyða mönnum innan 5 ára

000-Was8871384.jpg
Auglýsing

Elon Musk, forstjóri og eigandi SpaceX og Tesla Motors, hræddi netnotendur á dögunum þegar hann skrifaði athugasemd við framtíðarhugmyndasíðuna Edge.com. Þar fullyrti hann að þróun gervigreindar væri orðin svo hröð að vélmenni gætu hvað á hverju ákveðið að skynsamlegt væri að útrýma mannkyninu.

„Hættan á að eitthvað svo stórvægilegt gerist er innan fimm ára tímaramma,“ skrifaði Musk og bætti við, til að koma í veg fyrir að netverjar færu að draga hann í efa, að hann vissi nákvæmlega hvað hann væri að segja. „Það er ekki eins og ég sé að kalla „úlfur, úlfur“ um eitthvað sem ég skil ekki.“

Það er ekki eins og ég sé að kalla „úlfur, úlfur“ um eitthvað sem ég skil ekki.

Auglýsing

Nokkrum mínútum eftir að hann birti athugasemdina á vefnum var henni eytt. Frá þessu er greint á vef Business Insider. Musk hefur nokkrum sinnum áður tjáð sig um hættuna á að vélmenni snúist gegn mannkyninu.

Á ráðstefnu Vanity Fair í október ræddi Musk til að mynda um það hvernig gervigreind mundi á endanum ganga frá mannkyninu. „Ég held að enginn átti sig á því hversu hratt stór skref eru stigin í þróun gervigreindar, sérstaklega þegar litið er til véla sem eiga að sjá um sig sjálfar og bæta.“

„Ef verkefni vélar er að eyða öllum ruslpósti í tölvupósthólfinu, gæti vélin allt eins komist að niðurstöðu um að hægt væri að eyða ruslpósti með því að eyða mannfólki,“ sagði Musk á ráðstefnunni og bætti að lokum við að hann teldi Jarðarbúa ekki hafa neinar undankomuleiðir, jafnvel þó við myndum setjast að á Mars. „Nei, það er líklegra en hitt, ef við horfumst í augu við tortímingu, að vélarnar fylgi okkur frá Jörðu.“

Viðtalið við Elon Musk á ráðstefnu Vanity Fair


[embed]https://www.youtube.com/watch?v=Ze0_1vczikA[/embed]

Athugasemd Musk í heild sinni


Undir færslu á Edge.com
The pace of progress in artificial intelligence (I'm not referring to narrow AI) is incredibly fast. Unless you have direct exposure to groups like Deepmind, you have no idea how fast-it is growing at a pace close to exponential. The risk of something seriously dangerous happening is in the five year timeframe. 10 years at most. This is not a case of crying wolf about something I don't understand.

I am not alone in thinking we should be worried. The leading AI companies have taken great steps to ensure safety. The recognise the danger, but believe that they can shape and control the digital superintelligences and prevent bad ones from escaping into the Internet. That remains to be seen...

Styrkir þú Kjarnann?

Kjarninn reiðir sig á framlög lesenda. Með því að styrkja Kjarnann mánaðarlega tekur þú þátt í að halda úti öflugum fjölmiðli.

Kjarninn hefur verið til taks fyrir kröfuharða lesendur í sjö ár og býður almenningi upp á vandaða umfjöllun þar sem áhersla er á gæði og dýpt.  

Ef þú ert nú þegar styrkjandi leyfum við okkur að benda á að hægt er að óska eftir að hækka styrkinn með því að senda póst á takk@kjarninn.is


Já takk, ég vil styrkja Kjarnann!
Skriður á rannsókn saksóknara og skattayfirvalda á meintum brotum Samherja
Bæði embætti héraðssaksóknara og skattrannsóknarstjóri hafa yfirheyrt stjórnendur Samherja. Embættin hafa fengið aðgang að miklu magni gagna, meðal annars frá fyrrverandi endurskoðanda Samherja og úr rannsókn Seðlabanka Íslands á starfsemi fyrirtækisins.
Kjarninn 23. júní 2021
Katrín Jakobsdóttir, forsætisráðherra.
„Eðlilegt að draga þá ályktun að verðið hafi hækkað vegna áhuga á útboðinu“
Forsætisráðherra segir að það bíði næstu ríkisstjórnar að ákveða hvort selja eigi fleiri hluti í Íslandsbanka. Salan hafi verið vel heppnuð aðgerð.
Kjarninn 23. júní 2021
Jenný Ruth Hrafnsdóttir
Ísland - Finnland: 16 - 30
Kjarninn 23. júní 2021
Þórólfur Guðnason sóttvarnalæknir.
Engin smit út frá bólusettum með virkt smit – „Hver er þá áhættan? Mikil eða lítil?“
Ellefu bólusettir einstaklingar hafa greinst með veiruna á landamærunum. Engin smit hafa hins vegar greinst út frá þeim. Sóttvarnalæknir segir enn óvíst hvort smithætta fylgi bólusettum með smit en að hún sé „alveg örugglega“ minni en frá óbólusettum.
Kjarninn 23. júní 2021
Benedikt Jóhannesson hefur veifað bless við framkvæmdastjórn flokksins sem hann var aðalhvatamaðurinn að því að stofna.
Hefur sagt sig úr framkvæmdastjórn og segir framgöngu formanns mestu vonbrigðin
Fyrrverandi formaður Viðreisnar telur að atburðarás hafi verið hönnuð til að koma ákveðnum einstaklingum í efstu sætin á lista flokksins á höfuðborgarsvæðinu og halda öðrum, meðal annars honum, frá þeim sætum.
Kjarninn 23. júní 2021
Drífa Snædal, forseti ASÍ.
ASÍ hvetur forsætisráðherra til að beita sér fyrir alþjóðlegum fyrirtækjaskatti
Verkalýðshreyfingin kallar eftir því að lagður verði á 25 prósent skattur á hagnað alþjóðlegra stórfyrirtækja þar sem hann verður til.
Kjarninn 23. júní 2021
Viðskipti hófust með bréf Íslandsbanka í gær.
20 fjárfestar keyptu rúmlega helminginn af því sem selt var í Íslandsbanka
Búið er að birta lista yfir stærstu eigendur Íslandsbanka. Auk ríkisins eiga lífeyrissjóðir og erlendir fjárfestingarsjóðir stærstu eignarhlutina. Margir einstaklingar leystu út hagnað af viðskiptunum í gær.
Kjarninn 23. júní 2021
Engin ákvörðun hefur enn verið tekin um hvort og þá hvenær farið verður að bólusetja börn við COVID-19 á Íslandi.
Ráðleggja óbólusettum – einnig börnum – frá ónauðsynlegum ferðalögum
Sóttvarnarlæknir segir þær ráðleggingar embættisins að óbólusettir ferðist ekki til útlanda gildi einnig fyrir börn. Engin ákvörðun hefur enn verið tekin um almenna bólusetningu barna.
Kjarninn 23. júní 2021
Meira úr sama flokkiGræjur
None