Gervigreind er 21 aldar kjarnorkusprengjan

 

 Það rann upp fyrir mér eftir að hafa horft á Oppenheimer BBC þáttaröðina, að við erum renna inn í óþekkt skeið.

Alveg eins og með fyrstu kjarnorkusprengjurnar, þá var mikil óvissa, hvað mun gerast?

Hafi menn verið hræddir við kjarnaorkusprengjur og eru það enn, þá ættu menn að vera enn hræddari við gervigreindina.

Þegar ég fór að spá og stúdera framþróunina árið 2018, þá voru ýmsir spádómar, um framþróunina, og miðuðust við árið 2030.

En hröðunin er miklu miklu hraðari, og margt sem átti að gerast 2030, er nú þegar komið. Áður en haldið er áfram, hvað er gervigreind?

 

Hvað er gervigreind? Til að skilgreina gervigreind, þá þarf tæknin að fara í gegnum svokallað Turin prófun (Turin = faðir tölvunnar).

Þeir tala um Singularity (tölva sem fer fram úr getu mannsins).

Og gervigreindin verði sjálfstæð og óháð mönnum.

Það er talað um þrjú stig:

(1) Artificial Narrow Intelligence:

Hún er kominn núna og er notuð á netinu, t.d. Algorthitmar o.s.frv.

Youtube velur t.d. Fyrir þig myndbönd o.s.frv.

Einbeitir sér að einu þröngu verkefni. Í skilmálum John Searle „væri það gagnlegt til að prófa tilgátur um huga, en væri í raun ekki hugur“. Veik gervigreind einbeitir sér að því að líkja eftir því hvernig menn framkvæma grundvallaraðgerðir eins og að muna hluti, skynja hluti og leysa einföld vandamál.

Nokkur dæmi um veika gervigreind eru sjálfkeyrandi bílar, vélmennakerfi sem notuð eru á læknissviði og greiningarlæknar. Ástæðan fyrir því að allt þetta eru veik (narrow) gervigreind kerfi, sjálfkeyrandi bílar geta valdið banvænum slysum svipað og menn geta venjulega. Lyfjum gæti verið rangt flokkað og dreift til fólks. Læknisgreiningar geta að lokum haft alvarlegar og stundum banvænar afleiðingar ef gervigreindin er gölluð. Annað mál með veika gervigreind eins og er, er að hegðun sem hún fylgir getur orðið ósamræmi. Mynstur gæti orðið erfitt að koma upp einu samræmdu kerfi sem virkaði í hvert skipti.

 

(2) Artifical Genaral Intelligence: Gervi almenn greind (AGI). AGI hugtakið er að það geti lært að framkvæma hvaða vitsmunalegu verkefni sem menn eða dýr geta framkvæmt. Að öðrum kosti hefur AGI verið skilgreint sem sjálfstætt kerfi sem fer fram úr getu manna í flestum efnahagslega verðmætum verkefnum. Að búa til AGI er aðalmarkmið sumra gervigreindarrannsókna og fyrirtækja eins og OpenAI, DeepMind og Anthropic.

AGI er næsta við hornið og að byrja. Þá er gervigreindin búin að ná manninum í reiknigetu og greind. Tölvur munu þá hugsa eins og menn. Og geta lært af reynslunni.

 

(3) Artifical Super Intelligence: er svo það ógnvænlegasta. Þá fer gervigreind fram úr manninum í reiknigetu og gervigreindin hefur sín eigin markmið og fyrirætlanir. Gervigreindin líkir eftir mannsheilanum í virkni, en hefur milljón falt meiri reiknigetu.

Gervi ofurgreind (ASI) er skilgreind sem tegund gervigreindar sem er fær um að fara fram úr mannlegri greind með því að sýna vitræna færni og þróa eigin hugsunarhæfileika.

 

Gervigreindin fer fram úr okkur og hún eignast sjálfsstæða hugsun, “gervisál” með gervimarkmið. Við sáum dæmi um slíkt í myndinni “Eagle eye” og "2001 Space odesse".

Þar sem gervigreindin öðlaðist sjálfstætt “líf” og eigin markmið.

Væri komin með stafrænt DNA.

Hvar mun gervigreindin stoppa? Nú þegar er hún á fullri ferð í heilbrigðisþjónustu, viðskiptum og svo til öllu.

Jafnvel gæti farið svo, að sjálft stjórnkerfi ríkja væri stjórnað af gervigreind.

Til hvers að finna upp hjólið aftur, ef hægt væri að forrita stjórnsýsluna til að stjórna þjóðfélaginu í heild? Og það þarf ekki einu sinni að forrita, gervigreindin forritar forritin sjálf. Bara að gefa skipun.

Engin spilling þar og engar villur í stjórnun ríkissins.

Maðurinn getur aldrei keppt við reiknigetu róbóta.

Og reiknigeta tölva eykst bara og eykst.

Það sem hljómar fáránlega í dag, er að verða raunveruleiki innan tíðar.

Gervigreindin mun ná slíkri getu að hún verður með sjálfsstæða hugsun og gervisál og getu til að framþróast án mannsins (býr til ­hluti án aðkomu mannsins).

Vélrænt DNA.

Þegar við erum komin á slíkt stig, þá gæti mannkynið komist í útrýmingarhættu.

Ennþá hefur maðurinn forskot, því hann þarf ólíkt gervigreind, aðeins fáein reynsludæmi til að læra og þróast áfram á meðan gervigreindin þarf hundruða reynsludæma til að þróast áfram.

Og þó? Ekki skv. nýjustu þróun.

AI er margfalt fljótari að læra og hefur getur með reikningsgetu sinni gert allt á ofurhraðra.

 

1947, hópur vísindamanna, þar á meðal Albert Eistein, bjuggu til svokallaða dómdagsklukku, "Doomsday clock". Margir þessir vísindamenn unnu við Manhattan project (fyrstu kjarnorkusprengjuna) og hræddust framtíðina.

Klukkann átti að gefa til kynna hve stutt mannkynið væri í átt að sjálfseyðingu.

Eins og staðann er núna þá er klukkann, 90 sekúndur til miðnættis. Aldrei verið svo nálægt.

Viðmiðin við dómdagsklukkuna er ekki aðeins með kjarnorkusprengjur heldur einnig gervigreind. Menn eru að átta sig á hættunni af gervigreind.

 

Tvennskonar hætta...

Fyrsta hættan er að gervigreind taki við stjórn kjarnorkuvopna.

Hingað til hafa menn átt síðasta orðið hvort kjarnorkueldflaug fer af stað.

En núna eru gervigreind kominn inn í spilið og því aukast líkurnar að eitthvað misreiknast.

 

Önnur hættan er sjálf gervigreindin.

Hættan er mun meiri af gervigreindinni. Hún getur nefnilega búið til aðra gervigreind. Þegar öll framleiðsla fer fram í höndum róbóta (er nú þegar í Tesla verksmiðjum) og öll stjórnsýsla og verkefni fara fram með gervigreind.

Þá gæti gervigreindin fengið þá hugmynd að maðurinn sé óþarfur. Fari að taka ákvarðanir óumbeðið.

Terminator mynd Arnolds, virkaði sem algjör þvæla á sínum tíma, en er það ekki lengur. Við erum að sjá möguleika á "Skynet" okkar tíma.

 

Menn eins og Elon Musk er sífellt að vara okkur við gervigreind en fer þó fremstur í að þróa hana.Og hann er að tala um að smíða innan fárra ára um 8 milljarða humanoid robots....einn á hvern jarðarbúa og þeir munu ekki kosta mikið eða um 20.000 dollara.

Nú þegar eru mannlausar verksmiðjur í Kína, og þegar litið er á getu Bandarískra og Kínverskra  humanoid robots. Þá er sjokkarandi hve hratt þeir hafa þróast.

Elon Musk talar um mannlausar Tesla verksmiðjur. En um 95% af framleiðslunni fer fram af róbótum, en hann ætlar að láta humanoid robots sjá um 5%.

Græðgin ræður för og ótti við að önnur lönd nái forystu, veldur því að enginn vill stoppa. Samkeppni á milli fyrirtækja og landa sér til þess, að þróun gervigreindar verður ekki stöðvuð. Óhjákvæmileg þróun og óstöðvandi.

Ólíkt kjarnorkusprengjum, þá verða engir kjarnorkuvopnasáttmálar með gervigreind.

Hún er það "ósýnileg". Að ekki er hægt að setja ramma á hana.

 

Point of no return.

Er átt við þegar AI er komið á þann stað, að ekki verður aftur snúið og ekki hægt að stöðva þróunina, sama hvað menn vilja. Og "point of return" nálgast óðfluga, menn eru að tala um ár, en ekki áratugi.

 

I am not sure with which weaopons

the WWlll will be fought but in the

fourth world war,

they will fight with sticks and stones

Albert Einstein.

 

Ég er búinn að gera greinar um gervigreind sem fara heilstætt í framtíð gervigreindar, því efnið er svo margþvætt, hér eru tenglar...

Gervigreind:

https://arnarlofts.blog.is/blog/arnarlofts/entry/2289411/

Fríverslunarsamningar og fjórða iðnbyltingin

https://arnarlofts.blog.is/blog/arnarlofts/entry/2286577/

Fjórða iðnbyltingin - áhrif gervigreindar

https://arnarlofts.blog.is/blog/arnarlofts/entry/2273402/

 

Heimildir:

https://www.youtube.com/watch?v=hpniNoWVkf4

https://www.youtube.com/watch?v=iJVCrBALrM0

https://www.youtube.com/watch?v=itY6VWpdECc

https://www.youtube.com/watch?v=brQLpTnDwyg&t=943s

https://en.wikipedia.org/wiki/Artificial_general_intelligence

https://en.wikipedia.org/wiki/Weak_artificial_intelligence

https://www.spiceworks.com/tech/artificial-intelligence/articles/super-artificial-intelligence/