Karl Guðmundur Friðriksson og Sævar Kristinsson
Gervigreindin (AI) er nú á hraðri siglingu í átt að einni róttækustu tækniframför mannkynssögunnar: almennri gervigreind (e. Artificial General Intelligence, AGI). Þessi tegund gervigreindar er ekki lengur fjarlæg framtíðarsýn heldur raunveruleiki sem sérfræðingar telja að geti orðið að veruleika innan áratugarins. Með stuðningi gríðarlegra fjárfestinga og kraftmikillar nýsköpunar stendur mannkynið frammi fyrir djúpstæðum umbreytingum – en einnig áður óþekktri áhættu.
AGI mun geta leyst fjölbreytt vitræn verkefni jafn vel og maðurinn – eða betur. Þannig getur hún eflt vísindalegar rannsóknir, bætt lýðheilsu, aukið framleiðni og stuðlað að því að heimsmarkmið Sameinuðu þjóðanna um sjálfbæra þróun náist. Tækifærin eru því mikil og í sögulegu samhengi gæti AGI orðið ein áhrifamesta umbylting mannkynsins á sviði tækni.
En jafnframt vofir yfir hætta sem ekki má líta fram hjá. Ólíkt hefðbundinni gervigreind gæti AGI tekið ákvarðanir og framkvæmt aðgerðir sjálfstætt, án mannlegrar aðkomu eða stjórnunar. Slík geta gæti leitt til skaðlegra og jafnvel óafturkræfra afleiðinga – eins og ógnar frá sjálfstæðum vopnakerfum eða innbrotum í viðkvæma innviði. Slíkar afleiðingar gætu haft alþjóðleg áhrif sem erfitt væri að bregðast við eftir á.
Skýrslan leggur til að Sameinuðu þjóðirnar bregðist tafarlaust við. Lagt er til að allsherjarþingið haldi sérstakan fund um AGI til að ræða bæði ávinning og áhættu. Þar yrði jafnframt rædd stofnun alþjóðlegrar AGI-vöktunarstofnunar, vottunarkerfis fyrir örugga og áreiðanlega AGI, mögulegur fjölþjóðasamningur um AGI og stofnun sérstæðrar AGI-stofnunar innan Sameinuðu þjóðanna.
Ef heimurinn bregst ekki við með sameiginlegum og samræmdum aðgerðum getur samkeppni ríkja og stórfyrirtækja ýtt undir áhættusama þróun sem gæti grafið undan öryggi, aukið spennu í samskiptum ríkja og skapað glundroða. Með sameiginlegum aðgerðum má hins vegar tryggja örugga þróun og notkun AGI, sanngjarna dreifingu ávinnings hennar og alþjóðlegan stöðugleika.
Þessa skýrslu má nálgast á vef Framtíðarseturs Íslands,
www.framtidarsetur.is, og á vef Sameinuðu þjóðanna, www.uncpga.world/agi-uncpga-report. Á vef Framtíðarsetursins er einnig að finna skýrsluna State of the Future sem unnin er af samstarfsaðila setursins, The Millennium Project, en hún fjallar um umbreytingar í samfélögum og þar á meðal þróun gervigreindar og tækifæri tengd henni. Að auki er rétt að benda á nýlega skýrslu frá Dubai Future Foundation, Meginstraumar hnattrænna breytinga, einnig á vef setursins. Sú skýrsla fjallar um ýmsar framtíðaráskoranir og þar á meðal tækifæri sem tengjast þróun gervigreindar.
Nú reynir á samstöðu og forsjálni því hvernig við tökumst á við AGI getur ákvarðað velferð okkar til framtíðar.
Karl er framkvæmdastjóri Framtíðarseturs Íslands. Sævar er ráðgjafi hjá KPMG.