2084

Heimurinn stendur á tímamótum. Þróun gervigreindar, sívaxandi óstöðugleiki í alþjóðakerfinu og hnignun lýðræðislegra stofnana teikna upp framtíð sem minnir óþægilega mikið á dystópíska frásögn úr fortíðinni. Þegar George Orwell gaf út 1984 árið 1949 var verkið viðvörun, mynd af heimi þar sem alræðisvaldið hefur algjöra stjórn á hugsunum og lífi borgaranna. Spurningin sem við þurfum að velta fyrir okkur í dag er: Hvaða afleiðingar hefur það fyrir frelsi einstaklingsins og lýðræðislega framtíð okkar ef við látum þróun gervigreindar, alþjóðlegan óstöðugleika og hnignun lýðræðislegra stofnana halda áfram án aðgerða?

Ég hef oft hugleitt þessa spurningu síðastliðin ár, sérstaklega eftir að hafa sjálfur leikið Winston Smith í leikriti byggðu á 1984. Það var óhugnanlegt að lifa sig inn í tilveru manns sem reynir að halda í sjálfstæða hugsun í heimi þar sem sögunni er stöðugt breytt og sannleikanum útrýmt. En sá veruleiki sem Orwell lýsir er ekki fjarlæg ímyndun heldur áminning um hvað getur gerst ef við glötum frelsinu til sjálfstæðrar hugsunar.

Yuval Noah Harari, í bók sinni 21 Lessons for the 21st Century, varar við því að gervigreind og upplýsingatækni veiti stjórnvöldum og stórfyrirtækjum áður óþekkt tól til að stjórna hugsunum og atferli einstaklinga. Við stöndum á þröskuldi nýs tímabils í mannkynssögunni þar sem hugmyndir um einstaklingsfrelsi og gagnrýna hugsun verða smám saman kæfðar og þá ekki endilega með kúgun, heldur með þægindum og sjálfgefnum sannleika sem algóritmar bjóða okkur upp á.

Ef við lítum sirka 60 ár fram í tímann, til ársins 2084, hver verður staða lýðræðisins þá? Verður heimurinn enn bundinn af þjóðríkjum og lýðræðislegum stofnunum, eða munu alþjóðleg ofurríki stjórna tilveru okkar með tæknilegum yfirburðum? Ef þróunin heldur áfram á þessari braut má sjá fyrir sér samfélag þar sem borgararnir hafa misst getu til sjálfstæðrar hugsunar. Þegar öll samskipti, fréttir og viðhorf eru mótuð af gervigreindarkerfum sem velja hvað við sjáum og trúum, hvað verður þá eftir af hugmyndinni um meðvitaðan einstakling?

Við sjáum nú þegar merki þess að lýðræðið stendur á brauðfótum og stöðugleikinn í alþjóðastjórnmálum fer hnignandi. Í Bandaríkjunum hefur klofningur þjóðarinnar aukist svo mikið að grundvallargildi lýðræðisins eru í hættu. Donald Trump hefur sett tóninn fyrir næstu ár, tími einangrunarhyggju er hafinn. Hver sér um sig. Það er erfitt fyrir lítið land eins og Ísland að segja til um hvar það stendur gagnvart Bandaríkjunum þegar ákvarðanir þess lands eru bundnar geðþótta eins manns. Er það raunverulegt lýðræði?

Ef einangrunarhyggjan heldur áfram verður minna um sameiginlega hagsmuni. Alþjóðahyggjan hefur áratugum saman byggt upp traust og samstarf í gegnum frjáls viðskipti, en með minnkandi samvinnu ríkja skapast hætta á því að öflugar blokkir taki yfir eða þá að örfá ofurríki með bestu gervigreindina stjórni heiminum. Evrópa er nú þegar langt á eftir Bandaríkjunum og Kína í nýsköpun og þróun gervigreindar og ef við Íslendingar erum ekki á tánum gætum við átt á hættu að verða háð tæknirisum og erlendum stórveldum.

Íslendingar þurfa að spyrja sig: Hvar ætlum við að staðsetja okkur í þessum nýja heimi? Við erum lítil þjóð án hers úti í miðju Atlantshafi. Við þurfum að huga að því hvernig við tryggjum öryggi okkar og efnahagslega framtíð. Sennilega er okkar sterkasta spil í þessari þróun endurnýjanleg orka og möguleikinn á gagnaverum sem geta veitt stórum tæknifyrirtækjum örugga og umhverfisvæna þjónustu. Jafnframt gætum við notið góðs af landfræðilegri stöðu okkar þegar kapphlaupið um auðlindir og siglingaleiðir á norðurslóðum eykst. En til þess að geta tekið skynsamlegar ákvarðanir þurfum við að hugsa langt fram í tímann og þróa skýra stefnu.

Það er auðvelt að sjá allt svart þegar við veltum þessum breytingum fyrir okkur, en við megum ekki gleyma því að gervigreindin skapar líka fjölmörg tækifæri fyrir mannkynið. Á sviðum vísinda og nýsköpunar hefur gervigreind þegar fært okkur byltingarkenndar lausnir sem geta lengt líf okkar og aukið lífsgæði okkar og skilning á heiminum. Ef við nýtum hana rétt getur hún orðið eitt mesta framfaraskref mannkynssögunnar. En það krefst þess að við höfum skýra sýn á hvernig við viljum stjórna þessari þróun og hver gildi okkar eru í þessum nýja heimi.

Enn er von. Framtíðin er ekki fyrir fram ákveðin. Við höfum enn vald til að móta örlög okkar ef við tökum meðvitaðar ákvarðanir um að verja lýðræðisleg gildi, menntun og fjölmiðlaumhverfi sem ýta undir sjálfstæða hugsun og opna umræðu sem hafnar yfirborðskenndum slagorðum popúlista. Til að koma í veg fyrir þessa ógnvænlegu framtíð þurfum við að krefjast gagnsæis í þróun og notkun gervigreindar, standa vörð um frjálsa fjölmiðlun og tryggja að menntakerfið þjálfi unga kynslóð í gagnrýnni hugsun. Án vitundarvakningar og skýrra aðgerða núna gætum við vaknað upp árið 2084 og áttað okkur á að við glötuðum frelsinu án þess að taka eftir því.

Spurningin sem við verðum að svara er einföld: Viljum við lifa í heimi þar sem við stjórnum eigin örlögum, eða vera verkfæri í kerfi sem hugsar fyrir okkur? Ef svarið er hið síðarnefnda er 2084 ekki fjarlæg framtíðarsýn, heldur óhjákvæmileg örlög okkar allra.