Ert þetta örugglega þú?

Nýlega fóru fram kosningar í Slóvakíu og hörð kosningabarátta. Meðal þess sem fór á kreik á samfélagsmiðlum var hljóðupptaka af stjórnmálamanni sem heyrðist leggja á ráðin um kosningasvindl. Í aðdraganda landsfundar Verkamannaflokksins í Bretlandi kom upp svipað tilvik þar sem hljóðupptaka af Keir Starmer flokksformanni komst í dreifingu. Á upptökunni heyrðist formaðurinn hella sér yfir undirmenn sína og fara ákaflega ófögrum orðum um Liverpool-borg, vettvang fundarins.

Báðar þessar upptökur fengu umtalsverða dreifingu áður en í ljós kom að þær voru falsaðar. Ómögulegt er að segja hvort allir þeir sem urðu fyrst fyrir hughrifum eða hneyksluðust á sviknu upptökunum hafi síðar fengið þær upplýsingar að um fölsun hafi verið að ræða. Eins er ómögulegt að vita hvort einhvers konar vanþóknun á framferði stjórnmálamannanna sitji eftir í huga þeirra sem til heyrðu, jafnvel þótt búið sé að meðtaka upplýsingarnar um að þeir hafi sjálfir ekki átt minnsta þátt í því sem fór fram á upptökunum. Það sem maður hefur einu sinni séð eða heyrt er erfitt að afmá með öllu, einkum ef það vekur sterkar tilfinningar.

Fyrsta viðvörunarmerkið

Fyrir mörg okkar var líklega fyrsta viðvörunarmerkið um getu gervigreindar til blekkinga tölvuteiknuð mynd af Frans páfa íklæddum hvítri dúnúlpu af dýrustu gerð. Myndin fór eins og eldur í sinu um heimsbyggðina, enda leit páfinn sérlega reffilega út þótt svo óhemjudýr smekkur á yfirhöfn þætti eflaust ekki passa vel við áherslur hans á hlutskipti þeirra fátæku. Myndin var líka fölsun, sköpuð af gervigreind. Þetta var um miðjan mars þegar Chat GPT 4 kom út. Þá varð mikil umræða um stöðu gervigreindar. Mörgum var brugðið við að sjá hversu langt tæknin væri þá þegar komin og undirituðu hundruð sérfræðinga áskorun um að frekari þróun gervigreindar yrði umsvifalaust stöðvuð. Þá hafa ýmsir af þeim sem hafa átt hvað mestan þátt í þróun gervigreindar hingað til verið háværir í yfirlýsingum um að mannkyninu stafi raunveruleg og grafalvarleg hætta af stjórnlausri þróun þessarar tækni.

Í vikunni fór fram ráðstefna í Bretlandi þar sem rætt var um framtíð gervigreindar. Þar undirrituðu fulltrúar 25 ríkja sameiginilega yfirlýsingu þar sem rætt var um þau tækifæri sem geta falist í henni fyrir mannkynið, en þar var einnig að finna mjög alvarleg viðvörunarorð, meðal annars vegna getu gervigreindarinnar til þess að framleiða efni sem er nánast (eða algjörlega) óþekkjanlegt frá raunveruleikanum. Rishi Sunak forsætisráðherra sagði í ávarpi sínu að gervigreindin fæli í sér hættu sem væri sambærileg við kjarnorkustríð.

Æsir og blekkir

Í skoðanagrein í dagblaðinu The Times í þessari viku skrifar William Hague, fyrrverandi formaður Íhaldsflokksins, að stærsta og nærtækasta hættan sem stafar af gervigreindinni sé að með henni sé hægt að ýfa upp illdeilur í samfélögum og hrekja sífellt fleiri út á ystu jaðra öfganna. Ef ekki er gætt að því að setja upp varnir má auðveldlega gera sér í hugarlund að hægt sé að sníða gervigreind þannig að hún dæli fölsuðu og sérsniðnu efni til fólks í því skyni að æsa upp tilfinningar og blekkja fólk til þess að sjá hluti frá sífellt þrengra sjónarhorni. Með gervigreind er hægt að skrifa falsfréttir þannig að þær snerti sem allra mest við einstaklingum og spili á tilfinningar, fordóma og veikleika hvers og eins okkar. Við blasir að ekki er hægt að láta þessa þróun eiga sér stað án þess að ábyrg stjórnvöld taki sig saman um að koma í veg fyrir að upplifun fólks af raunveruleikanum mengist svo af slíkum fölsunum að ekki sé mögulegt að taka upplýstar og þroskaðar ákvarðanir.

Gervigreindin felur vitaskuld í sér einnig margvísleg loforð um ótrúlegar framfarir, til dæmis á sviði heilbrigðismála. Gervigreind nær framúrskarandi árangri við greiningu sjúkdóma og vonir eru um að með henni verði hægt að flýta mjög þróun lyfja sem munu gera kraftaverk. Óteljandi önnur gagnleg not munu finnast fyrir gervigreind en forsenda þess að hún verði mannkyninu til heilla mun þó alltaf verða að hún lúti mennskri stjórn og ábyrgð; að fólk geti greinilega séð hvort efni sé raunverulegt eða gervi; að henni séu sett takmörk þannig að hún nýtist í þágu mannkyns og mannlegrar reisnar; og að gerviheimur hennar verði ekki allsráðandi gagnvart hinum ófullkomna og fallega raunveruleika sem er fyrir utan tölvu- og símaskjáina sem heimta sífellt stærri hluta af athygli okkar og vitund.