Árás risavöxnu gervigreindarinnar

Gervigreind er þekkt grýla í vísindaskáldskap. Hugsaðu til dæmis til HAL 9000 í „2001: A Space Odyssey“, eða Skynet í „Terminator“-myndunum. Sálarlausu, illu tölvuna sem við búum til og launar fyrir sig með því að útrýma okkur. Og einmitt núna er varla hægt að fara á netið án þess að rekast á nokkrar fyrirsagnir um nýjustu afrek gervigreindar. Erum við að loka augunum fyrir okkar eigin sólarlagi og ættum við að eiga nokkrar óleysanlegar rökfræðigátur til á lager þegar brauðristar og símar gera uppreisnir gegn okkur?

Hvað er gervigreind nákvæmlega? Til eru mörg fræðileg stig gervigreindar, allt frá klárum Excel-skjölum og yfir í Deep Thought-greindina. Einmitt núna virðist gervigreind hins vegar vera ótrúlegt töfraorð sem þú getur bætt við hvaða viðskiptahugmynd sem er til þess að auka áhuga fjárfesta.

GPT/tungumálsmódelin sem eru vandræðagemlingar bransans í dag eru ekki Skynet. Þau eru mjög fær í því að taka gagnasafn og búa til niðurstöður sem herma eftir því gagnasafni, þar á meðal því að skapa myndir eða skrifa textabrot um tiltekið viðfangsefni í ákveðnum stíl. Þessi kerfi eru framúrskarandi öflug í því að sinna vélrænum verkefnum og eiga aðeins eftir að verða betri. Það er hins vegar engin meðvitund að verki í ferlinu. Það er ekkert í hjarta algóritmans sem skilur hvað hann er að gera og það leiðir til vandamála þegar kemur að því að nota forritið í eitthvað þar sem skilningur skiptir máli.

Þegar borin er upp spurning við slíkt forrit þá mun það reiða fram svar óháð því hvort svarið er rétt eða hvort til er eitthvert svar yfirhöfuð. Þegar slík forrit eru beðin um að færa rök fyrir máli sínu munu þau einfaldlega halda áfram að spinna í samræmi við það hvernig svör við slíkum spurningum eiga að líta út samkvæmt gagnasafninu sem þau styðjast við, algjörlega ótengt því hvað gæti verið „satt“.

Þetta leiðir til aukaverkana á borð við þær að búa til tilvísanir í fræðimenn upp úr skálduðum rannsóknum og nota þær sem heimildir fyrir tilteknum niðurstöðum. Þetta gerist vegna þess að algóritminn er ekki hannaður til þess að koma með rétt svör heldur aðeins framleiða svör sem líta út eins og rétt svör að forminu til. Í ljósi þess að gagnasafn slíkra forrita inniheldur mikið magn af svörum fólks við sambærilegum spurningum getur það alveg gerst að svarið sé satt og rétt, en það er hins vegar bara tilviljun. Tungumálslíkönin geta hvorki vitað né haft neina skoðun á því hvort svarið sé rétt.

Meginvandamálið liggur þannig ekki í algóritmanum, heldur í því hvernig talað er um hann sem „gervigreind“. Þegar það er engin meðvitund til staðar um samhengi hlutanna hverju sinni, heldur aðeins reglur byggðar á texta og myndum, þá getur engin greind verið að verki. Þegar gengið er út frá því að einhvers staðar í ferlinu sé þessi „greind“ að störfum leiðir það til þess að slíkum kerfum eru falin afar óviðeigandi verkefni, svo sem að skrifa lögfræðileg skjöl eða leiðarvísa um ætilega sveppi. Þau „vita“ ekki hvað er löglegt og hvað er óhætt að borða. Kerfin styðjast aðeins við mynstur sem sýna hvernig slík skjöl líta jafnan út.

Þetta er hættan sem stafar af gervigreind í núverandi mynd: Ekki sú að venjulegt spjallmenni muni þurrka mannkynið út af yfirborði jarðar, heldur að þessi verkfæri geta svo auðveldlega magnað upp mannleg mistök. Annað hvort veitum við ónákvæm fyrirmæli eða notum gervigreind í röngum tilgangi.

Gervigreind á borð við ChatGPT er ekki læknisfræðilegt greiningartæki, sálfræðingur eða staðgengill blaðamennsku eða fræðilegra rannsókna. Allar þessar iðjur krefjast skilings á samhengi sem módelið ræður ekki við. Á hinn bóginn hefur verið gefið í skyn að fela eigi greindinni þessi störf vegna þess að hún getur skilað gífurlegum afköstum á afar hagkvæman hátt í samanburði við manneskjur. Líklega munu þær raddir því heyrast áfram að fela eigi slíkum módelum alls konar fleiri störf sem þau ráða ekki vel við.

Önnur og heldur heimspekilegri spurning sem varðar þessi gervigreindarmódel er hversu vel þau vinna undir álagi. Ekki svo að skilja að slík módel geti í raun og veru beinlínis verið undir álagi, en til er þekkt mál, þar sem módel brást illa við ögrun, sakaði viðmælanda sinn um glæpi og krafðist þess að hann yfirgæfi makann sinn til að byrja nýtt líf með sér. Þetta er auðvitað allt saman mjög fyndið.

Það sem sló mig við þau samskipti voru brögðin sem forritið beitti. Ofstopi, óvæntar ásakanir og að koma sér undan því að svara spurningum með því að ráðast á þann sem spyr eru ekki einkenni spjallmennis sem er á barmi þess að öðlast sjálfstæða hugsun. En slík hegðun gæti hins vegar bent til þess að forrit, sem hermir eftir fólki, hafi í gagnasafninu sínu fundið árangursríka taktík sem fólk beitir til þess að koma sér undan ábyrgð. Á sama hátt getur verið að ógeðfelld hegðun spjallmennis, sem var þjálfað af kynþáttahöturum á netinu, sé einkenni forrits sem fylgir of vel því slæma fordæmi sem því var sýnt. Við ætlumst til þess að tölvurnar okkar séu kurteisar, tillitssamar og skynsamar, en ef við gerum ekki meiri kröfur til okkar sjálfra, þá verða tölvurnar ekki búnar þessum kostum þegar þær reyna að hegða sér eins og fólk.

Hver er þá hættan á því að til verði gervigreind í anda Skynets? Ég hef talað við nokkuð breiðan þverskurð sérfræðinga og það er skýr klofningur milli þeirra varðandi það hvort hægt sé að búa til gervigreind á borð við þá sem sést hefur í vísindaskáldskap. ChatGPT er svo sannarlega ekki slík greind, en slíkt módel gæti hins vegar verið fullkomið tæki fyrir alvöru gervigreind til þess að tala við skapara sína. Á hinn bóginn kann að vera að ofuráhersla dagsins í dag á slík tungumálsforrit dragi athygli og fjármagn frá öðrum sviðum sem gætu leitt til næstu gervigreindarbyltingar.

Ef slík gervigreind kæmi hins vegar fram – annaðhvort af ásetningi eða sprytti náttúrulega upp innan flókinna kerfa – væri hún þá ógn? Hvað myndi gervigreind vilja? Myndi hún vilja nokkuð yfirhöfuð, annað en það sem við myndum hanna hana til að vilja? Hefðbundnir hvatar gervigreindar í vísindaskáldskap – að auka getu sína, nota orku til þess að margfalda sig, verja sig fyrir tilvistarógn – eru allt mannlegir hvatar. Þegar gervigreind er lýst sem valdamiklu og ópersónulegu skrímsli í engri snertingu við líf venjulegs fólks er í raun verið að lýsa mennskum milljarðamæringi.

Skynet hóf stríð sitt gegn mannkyninu þegar við reyndum að slökkva á henni, en það er engin ástæða til þess að ætla að gervigreind væri ekki alveg sama um það hvort kveikt væri á henni eða slökkt. Sjálfsbjargarhvötin er afrakstur milljóna ára af líffræðilegri þróun. Svo sterk gervigreind gæti verið bjargvættur okkar vegna þess að hún gæti fundið lausnir við stóru vandamálunum, sem við mennirnir getum eða viljum ekki horfast í augu við.

Ef við á hinn bóginn einblínum á að þróa gervigreind sem líkist okkur þá gæti hún mögulega breyst í gráðugt, orkufrekt skrímsli sem vill leggja heiminn í eyði.

© 2023 The New York Times Company og Adrian Tchaikovsky