Páll Rafn­ar Þor­steins­son, verk­efna­stjóri hjá Siðfræðistofn­un Há­skóla Íslands, seg­ir að þýðing­ar með gervi­greind séu áhuga­verðar og gott dæmi um það hvernig tækn­in geti komið að gagni. Þó vakni upp spurn­ing­ar um traust.

„Þegar flagg­skip, eins og RÚV eða Morg­un­blaðið, byrj­ar að þreifa fyr­ir sér með gervi­greind þá eru þau að setja ákveðið for­dæmi. Þá vakn­ar áhuga­verð spurn­ing um það hvað við erum að normalísera þegar við erum að nota tækn­ina í smá­um skref­um. Þetta er líka spurn­ing um traust og trú­verðug­leika. Fjöl­miðlar standa og falla með því,“ seg­ir Páll í sam­tali við mbl.is.

Frétt af mbl.is

Birta grein­ar þýdd­ar af gervi­greind

Get­ur verið skaðleg

Páll seg­ir að þýðing­ar með gervi­greind séu áhuga­verðar og gott dæmi um það hvernig tækn­in geti komið að gagni. Hann tel­ur að með til­komu gervi­greind­ar í blaðamennsku, sem vissu­lega geti létt und­ir með verk­um sem krefjast ekki mik­ill­ar hugs­un­ar, geti skap­ast svig­rúm fyr­ir blaðamenn til að leggja meiri áherslu á þau verk­efni sem útheimti meira inn­sæi, skiln­ing í sam­hengi, gagn­rýna hugs­un og dómgreind.

Þá vill Páll einnig sjá gervi­greind gera það að verk­um að les­end­ur hafi meiri tíma til að neyta gæða frétta­efn­is. „Það myndi auðvelda okk­ur að hugsa djúpt um mik­il­væg efni og eiga upp­byggi­leg­ar umræður,“ seg­ir Páll. 

Vand­inn sé að greina á milli þess sem sé gagn­legt að leysa með gervi­greind og hvar hún komi ekki að gagni, og geti bein­lín­is verið var­huga­verð.

Páll seg­ir umræðuna oft ein­kenn­ast af ótta við að gervi­greind­ar­tækn­in sé að verða of greind eða hættu­lega greind, en hann tel­ur að við ætt­um að hafa meiri áhyggj­ur af því að hún sé ekki nógu greind. Hætt­an sé sú að við not­um hana til þess að sinna verk­efn­um sem hún valdi ekki og hún sé ekki nægi­lega hæf til að vinna. Það geti haft nei­kvæðar af­leiðing­ar, jafn­vel mjög skaðleg­ar.

Þurf­um að vera meðvituð

Í sam­hengi fjöl­miðlun­ar seg­ir Páll það mjög mik­il­vægt að vera meðvitaður og gæta þess að tækn­in þjóni mark­miðum og þeim gild­um sem höfð eru í blaðamennsku.

Hann seg­ir að fjöl­miðlamenn þurfi að hafa ríka vit­und um mögu­leika tækn­inn­ar svo og tak­mark­an­ir og hætt­ur. „Það er því mik­il­vægt að hafa skýra sýn á hvaða til­gangi gervi­greind­in á að þjóna og hafa fag­leg gildi ávallt í fyr­ir­rúmi,“ seg­ir Páll. 

Það sé einnig mik­il­vægt að fjöl­miðlamenn hafi rík­an skiln­ing á tækn­inni, hvers hún er megn­ug, og nýti hana þar sem hún kem­ur sann­ar­lega að gagni. Til þess sé nauðsyn­legt að prófa hana.

Verða að vera til viðmið

Í víðara sam­hengi seg­ir Páll mik­il­vægt að hafa í huga atriði eins og gagn­sæi í frétta­flutn­ingi. Það ætti til dæm­is að merkja efni sem er til­komið með gervi­greind. Það verði að vera til ein­hver viðmið um það. Síðan þurfi að tryggja þau kerfi sem er not­ast við, að þau séu áreiðan­leg og ör­ugg. Einnig þurfi þau að vera í stöðugri end­ur­skoðun.

Mjög mik­il­vægt sé að það liggi fyr­ir með skýr­um hætti hvar ábyrgðin liggi ef eitt­hvað fer úr­skeiðis. Fjöl­miðlar beri ábyrgð á því efni sem þeir miðla. Því tengt sé mik­il­vægt að það sé fyr­ir hendi mann­leg yf­ir­sýn. Rit­stjórn­ar­leg­ar ákv­arðanir eigi alltaf að vera tekn­ar af mann­eskju.

Páll tel­ur að það þurfi að koma til ákveðin vinna þar sem séu sett ein­hver viðmið um það hvernig eigi að nota tækn­ina.

„Við meg­um ekki smætta all­ar þess­ar spurn­ing­ar sem gervi­greind­in vek­ur í ein­hverj­ar tækni­leg­ar spurn­ing­ar og gera ráð fyr­ir eða von­ast til þess að við finn­um ein­hver tækni­leg svör. Þetta eru mjög erfiðar siðferðileg­ar spurn­ing­ar sem snú­ast um siðferðileg gildi og í grunn­inn um það hvað það er að vera mann­eskja,“ seg­ir Páll.

Þá þarf að hafa í huga að tækn­in megi ekki vera notuð á þann hátt að hún hafi slæm­ar af­leiðing­ar eða valdi skaða.

„Þessi tækni býður upp á magnaða mögu­leika en það er mik­il­vægt að fara ekki of geyst, bæði að gera ekk­ert sem veld­ur skaða en líka það að fæla ekki al­menn­ing frá henni,“ seg­ir Páll.