Svör spjall­menn­is­ins Grok, sem er í eigu gervi­greind­ar­fyr­ir­tæk­is Elons Musks, við fyr­ir­spurn­um not­enda vöktu furðu og jafn­vel hryll­ing al­menn­ings vegna þess hversu yf­ir­gengi­leg svör þess voru.

Guðmund­ur Jó­hanns­son, sam­skipta­full­trúi Sím­ans, seg­ir í sam­tali við mbl.is að færsl­ur Groks séu ekki eins­dæmi, og að það sé nú í hönd­um mann­kyns að ákveða hvernig við vilj­um tækla slíka notk­un á gervi­greind.

Frétt af mbl.is

Baðst af­sök­un­ar á um­mæl­um Grok

Guðmund­ur Jó­hanns­son, sam­skipta­stjóri Sím­ans. mbl.is/​Aðsent

Skáldaði kyn­ferðis­brot og gaf morðleiðbein­ing­ar

Óhugn­an­leg svör Groks ein­skorðuðust ekki við lof á Hitler og rasísk um­mæli, held­ur skáldaði spjall­mennið í svör­um sín­um upp ít­ar­leg­ar lýs­ing­ar á gróf­um kyn­ferðis­brot­um gegn X-not­and­an­um Will Stancil sem jafn­framt er sér­fræðing­ur í mann­rétt­ind­um.

Grok lýsti því jafn­framt hvernig best væri að brjót­ast inn á heim­ili hans, myrða hann og losa sig við líkið að verknaðinum lokn­um, sam­kvæmt um­fjöll­un­um CNN og MPR­News.

Þurf­um varnagla við „þvælu“

Guðmund­ur seg­ir ljóst að við eig­um enn margt ólært þegar kem­ur að gervi­greind.

„Í upp­hafi veit gervi­greind­in ekki neitt – öll þau svör sem hún gef­ur eru byggð á því efni sem þró­un­araðilar henn­ar fæða hana á.

Ef hún er fædd á efni af in­ter­net­inu er óhjá­kvæmi­legt að ein­hver þvæla slæðist með í gögn­un­um, og þá þarf að setja á hana ákveðna varnagla og hraðahindr­an­ir. Kenna henni að meta gögn, hvaða gögn eru rétt og viðeig­andi og setja spurn­inga­merki við þau gögn sem eru það ekki.“

Slík­ir varnagl­ar höfðu að hluta verið fjar­lægðir úr Grok vegna upp­færslu sem átti að gera spjall­mennið „mann­legra“ sam­kvæmt of­an­greindri um­fjöll­un CNN. 

Þar er þeim mögu­leika jafn­framt velt upp að gervi­greind­in hafi verið þjálfuð á efni frá jaðarspjallsíðum þar sem óhefðbund­in og í mörg­um til­fell­um óviðeig­andi orðræða viðgengst, til dæm­is 4ch­an.

Ýmis kon­ar orðræða fer fram á af­kim­um in­ter­nets­ins, og án varnagla gæti það gerst að gervi­greind­in api hana alla eft­ir. Ljós­mynd/​Colour­box

Of­skynj­an­ir og heim­ilda­skáld­un áskor­an­ir

„Þetta er ekki fyrsta dæmið þar sem gervi­greind seg­ir eitt­hvað sem á ekki að segja eða er blátt áfram rangt. Spjall­menni fara stund­um að bulla og segja jafn­vel eitt­hvað hættu­legt,“ seg­ir Guðmund­ur.

Í ár­daga Chat­G­PT hafi svar for­rits­ins við fyr­ir­spurn um það hvers vegna fólk væri að gefa unga­börn­um mulið postu­lín í stað brjóstamjólk­ur verið það að telja upp kosti mul­ins postu­líns fram yfir brjóstamjólk.

Guðmund­ur seg­ir gervi­greind­ina einnig eiga það til að fá of­skynj­an­ir og skálda heim­ild­ir á borð við bæk­ur og vís­inda­grein­ar máli sínu til stuðnings. 

Ekki er æski­legt að gervi­greind mæli fyr­ir um að gefa börn­um postu­línsmuln­ing í staðinn fyr­ir brjóstamjólk. AFP

Ákveða leik­regl­urn­ar

„Þess­ar of­skynj­an­ir og skáld­skap­ur eru meðal þeirra áskor­ana við gervi­greind sem við stönd­um frammi fyr­ir um þess­ar mund­ir,“ seg­ir Guðmund­ur.

„Nú er umræða meðal helstu gervi­greind­ar­sér­fræðinga heims, til dæm­is hinna svo­kölluðu guðfeðra gervi­greind­ar­inn­ar, um það hvort koma þurfi á alþjóðlegu eft­ir­lit­s­kerfi með gervi­greind­inni.“

Hann seg­ir að slík stofn­un yrði áþekk Alþjóðakjarn­orku­mála­stofn­un­inni sem fylg­ist með kjarn­orku­ver­um- og tækniþróun um all­an heim, og að hún gæti orðið mik­il­væg­ur liður í því að fylgj­ast með gervi­greind­arþróun- og notk­un.

„Við sem sam­fé­lag manna þurf­um nú að ákveða leik­regl­urn­ar þegar kem­ur að gervi­greind,“ seg­ir Guðmund­ur.