Skuggagervigreind eykur líkur á árásum

Skuggagervigreind er gervigreind sem starfsfólk í fyrirtækjum notar án beinnar aðkomu eða samþykkis vinnuveitenda. „Bandaríska hugbúnaðarfyrirtækið Salesforce greinir frá því að meira en helmingur gervigreindarnotenda treysti á ósamþykkt verkfæri og sjö af hverjum tíu starfsmönnum á heimsvísu hafi enga þjálfun í því hvernig eigi að nota slík tól á öruggan eða siðferðislegan hátt,“ segir Trausti.

Hann segir að áframhaldandi vöxtur skuggagervigreindar muni auka líkur á tölvuárásum enda muni gervigreindartól dreifa sér víða um fyrirtæki og á tækjum starfsmanna. „Notkun á skuggagervigreind er ein ástæða þess að streymisveitan Spotify ákvað til dæmis að loka á notkun starfsmanna sinna á gervigreindarforritinu ChatGPT. Þá hefur suðurkóreski tæknirisinn Samsung bannað ChatGPT eftir að starfsfólk Samsung hlóð fyrir mistök viðkvæmum kóða á forritið, sem hefði getað valdið veikleika í öryggi fyrirtækisins.“

Aukin fræðsla

Til að bregðast við ósamþykktri notkun gervigreindar er lausnin meðal annars aukin fræðsla meðal starfsfólks, að sögn Trausta. Þá segir hann að Evrópusambandið sé með reglugerð um gervigreind í smíðum sem ætlað sé að tryggja lagaramma utan um tæknina. „Þessu til viðbótar mun svokölluð verndandi gervigreind (e. protective AI) hjálpa til við að greina mynstur í gögnum, netumferð og notendahegðun til að uppræta ógnir eins og vefveiðar, spilliforrit, lausnarhugbúnað og gagnabrot í rauntíma.“

Trausti segir aðspurður að skuggagervigreind dragi nafn sitt af skuggaupplýsingatækni sem lengi hefur verið vandamál og nái yfir það þegar fólk fer að leita eigin leiða þegar því finnst vinnustaðurinn ekki útvega nægilega góðar lausnir eða tæki. „Til dæmis hefur fólk keypt netpunga á verslunartorginu eBay og mætt með í vinnuna. Slíku fylgir ótrúlega mikil öryggisáhætta.“

Trausti segir að fyrirtæki búi í sífellt meiri mæli til sjálfbærnistefnu og umhverfisstefnu. Fyrirtæki ættu líka að marka gervigreindarstefnu að hans mati.

Vinna með innri gögn

Spurður um vöxt gervigreindar nú einu og hálfu ári eftir að ChatGPT kom með áberandi hætti á markaðinn með notendavæna lausn, segir hann að vöxturinn sé sífellt meiri. Þróunin sé þó meira og meira í þá átt hjá fyrirtækjum að þau taki í notkun gervigreind sem vinni aðeins með innri gögn fyrirtækisins. „Ég hef átt ótrúlega mörg samtöl síðustu þrjá mánuði við fyrirtæki sem vilja skoða bestu leiðirnar í þessu því enginn vill sitja eftir. Þau vilja finna fyrsta skrefið og fikra sig svo áfram. Helsta vandamálið er að það er erfitt að fá sérfræðiráðgjöf því það sem var best í síðustu viku er kannski ekki best í dag. Þróunin er hraðari en við höfum séð áður.“

Spurður hvar almenningur verði helst var við gervigreind með áþreifanlegum hætti í dagsins önn nefnir Trausti spjallmenni á netsíðum fyrirtækja. Þau séu mörg hver knúin af gervigreind í dag í stað spjallmenna með fyrirframákveðnum svörum eins og áður tíðkaðist. „Svo má nefna myndgreiningu í löggæslu. Enn fremur er rauntímaþýðing á fjarfundum í tölvunni gott dæmi. Gervigreindin þýðir á mettíma yfir á ýmis tungumál allt það sem fram fer á fundinum. Það mun opna dyr fyrir mjög marga í löndum þar sem enskukunnátta er bágborin,“ segir Trausti að lokum.