Öld vitvélanna?

Gervigreind, sjálfvirkni og vélmenni eru lykilorð þegar rætt er um hvað framtíðin beri í skauti sér og mætti í því sambandi tala um vitvélar. Í sumargúrkunni varð umræðuhvellur á Bretlandi þegar spjallráður stóð sig betur á prófi fyrir heimilislækna en prófþreytendur af holdi og blóði. Spjallráðurinn, sem fengið hefur viðurnefnið „heimilislæknir í handraðanum“, svaraði 81% spurninganna, sem lagðar voru fyrir hann, rétt, en meðalhlutfall lækna á prófinu var 72% rétt svör á undanförnum fimm árum.

Ali Parsa, stofnandi Babylon, fyrirtækisins, sem bjó spjallráðinn til, sagði að þetta markaði tímamót og bætti við að mannkyn væri nú skrefi nær heimi þar sem engum væri neitað um örugga og nákvæma heilbrigðisþjónustu.

Félag heimilislækna á Bretlandi fór hins vegar samstundis í vörn og lýsti Martin Marshall, varaformaður þess, yfir því að ekkert smáforrit eða algrím gæti gert það sem heimilislæknir gerir.

Smáforrit Babylon stendur sjúklingum í breska heilbrigðiskerfinu til boða í hlutum London og eru notendur þegar rúmlega 50 þúsund. Smáforritið er einnig notað í Rúanda þar sem notendur þess eru komnir yfir tvær milljónir. Parsa segir að fyrirtæki sitt sé við það að valda sömu straumhvörfum í heilbrigðisþjónustu og Google hafi gert í upplýsingatækni.

Gervigreind og algrím eða reikniritar koma víða við sögu og verða stöðugt fyrirferðameiri. Algrím er nú þegar notað til að skrifa fréttir og sést vart munur á því hvort tölva eða maður er að verki.

Algrím er líka á bak við útbreiðslu falsfrétta. Leitarvélar, heimasíður og félagsvefir nota algrím, sem er hannað til að leysa vandamál og taka ákvarðanir. Reikniritar sía og finna tengingar í feiknlegum gagnagrunnum og eru í raun orðnir ómissandi á hinum ýmsu mörkuðum og í hinu alþjóðlega fjármálakerfi. Algrím er að verki þegar við leitum á netinu, hvort sem það er að varningi eða fréttum, og leitast við að laga niðurstöður að þörfum okkar.

Það kann að hljóma vel, en er um leið ógnvekjandi. En eru reikniritarnir að uppfylla þarfir okkar eða ritskoða?

Í vikunni birtist frétt um að Google væri að hanna útgáfu þóknanlega kínverskum stjórnvöldum af leitarvef sínum. Google hafði áður neitað að verða við ritskoðunarkröfum og fyrir vikið verið úthýst úr Kína. Hinn nýi vefur myndi þá ekki bregðast við leit að mannréttindabrotum eða öðru, sem kínversk stjórnvöld eru viðkvæm fyrir. Ekki er þó víst að þetta dugi til að Goggle hljóti náð fyrir augum Kínverja og komist inn á hinn risavaxna kínverska markað.

Hversu mikil ógn stafar af gervigreind? Vísindamaðurinn Stephen Hawking varaði við gervigreind og sagði að hún gæti verið það versta, sem komið hefði fyrir „í sögu okkar siðmenningar“. Hinn aldni Henry Kissinger, fyrrverandi utanríkis-ráðherra Bandaríkjanna, birti í júní grein í tímaritinu The Atlantic og veltir fyrir sér hvort gervigreindin boði endalok upplýsingarinnar. Nefnir hann forritið AlphaZero, sem hafi yfirburði yfir skákmeistara í taflmennsku og hafi stíl, sem ekki hafi sést áður í sögu skákarinnar. Forritið hafi á nokkrum klukkustundum kennt sér að tefla eftir að hafa aðeins verið matað á leikreglum skákarinnar og náð hæfni, sem maðurinn var 1500 ár að tileinka sér. Hann veltir fyrir sér hvaða hæðum gervigreind muni ná á næstu fimm árum fyrst hún sé svona öflug nú þegar og spyr hvaða áhrif þessi tækni muni hafa á mannsandann. Upphaf upplýsingarinnar hafi verið heimspekilegt innsæi, sem hafi breiðst út með nýrri tækni, prenttækninni. Nú stefni í hina áttina, komin sé fram afgerandi tækni í leit að heimspekilegum leiðarvísi.

Í Morgunblaðinu birtist nýlega grein eftir bandaríska lögfræðinginn Cori Crider. Þar lýsir hún því hvernig Bandaríkjamenn nota gervigreind til að gera árásir í Jemen. Bandarískar leyniþjónustur hafa hverfandi sambönd í Jemen og verða því að reiða sig á greiningu á hegðunarmynstri og tengslanetum, sem algrímið leitar uppi. Menn verða grunsamlegir vegna návígis við tiltekna aðila. Leitarkerfið lætur vita af skotmörkum, einstaklingum, sem iðulega eru ekki einu sinni nafngreindir. „Mannshöndin skaut sprengjuflaugunum, en það er nánast fullvíst að það var vegna þess að forritið mælti með því,“ skrifar hún.

Svona kerfi er vitaskuld ekki óbrigðult og hætt við að saklaust fólk liggi í valnum. Crider lýsir slíku tilfelli þar sem lögreglumaður og ímam, sem hafði predikað gegn íslömskum öfgum nokkrum dögum fyrir árás, voru felldir.

Vísindaskáldsagnahöfundar gera sér mat úr gervigreind og sjá fyrir sér að tölvurnar taki völdin af manninum. Kristinn R. Þórisson, prófessor í gervigreind við Háskólann í Reykjavík og stjórnandi Vitvélastofnunar Íslands, skrifaði í blaðið Tímamót, sem fylgdi Morgunblaðinu um áramótin, og lagði vara við því að taka of mikið mark á spám um yfirtöku gervigreindra vélmenna með mikilmennskubrjálæði á heiminum: „Hvort gervigreind vélmenni framtíðarinnar munu hafa eigin vilja, og muni skilja það sem þau segja, er óvíst. Víst er hins vegar að engin vél nútímans skilur neitt.“

Þarna er mergurinn málsins. Við kunnum að standa við þröskuldinn á öld vitvélanna, en þær eru aðeins verkfæri án skilnings eða vilja. Ef við hins vegar treystum á þær hugsunarlaust bjóðum við hættunni heim.