Fyrir hverja er öll þessi tækni?

Það var árið 1970 sem tveir starfsmenn Polaroid, efnafræðingurinn Caroline Hunter og ljósmyndarinn Ken Williams, komust á snoðir um að fyrirtækið seldi stofnunum hinnar aðskilnaðarsinnuðu stjórnar Suður-Afríku ljósmyndabúnað. Þá tækni nýttu valdhafarnir til að útbúa svokallaðar vegabækur, verkfæri sem ætlað var að tálma athafnir og ferðalög þeldökkra íbúa landsins.

Hunter og Williams urðu meðal stofnenda Samtaka byltingarsinnaðs Polaroid-starfsfólks (e. Polaroid Revolutionary Workers' Movement) sem gerði þá kröfu að fyrirtækið legði af starfsemi sína í Suður-Afríku. Ekki leið á löngu uns starfsfólkið stóð fyrir herferð, í samstarfi við samhuga bandamenn, og krafðist þess að neytendur sniðgengju vörur Polaroid. Úr varð ein sú fyrsta þeirra herferða þar sem þess var krafist að bandarískt fyrirtæki sætti viðskiptaþvingunum vegna tengsla við aðskilnaðarstefnusinna í Suður-Afríku.

Byltingarsinnaða Polaroid-starfsfólkið var ekki eitt á báti. Árið 1969 stofnaði hópur friðelskandi vísindamanna og verkfræðinga samtökin Vísindi í allra þágu (e. Science for the People). Samtök þessi stóðu að samnefndu tímariti sem skoraði viðteknar hugmyndir um ópólitísk vísindi á hólm og andæfði afskiptum stórfyrirtækja af rannsóknum, hagnýtingu vísindaafreka á vígvöllum, umhverfisspillandi stefnumörkun og fleiru.

Hvor tveggja samtökin beittu rödd sinni til að vekja athygli á þrálátri togstreitu milli markaðssetningar tækniframfara og þess hver mest ber úr býtum. Enginn hörgull er á fullyrðingum um það hvernig tæknin muni bylta lífi okkar og hve æskilegt er að við treystum hátæknifyrirtækjum fyrir því að nota sitt uppsafnaða ofurvald í okkar þágu. Við erum mötuð á því að tækniþróunin sé okkur til handa.

Atorkusamar drápsvélar í forgangi

Raunveruleikinn er hins vegar sá að allar þær tækniframfarir sem nú fara með himinskautum eru knúnar fjármagni ríkisstjórna og herja þeirra – nokkuð sem ég tel lítið rím eiga við orðræðu Kísildælinga um að styrkja samfélög og þjappa fólki saman.

Rúm hálf öld er nú síðan byltingarstarfsfólk Polaroid og hreyfingin um vísindi í þágu allra báru fram einfalda spurningu: Hvað ef hlutverk okkar væri að smíða verkfæri sem yrðu okkar minnstu bræðrum til framdráttar í stað þess að láta hagsmuni stjórnarherranna af að skapa atorkusamar drápsvélar ákvarða framtíð okkar í vísindum og tækni? Með öðrum orðum: Fyrir hverja er öll þessi tækni?

Starfsfólk tæknigeira nútímans spyr sig hins sama. Þrátt fyrir hugsanlega brottrekstrarsök eða hættu á ritskoðun vex andófið gegn því að þeirra handverk verði nýtt til mismununar, stríðsrekstrar og þess sem við köllum þjóðarmorð. Árið 2018 mótmælti starfsfólk Google samningi fyrirtækisins við Project Maven, verkefni Bandaríkjahers er laut að því að þjálfa algrím í að greina myndefni frá drónum og bera með því kennsl á fólk, ökutæki og byggingar. Forsprakkar þess hóps sögðu upp störfum árið 2019 og greindu skriflega frá því að þeim hefði verið bolað burt frá fyrirtækinu fyrir gjörðir sínar.

Í ár lét Google allt í allt 50 starfsmenn sína taka pokann sinn fyrir að andæfa Project Nimbus, samningi um að þjónusta ríkisstjórn og her Ísraels með tölvuský [e. cloud computing].

Vöruðum við óblíðum afleiðingum

Mín reynsla er keimlík. Ég starfaði hjá Google sem millistjórnandi teymis sem skoðaði hvernig draga mætti úr skaðsemi gervigreindarkerfa. Árið 2020 vorum við Margaret Mitchell, hinn millistjórnandinn yfir sama teyminu, rekin í kjölfar þess er við skrifuðum grein um þær hættur er fylgdu stórum tungumálalíkönum, grundvallartækni margra nútímagervigreindarkerfa. Við vöruðum við geigvænlegum umhverfis- og fjárhagslegum afleiðingum þeirra auk tilhneigingar til mismununar sem valdið gæti umtalsverðum skaða. Dæmi um það sem við veittum athygli var þegar ísraelska lögreglan handtók Palestínumann í kjölfar þess er Facebook þýddi orðin „góðan daginn“ á arabísku ranglega yfir á hebreskuna „ráðumst á þá“.

Þá hafa Ísraelar ýtt úr vör sinni eigin tækni til að viðhalda því sem Amnesty International kölluðu „sjálfvirka aðskilnaðarstefnu“ í skýrslu sinni frá því í fyrra og á þessu ári leiddi rannsókn í ljós að Ísrael beitti gervigreind til að greina skotmörk loftárása á Gasa með lágmarksaðkomu mennskra manna – jafnvel eftir að Ísraelar voru ásakaðir um að fremja þar þjóðarmorð.

Á sama tíma virðist sem forkólfar Kísildalsins séu tregari en áður til rýni og rökræðu þegar fjárfestar og forstjórar keppast við að bæta gervigreindarhernaði á afrekaskrá sína.

Fjárfestirinn Marc Andreessen skrifaði í fyrra að gervigreind kæmi til með að „bæta hernað“ með því að „fækka dauðsföllum í styrjöldum verulega“. Á vegum fyrirtækis hans, Andreessen Horowitz, hefur nýr sjóður nú verið stofnaður og eyrnamerktur hergagnaframleiðslu, en fyrirtækið á í viðræðum við stjórnvöld í Sádi-Arabíu um 40 milljarða dala [5,5 billjóna íslenskra króna] gervigreindarsjóð.

Ólyginn hermir einnig að Sam Altman, stjórnarformaður OpenAI – fyrirtækis sem virðist vera tvíeggjað sverð með því að vara jöfnum höndum við því að gervigreind ógni tilveru jarðarbúa og sé vegurinn til bjargræðis – eggi Sameinuðu arabísku furstadæmin til að fjármagna útþenslustefnu fyrirtækisins með hundruðum milljarða dala. Sádi-Arabía og téð furstadæmi styðja fylkingar af öndverðum meiði í stríðshrjáðu Súdan þar sem nú ríkir „eitt myrkasta mannúðarmein samtímans“ svo vitnað sé í borðalagðan embættismann Sameinuðu þjóðanna.

Hærri raddir og fleiri spurningar

Eftir öllum sólarmerkjum að dæma útvega furstadæmin arabísku vígasveitunum Rapid Support Forces vopn, hverra gjörðir gætu jafnast á við glæpi gegn mannkyni ef marka má rannsóknarvinnu Sameinuðu þjóðanna.

Séu það sannindi að tæknibyltingin stóra og fjárfestarnir á bak við hana kappkosti um þessar mundir að festa fé sitt í hernaðartækni er þess langt að bíða að raddir aðgerðasinna dagsins í dag nái nokkrum eyrum. Sem þær raddir hækka er ekki örgrannt um að fleiri spyrji sig þessarar þungavigtarspurningar: Fyrir hverja er öll þessi tækni?

Mín köllun inn í heim tækninnar snerist um þarfir míns samfélags, ekki verkfæri til vopnaskaks eins og stríð Eþíópíu og Eritreu sem ég flúði árið 1998 – nútímaútgáfan þó enn viðsjárverðari. Ekki vitraðist köllunin mér þrátt fyrir nám við Stanford-háskólann annálaða eða störf mín í þágu fyrirtækja á borð við Apple, Microsoft og Google.

Í kjölfar brottrekstrarins frá Google hleypti ég minni eigin stofnun af stokkunum þar sem mér leyfðist fyrsta sinni að spyrja spurninga á borð við „Hvernig væri lýðnetið sem ætlað væri að þjónusta mér eldra fólk?“ Amma mín var lömuð og gat hvorki lesið né skrifað. Eina tungumálið sem henni var tamt var tigrinya [afró-asík tunga töluð í Eritreu og Norður-Eþíópíu]. Hún var frá Eritreu, landi sem státar af einum fæstu lýðnetstengingum heimsins og lýtur nú einræðisstjórn sem er í lófa lagið að loka á þær fáu og bágu nettengingar sem þar fyrirfinnast.

Bælingin vatn á myllu aðgerðasinna

Það lýðnet sem sniðið hefði verið að þörfum ömmu minnar hefði mögulega boðið upp á sjálfvirka málkennslatækni til að auðvelda henni að tjá sig, ekki bara skriflega heldur á töluðu máli og hennar móðurmáli. Slíkt hefði lyft grettistaki fyrir hennar samfélag og sparað henni margt sporið, svo sem tímapantanir. Tækni af þeim toga kemur til móts við þarfir fólks í stað þess að breyta hegðun þess eða, það sem verra er, hunsa það.

Sagan hefur sýnt okkur að bælingin er ekkert annað en vatn á myllu aðgerðasinna úr tæknigeiranum. Vísindamennirnir og verkfræðingarnir sem settu saman Vísindi í allra þágu árið 1969 sáu þetta – það sannaðist þegar Polaroid rak Caroline Hunter fyrir hennar andóf. Hún hélt starfi sínu áfram utangarðs og Samtök byltingarsinnaðs Polaroid-starfsfólks lögðu grunninn að því er Polaroid sneri baki við aðskilnaðarstefnunni í Suður-Afríku árið 1977.

Á sama hátt leggja þeir sem nú starfa innan tæknigeirans hornsteininn að framtíð sem nýtir vinnu þeirra í þágu samfélagsins í stað þess að þróa fleiri vopn og auðgast á ofbeldi.

© 2024 The New York Times Company og Timnit Gebru