Kísildalur þarf á skjálftavörnum að halda

Í Kísildal er fólk álíka hrifið af boðum og bönnum stjórnvalda og það er af kippum á jarðskjálftamælunum. En núna virðast sum risafyrirtækin á vesturströnd Bandaríkjanna orðin viljug til að gera reksturinn hjá sér jarðskjálftavarinn, í ljósi þess hve mikið rót er í pólitíska undirlaginu.

Í síðustu viku hafði Tim Cook, forstjóri Apple, ýmislegt að segja um verndun persónugagna – málefni sem er mjög í deiglunni vegna nýlegra gagnaleka hjá bæði Facebook og Google. Lýsti hann því yfir að verndun einkalífsins myndi verða eitt mikilvægasta verkefni 21. aldarinnar. Hann sagði við Vice News: „Ég er ekki sú manngerð sem er fylgjandi því að setja reglur um alla skapaða hluti og ég hef tröllatrú á hinum frjálsa markaði [en] þegar það sem markaðurinn skapar er ekki gott fyrir samfélagið þá verðum við að spyrja okkur: Hvað þurfum við að gera? Og ég held að það sé mikilvægt að stjórnvöld setji einhvers konar skorður.“

Takmörkuð geta stjórnvalda

Ef við fylgjum þankagangi Cooks eftir þá koma í ljós ýmis svið þar sem hinn frjálsi markaður og nýjasta tækni eru ekki að vinna samfélaginu sérlega mikið gagn. En það er erfitt að sjá hvernig stjórnvöld geti mögulega brugðist við nógu hratt, af nægilegri sérþekkingu, og á nægilega alþjóðlegan skala, til að geta náð utan um þær áskoranir sem fylgja umbreytandi áhrifum nýjustu tæknilausna, og það jafnvel þó að stjórnmálamennirnir væru allir af vilja gerðir að grípa í taumana. Kannski þarf að leita annarra leiða.

Í nýjasta tölublaði tímaritsins MIT Technology Review er rýnt í mörg þessara nýju samfélagsvandamála og er lesandinn spurður: „Tæknin ógnar lýðræðinu. Hvernig getum við bjargað því?“ Stutta svarið er: með miklum erfiðismunum.

Tímaritið varpar m.a. ljósi á hvernig auglýsingadrifin viðskiptamódel samfélagsmiðlanna hafa greitt leiðina fyrir víðtækar persónunjósnir og bjögun almenningsviðhorfsins. Tölvuforrit geta apað eftir hegðun mannfólksins en reynast geyma tölvukóða sem gerir þau fordómafull í viðhorfum sínum. Nú þegar getum við horft á mjög sannfærandi „djúpfölsuð“ (e. deepfakes) myndbönd á tölvuskjánum.

En pólitískar áskoranir eru bara ein hlið á peningnum. Á sama tíma og tæknin virðist hafa alla burði til að snarauka framleiðni okkar, þá er hún líka að breyta því hvernig við náum að þrífast og dafna innan hagkerfisins. Gigg-hagkerfið hefur grafið undan réttindum launafólks og valdið því að hluti launþega býr við skert tekjuöryggi. Samkeppnisyfirvöld eiga fullt í fangi með að halda í við fyrirtæki á borð við Amazon. Það mætti líta á þannig félög, sem búa yfir ógrynni gagna, sem sölutorg með einum ráðandi innherja, frekar en hefðbundin fyrirtæki af nokkru tagi.

Vandinn sem þau sköpuðu

Svo vitnað sé í litrík orð Martin Reeves, stjórnanda hugveitunnar BCG Henderson Institute, þá eru tæknifyrirtækin farin að „rekast utan í afleiðingar gjörða sinna“. Hann heldur því fram að núna sé það þessum fyrirtækjum fyrir bestu að sammælast um það hver sé best til þess fallinn að fara með hlutverk „dómarans“ þegar ný vandamál skjóta upp kollinum. „Það er afspyrnu slæm hugmynd að ætla að græða mikið af peningum í leik þar sem enginn er dómarinn,“ segir Reeves. „Ég legg þessa spurningu fyrir tæknifyrirtækin: hvaða stefnu hafið þið í dómaramálum?“

Þetta er ekki auðveld spurning fyrir tæknifyrirtæki sem hegða sér enn eins og herská sprotafyrirtæki frekar en risastór og alþjóðleg félög. Og þess utan þá kalla nýjar áskoranir á alveg nýja tegund af svörum.

Henderson ýjar að því að hægt sé að læra af reynslu eldri atvinnugreina. Sem dæmi hefur lyfjageirinn notið góðs af því að bandaríska Matvæla- og lyfjaeftirlitið hefur sett fyrirbyggjandi reglur. Með því að láta ný lyf fara í gegnum strangt matsferli er eins og stjórnvöld og fyrirtæki fari með sameiginlega ábyrgð á lyfjamálum, og eykur það tiltrú almennings.

Flugsamgöngur urðu líka mun öruggari eftir að sjálfstæðar stofnanir létu sérfræðinga rannsaka hvert einasta flugslys og gátu gefið fyrirmæli um hvað skyldi bæta. Það mætti alveg setja sams konar sérfræðingaráð á laggirnar til að rannsaka það þegar forrit „brotlenda“. Einkareknar eftirlitsstofnanir eins og matsfyrirtækin S&P og Moody‘s fá greitt fyrir að leggja mat á rekstur annarra fyrirtækja og hjálpa til við að búa til sk. „traustsvörur“ (e. trust goods). Þau runnu rækilega á rassinn í fjármálakreppunni en geta samt enn þjónað mikilvægu hlutverki í fjármálageiranum.

Dreifstýrt traust

Forvitnilegast af öllu er ef til vill að skoða hvernig nýta má dreifstýrð traustsmódel, eins og við þekkjum frá Wikipediu, Uber og Airbnb, til að bæta eftirlit og lagasetningu. Á vissan hátt þá gegnir Uber nú þegar eftirlitshlutverki í viðskiptum ökumanna og farþega með því að leyfa þeim að gefa hvor öðrum einkunn. Væri kannski hægt að fá notendur Uber til að gefa fyrirtækinu sjálfu einkunn fyrir stefnu sína og rekstraraðferðir? Ættu tæknifyrirtækin að leyfa starfsmönnum sínum, sem heyrast æ oftar tjá sig um siðferðisleg vafamál, að vera einnig í hlutverki fullnustuaðila?

Rachel Botsman, höfundur bókarinnar Who Can You Trust? , færir sannfærandi rök fyrir því að senn sé á enda það skeið sem fólk treysti stofnunum. Traustið sé einfaldlega of lemstrað eftir fjármálakreppuna, Íraksstríðið og aukið gagnsæi sem ný tækni hefur haft í för með sér. Núna er að renna upp nýtt tímabil dreifstýrðs traust þar sem tæknin verður í hlutverki milligöngumanns. En þær breytingar sem eru í uppsiglingu verða flóknar, ófyrirsjáanlegar og jafnvel hættulegar.

Tæknifrumkvöðlar skilja betur en flestir hvaða breytingar eru að eiga sér stað, og þeir gætu verið í lykilhlutverki við að lágmarka hættuna. Þörfin er mikil – og markaðstækifærin sömuleiðis – fyrir nýsköpun á sviði eftirlits og reglna. Tæknifyrirtæki ættu að hafa mikla hagsmuni að verja með því að sanna að þau afleitu samfélagslegu vandamál sem þau áttu þátt í að skapa eru bara villa í forritinu, en ekki óbreytanlegur hluti af þessum nýja heimi sem þau hafa skapað.