Danir skera upp herör gegn djúpfölsunum

Dönsk stjórnvöld hyggjast nú ganga til aðgerða og breyta lögum um hugverka- og auðkennarétt með það fyrir augum að tryggja þegnunum höfundarrétt að sjálfum sér, að minnsta kosti hvað varðar líkama þeirra, ásjónu og rödd.

Snýst málið um svokallaðar djúpfalsanir, notkun öflugra stafrænna tauganeta sem framleiða myndir, texta og hljóð sem torséð er hvort lifandi manneskja eða dauð stafræn gagnavinnsluvél hafi framleitt. Sem dæmi um þetta má nefna fölsun andlits og raddar manneskju í því augnamiði að láta líta svo út sem fyrirmynd fölsunarinnar hafi sagt – eða gert – eitthvað sem alls ekki á sér stoð í hinum æ torgreindari raunveruleika stafrænnar samfélagsmiðlatilveru.

Þessu má ná fram með svokölluðu vélrænu námi gervigreindarforrita eða með því að nota fjölda mynda af manneskju sem gervigreind meðhöndlar þannig að andlitshreyfingar samræmist því sem hin uppdiktaða eftirlíking á að virðast segja. Með þessum hætti hafa til dæmis látnir leikarar birst á hvíta tjaldinu sem lifandi séu í framhaldsverkum kvikmynda sem þeir léku í hérna megin grafar.

Stafræn ljósrit engin hæfa

Danski menningarmálaráðherrann Jakob Engel-Schmidt kveðst vonast til þess að frumvarp til breytinga á danskri höfundarréttarlöggjöf, beinlínis þess efnis að fólk eigi höfundarréttinn að sjálfu sér, verði til reiðu fyrir sumarfrí danska þingsins og verði að lögum á haustmánuðum.

Í frumvarpinu segir ráðherra, í samtali við breska dagblaðið The Guardian, að djúpfölsun verði skilgreind sem mjög raunveruleg stafræn endursmíði manneskju, framkomu hennar og raddar. Segir Engel-Schmidt dönsku ríkisstjórnina ekki vita betur en að lagagreinarnar nýju – verði frumvarpið að lögum – verði þær fyrstu sinnar tegundar í Evrópu.

„Með lagabreytingunni munum við senda skýr skilaboð þess efnis að hver og einn eigi réttinn til síns eigin líkama, eigin raddar og eigin andlitsdrátta, sem er augljóslega ekki vernd sem núverandi höfundarréttarlöggjöf veitir fólki gegn skapandi gervigreind [e. generative AI],“ segir ráðherra við breska blaðið og bætir því við að ekki sé unnt að fallast á að hægt sé að búa til eins konar stafræn ljósrit af fólki og misnota í fjölbreytilegasta tilgangi án nokkurra afleiðinga.

Talið er að níu af hverjum tíu þingmönnum danska þingsins muni fylkja sér á bak við frumvarpið væntanlega, sem ætti að tryggja því brautargengi og vel það, en í framkvæmd mun nýr lagabókstafur gera dönskum almenningi kleift að krefjast þess að ábyrgðarmenn vefsvæða hvers konar á lýðnetinu fjarlægi efni sem brýtur í bága við rétt hverrar persónu til höfundarréttar yfir eigin líkama, rödd og ásjónu.

Notfæra sér nýfengið forsæti

Tekur danska stjórnin þó sérstaklega fram að nýjar lagareglur muni ekki hafa áhrif á gamanefni og skopstælingar, slíkt efni muni áfram leyfast án þess að teljast misgjörð við þá persónu sem höfð er að háði og spotti.

„Vitaskuld erum við að fara ótroðnar slóðir og ef vefsvæðin fara ekki að settum reglum skirrumst við ekki við að ganga lengra,“ segir menningarmálaráðherrann danski um frumvarp sitt og kveðst vonast til þess að önnur Evrópuríki muni fylgja frumkvæði Dana. Hyggst Engel-Schmidt notfæra sér forsæti Dana í ráðherraráði Evrópusambandsins, sem þeim veitist á morgun, 1. júlí, til að kynna fyrirætlanir ríkisstjórnarinnar öðrum stjórnvöldum aðildarríkjanna.

Í fullkomnu leyfisleysi

Telur hann „þungvægar sektir“ vænlegastar til að koma ábyrgðar- og rekstraraðilum stafrænna birtingarvettvanga í skilning um alvöru málsins – Danir ætla sér augljóslega ekki að láta standa við orðin tóm – og málið gæti að sögn ráðherra átt sér ákjósanlegt pláss á borði Framkvæmdastjórnar Evrópusambandsins. „Þess vegna held ég að vefmiðlarnir muni taka þessu af alvöru,“ segir Engel-Schmidt.

Í umfjöllun sinni um málið vitnar danska dagblaðið Berlingske í fréttatilkynningu menningarmálaráðherrans þar sem hann segir tilgang væntanlegrar lagabreytingar vera að forða Dönum undan þeirri framtíðarsýn að Pétur og Páll geti í fullkomnu leyfisleysi framleitt djúpfölsuð myndskeið af hverjum sem vera skyldi, þjóðþekktum einstaklingum og listamönnum svo dæmi séu tekin, án þess að sæta nokkurs konar ábyrgð.

„Með [nýjum lögum] getum við fengið rönd við reist gegn því að villandi upplýsingar og skaðlegur boðskapur fari í dreifingu og treyst því í ríkari mæli að það sem við sjáum og heyrum sé rétt. Þar liggur einn af hornsteinum lýðræðisins okkar og hann skulum við verja,“ hefur Berlingske eftir danska menningarmálaráðherranum.