Láta Auschwitz líta út sem ævintýraland

Myndin hér til hliðar sýnir gamla mynd af fallegri, hrokkinhærðri stúlku á þríhjóli og samkvæmt færslunni heitir stúlkan Hannelore Kaufmann. Kaufmann er þriggja ára gömul og er frá Berlín. Hún lést í útrýmingarbúðunum í Auschwitz.

Raunin er þó sú að Kaufmann var ekki fórnarlamb í helförinni þar sem hún er ekki raunveruleg. Myndin er nefnilega búin til af gervigreind.

Í Suður-Asíu eru margir sem nota gervigreind til þess að búa til myndir sem líta út fyrir að hafa verið teknar í helförinni. Markmiðið með færslunum er að græða peninga og vekja tilfinningar Vesturlandabúa til helfararinnar. Færslurnar innihalda tilfinningaleg atriði, eins og að Kaufmann hafi elskað þríhjólið sitt áður en hún var send í útrýmingarbúðir og dó.

Í helförinni létu sex milljónir gyðinga lífið og voru útrýmingarbúðir nasista víðs vegar í Evrópu. Stríðið risti djúpt í sál margra og voru hörmungar stríðsins ólýsanlegar. Það er því eðlilegt að stríðið veki tilfinningar hjá fólki vegna hörmunganna sem áttu sér stað.

Myndirnar hafa hlotið gagnrýni fyrir að vera móðgandi og draga úr alvöru helfararinnar. Sumir segja að þær líki útrýmingarbúðum nasista við ævintýraland.

Segja þróunina alvarlega

Auschwitz hefur tjáð sig um myndirnar og þessa þróun og segir hana alvarlega.

„Við erum að takast á við sköpun falsks raunveruleika. Þessar myndir eru falsaðar og því er verið að falsa söguna,“ sagði Pawel Sawicki talsmaður safnsins við AFP-fréttastofuna.

Safnið tók fyrst eftir færslunum í maí og virðist sem myndunum sé stolið af síðu þess og breytt með gervigreind án þess að það sé gefið til kynna. Fölsuðu myndirnar eru því oft byggðar á upprunalegum myndum nema andlitum og umhverfi er algjörlega breytt.

Myndin og sagan eru því oftast uppspuni að sögn Sawickis og þetta er fólk sem aldrei var til.

Í einni færslunni má sjá stúlku með blóm í hárinu og er hún nefnd Yvette Kahn og hafi látist í Auschwitz. Ekkert fórnarlamb með því nafni finnst í gagnagrunni safnsins.

Í öðrum tilfellum passa upplýsingarnar ekki saman og farið er rangt með staðsetningar og ártöl svo dæmi sé tekið.

Sawicki tók það samt fram að Auschwitz-safnið hefði almennt ekki miklar upplýsingar um líf fólksins sem lést í búðunum.

Kvartanir ekki borið árangur

Margir hafa kvartað við Meta, eiganda Facebook, en það hefur ekki gengið vel að sögn Sawickis þar sem færslurnar brjóta ekki gegn reglum Facebook.

Facebook leyfir efni sem er búið til af gervigreind ef það er merkt sem slíkt. Færslurnar um helförina eru í fæstum tilfellum merktar falsaðar.

Að minnsta kosti tólf facebook-síður og -hópar birta efni um helförina og eru margir þeirra búnir til í þróunarlöndum eins og Indlandi, Pakistan og Srí Lanka. Í Evrópu eða Bandaríkjunum væri lítil sem engin tekjuöflun af slíkum færslum en í fátækari löndum geta þessar tekjur skipt miklu máli.

Færslurnar um helförina birtast oft á síðum sem áður voru reknar af bandarískum eða breskum stofnunum. Ein síðan ber nafnið The Two Pennies en það er krá í norðausturhluta Englands.

Að sögn samfélagsmiðlastjóra krárinnar var facebook-reikningur þeirra hakkaður en Meta hafi ekki gripið til neinna aðgerða. Það fylgi því mikil skömm að færslur um helförina séu birtar undir nafni krárinnar þar sem hún er með marga fylgjendur á samfélagsmiðlum. Síðan er nú rekin frá Srí Lanka og hefur 23.000 fylgjendur.

Ævintýralandið Auschwitz

Safnstjóri Sherwin Miller-safnsins í Tulsa í Bandaríkjunum bað gervigreind að búa til myndband sem sýndi hvernig það væri að vera fangi í Auschwitz.

Myndbandið birti hann á samfélagsmiðlinum TikTok og sýnir það fanga í þægilegum kojum og vel klædda.

TikTok merkir myndirnar sem viðkvæmt efni og er boðið upp á þann valmöguleika að lesa staðreyndir um helförina. Facebook býður ekki upp á slíkan möguleika og því auðvelt að blekkjast af færslum sem birtar eru þar.

Gervigreindarmyndbandið sýnir Auschwitz sem eins konar ævintýraland þar sem gott er að vera. Slík myndbönd hafa verið gagnrýnd fyrir það að gera lítið úr helförinni og ekki birta raunverulega mynd af þeim hörmungum sem áttu sér stað.