Prevaranti, ki služijo z lažnimi podobami holokavsta: "Čustvena manipulacija ljudi"

Raziskava britanskega BBC tako imenovanih nizkokakovostnih vsebin umetne inteligence je razkrila mednarodno mrežo prevarantov, ki na Facebooku objavljajo slike, ustvarjene z umetno inteligenco, na njih pa so upodobljene žrtve holokavsta.

Organizacije, ki ohranjajo spomin na holokavst, opozarjajo, da tovrstne objave vznemirjajo preživele in njihove družine. Kritične pa so tudi do podjetja Meta, ki ima v lasti Facebook, saj po njihovem mnenju uporabnikom omogoča, da ti iz zgodovinske tragedije čustveno manipulirajo z drugimi uporabniki tega omrežja.

Iz koncentracijskega taborišča Auschwitz obstaja le peščica avtentičnih fotografij iz časa druge svetovne vojne, v zadnjih mesecih pa so se na Facebooku začele pojavljati lažne fotografije, ustvarjene s pomočjo umetne inteligence, ki naj bi prikazovale prizore iz taborišča. Med drugim prikazujejo osebo, ki sredi taborišča igra violino, zaljubljen par ob žičnati ograji in številne druge. Te objave so doslej zbrale na desettisoče všečkov in delitev.

"Imamo opravka z ljudmi, ki si izmišljajo zgodbe. Gre za čustveno manipulacijo ljudi, ki se odvija na družbenih omrežjih. To ni igra, gre za resnični svet, resnično trpljenje ljudi, ki jih želimo in moramo ohraniti v našem spominu," je dejal Pawel Sawicki, tiskovni predstavnik spominskega muzeja Auschwitz na Poljskem.

BBC je razkril, da številne tovrstne fotografije, ustvarjene z umetno inteligenco, ustvarjajo uporabniki iz Pakistana, Vietnama, Tajske in Nigerije. Ob tem izrabljajo sistem monetizacije vsebin podjetja Meta, ki uporabnike nagrajuje za vsebine, ki dosežejo veliko število ogledov, všečkov in delitev.

Eden izmed uporabnikov iz Pakistana, ki si je nadel ime Abdul Mughees, naj bi na tak način zaslužil okoli 20.000 ameriških dolarjev oziroma 17.000 evrov. Ena od njegovih objav je v štirih mesecih dosegla več kot 1,2 milijarde ogledov na Facebooku.

Iz spominskega muzeja Auschwitz so opozorili, da tovrstni uporabniki "kradejo" njihove objave in jih nato predelujejo z modeli umetne inteligence, pri tem pa pogosto popačijo zgodovinska dejstva ali pa si v celoti izmišljajo zgodbe žrtev holokavsta. V enem od svojih zapisov je muzej opozoril, da gre za "nevarno popačenje, ki ne spoštuje žrtev".

Zaskrbljenost pa so izrazili tudi družine in svojci preživelih zaradi porasta tovrstnih vsebin na Facebooku.

"Ne razumejo, kaj točno gledajo. Številni preživeli so ob takšnih objavah razočarani in imajo občutek, da njihova prizadevanja za ozaveščanje niso bila dovolj. To je žalostna misel, še posebej zdaj, ko nas zadnji preživeli počasi zapuščajo," je za BBC dejal Robert Williams iz Mednarodne zveze za spomin na holokavst.

BBC je podjetje Meta povprašal o porastu fotografij, ustvarjenih s pomočjo umetne inteligence, ki prikazujejo podobe holokavsta. Meta je pojasnila, da slike same po sebi niso kršile vsebinskih pravil, so pa bili pa nekateri računi, ki so delili tovrstne vsebine že odstranjeni.

"Strani in skupine, ki ste jih nam posredovali, smo odstranili, prav tako smo deaktivirali račune, ki so stali za njimi, ker so kršili pravila glede neželenih vsebin in neavtentičnega vedenja," so na vprašanja BBC odgovorili v podjetju Meta.

Ob tem pa Robert Williams opozarja: "Vsakršni obliki manipulacije se moramo izogibati!"