Umjetna inteligencija (AI), unatoč svom golemom potencijalu za napredak i dobrobit čovječanstva, nosi u sebi i mračnu stranu. Njezine se mogućnosti zloupotrebljavaju, a najstravičnija primjena vidljiva je u stvaranju i širenju materijala koji prikazuje seksualno zlostavljanje djece (CSAM – Child Sexual Abuse Material). Ova nova dimenzija zlostavljanja donosi dotad neviđen užas i produbljuje patnju preživjelih žrtava.
Mračna primjena AI tehnologije: Od “deepfakea” do re-viktimizacije
Srž ove prijetnje leži u generativnoj umjetnoj inteligenciji, odnosno modelima poput LoRA-e (Low-Rank Adaptation) ili sličnim tehnologijama. One se mogu “fino podesiti” (eng. fine-tuned) na temelju postojećih slika i videozapisa, što omogućuje stvaranje iznimno realističnih, ali posve lažnih prikaza dječjeg seksualnog zlostavljanja.
Posebno je uznemirujuća činjenica da se AI ne koristi samo za generiranje slika izmišljene djece, već i za stvaranje novih prikaza postojećih žrtava. To znači da se lik djeteta koje je preživjelo stvarno zlostavljanje – čak i ako je originalni materijal uklonjen – može koristiti za generiranje bezbroj novih, izmišljenih scena zlostavljanja. Primjer “Olivije”, pseudonima za žrtvu čije su slike zlostavljanja široko kružile internetom, zorno prikazuje kako su AI modeli “trenirani” na njezinim originalnim slikama, čime se omogućuje stvaranje novih prikaza u bilo kojem scenariju koji zlostavljač zamisli.
Kako AI pogoršava problem:
- Brzina i volumen: AI može generirati stotine fotorealističnih CSAM slika jednim klikom, značajno povećavajući količinu i brzinu širenja zlostavljačkog sadržaja.
- “Kolekcije” i prenamjena: Zlostavljači na forumima dark weba aktivno skupljaju i dijele slike poznatih žrtava, stvarajući svojevrsne “kolekcije”. Ti se prikazi sada koriste za obuku (treniranje) AI modela, što omogućuje stvaranje beskonačnog broja novih slika istih žrtava.
- Nedostatak kontrole: Za razliku od tradicionalnog CSAM-a, gdje se uklanja specifična datoteka, AI modeli omogućuju kontinuirano generiranje novih slika, čineći borbu protiv širenja gotovo nemogućom.
Nevidljiva trauma
Za žrtve dječjeg seksualnog zlostavljanja borba za oporavak iznimno je dugotrajna i neprestana. Spoznaja da su njihove slike, ili čak njihov digitalni lik stvoren AI-jem, još uvijek prisutni na internetu, predstavlja oblik re-viktimizacije i uzrokuje duboku mentalnu patnju.
- Dok su se prije mogli nadati da će uklanjanje izvornog materijala donijeti barem djelomični mir, AI im tu nadu oduzima. Znanje da se njihov lik može koristiti za stvaranje novih scena zlostavljanja znači da njihova trauma potencijalno nikada neće završiti.
- Ovo saznanje stvara golemi mentalni teret, izazivajući tjeskobu, strah od prepoznavanja i otežavajući proces zacjeljivanja. Žrtve se bore s osjećajem bespomoćnosti i trajnog proživljavanja prošlosti.
- Trenutna nacionalna zakonodavstva diljem svijeta često zaostaju za brzim napretkom AI tehnologije. Iako je AI-generirani CSAM nezakonit, alati (poput AI modela za generiranje slika) koji su “trenirani” na CSAM-u trenutno su u nekim zemljama legalni, što stvara opasnu pravnu prazninu.
Borba protiv zloupotrebe AI-ja: Što možemo učiniti?
Ovaj problem zahtijeva hitnu i višestruku reakciju cijelog društva:
- Poboljšanje zakonodavstvenog okvira. Nužno je hitno ažuriranje zakona kako bi se kriminaliziralo stvaranje i posjedovanje AI modela koji su “trenirani” na CSAM-u, čime bi se spriječilo stvaranje novih slika zlostavljanih osoba.
- Tehnološka rješenja. Ključan je razvoj naprednijih AI alata za detekciju CSAM-a, uključujući i onog generiranog umjetnom inteligencijom, te ubrzanje procesa uklanjanja takvog sadržaja s interneta.
- Suradnja. Intenzivnija suradnja između tehnoloških tvrtki, policijskih snaga, vlada i organizacija za zaštitu djece na globalnoj razini nužna je za suzbijanje ovog fenomena.
- Edukacija i svijest. Podizanje svijesti javnosti o ovim mračnim aspektima AI tehnologije i njezinoj zloupotrebi u svrhu seksualnog zlostavljanja djece ključno je za prevenciju i zaštitu.
Kao društvo, moramo osigurati da tehnologija služi na dobrobit svih nas, a ne produbljivanju patnje onih koji doživljavaju traumatska iskustva. Preživjele žrtve dječjeg seksualnog zlostavljanja zaslužuju priliku da pobjegnu od svoje prošlosti i žive život bez straha da će njihova trauma biti rekreirana i vječno kružiti internetom. To je moralna obveza cijelog društva.
Imate dodatnih pitanja o ovoj temi? Stručnjaci Centra za sigurniji internet vam stoje na raspolaganju za sva pitanja i nedoumice na besplatnoj i anonimnoj liniji Centra dostupnoj na broju 0800 606 606, svakim radnim danom od 08:00 do 16:00 sati.
Powered by A1 Hrvatska.
