Umjetna inteligencija (AI) danas je dio svakodnevice: od aplikacija za učenje i komunikaciju do alata koji stvaraju fotografije, tekst i videozapise. Iako donosi brojne mogućnosti, njezin razvoj otvara i nova pitanja vezana uz sigurnost djece i mladih u digitalnom okruženju.
Stručnjaci za zaštitu djece upozoravaju kako osobe koje iskorištavaju djecu sve češće koriste umjetnu inteligenciju za razvoj sofisticiranijih oblika online manipulacije. Zbog toga je važno da roditelji, skrbnici i stručnjaci razumiju potencijalne rizike te razgovaraju s djecom o sigurnom korištenju digitalnih tehnologija.
Tri ključna rizika:
- Lažni eksplicitni sadržaji generirani umjetnom inteligencijom
Današnji AI alati mogu stvoriti vrlo uvjerljive fotografije ili videozapise koji izgledaju stvarno, iako su u potpunosti umjetno generirani. Takvi sadržaji mogu biti iskorišteni za ucjene, zastrašivanje ili seksualnu iznudu djece i mladih. Posebno zabrinjava činjenica da počinitelji više ne trebaju stvarne fotografije žrtve. Fotografije preuzete s društvenih mreža ili drugih javno dostupnih izvora mogu poslužiti kao osnova za izradu lažnih kompromitirajućih sadržaja.
- Online grooming uz pomoć umjetne inteligencije
Umjetna inteligencija može pomoći počiniteljima u prikupljanju informacija o interesima, navikama i načinu komunikacije djece. Na temelju tih podataka lakše stvaraju uvjerljive lažne profile i prilagođavaju razgovore kako bi stekli povjerenje djeteta. Takav oblik manipulacije može biti znatno sofisticiraniji od tradicionalnog groominga jer omogućuje personaliziran pristup svakoj potencijalnoj žrtvi.
- Deepfake sadržaji i lažno predstavljanje
Razvoj AI tehnologije omogućio je izradu vrlo uvjerljivih lažnih fotografija, videozapisa i glasovnih snimki. Počinitelji se mogu predstavljati kao prijatelji, vršnjaci ili druge poznate osobe kako bi lakše zadobili povjerenje djece. Takve prijevare mogu dovesti do dijeljenja osobnih podataka, fotografija ili drugih osjetljivih informacija te predstavljaju sve veći izazov za sigurnost djece na internetu.
Kako roditelji mogu pomoći?
Iako tehnologija napreduje velikom brzinom, najbolja zaštita i dalje je otvorena komunikacija i razvoj digitalnih kompetencija.
Roditeljima se preporučuje:
- redovito razgovarati s djecom o njihovim iskustvima na internetu;
- poticati kritičko promišljanje i provjeru vjerodostojnosti fotografija, videozapisa i poruka;
- objavljivati što manje osobnih fotografija i podataka djece na javno dostupnim profilima;
- koristiti postavke privatnosti i roditeljske kontrole na uređajima i društvenim mrežama;
- ohrabrivati djecu da se obrate odrasloj osobi od povjerenja ako ih nešto na internetu uznemiri ili im se učini sumnjivim.
Digitalna pismenost kao najbolja zaštita
Umjetna inteligencija nastavit će mijenjati način na koji koristimo internet. Zato je važno razvijati digitalnu pismenost djece i odraslih te pratiti nove oblike internetskih prijevara i manipulacija. Pravovremena edukacija, otvoren razgovor i zajedničko korištenje digitalnih tehnologija mogu značajno smanjiti rizike i pomoći djeci da sigurnije koriste mogućnosti koje nove tehnologije donose.
