Minimalna starosna granica: 18+ (ali su dostupne i mlađima bez provere starosti)
Šta su ove aplikacije?
Postoje online platforme i aplikacije koje koriste veštačku inteligenciju kako bi
“modifikovale” fotografije ljudi, uklanjajući njihovu odeću, menjajući izraze lica, dodajući
eksplicitne elemente, kreirajući tako tzv. deepfake sadržaj. Veštačka inteligencija sa
neverovatnom preciznošću skrenira oblik tela, boju kože i sve druge karakteristike, pa je
konačan rezultat izuzetno uverljiv. Neke od njih tvrde da služe za „zabavu“ ili „umetničke
efekte“, ali u praksi se koriste za kreiranje lažnih, seksualizovanih fotografija i videa,
najčešće bez pristanka osobe sa fotografije.
Na šta roditelji treba da obrate pažnju:
Zloupotreba fotografija dece i mladih
Ove aplikacije omogućavaju da se bilo koja fotografija, čak i sa profila na društvenim
mrežama, obradi tako da izgleda eksplicitno. Ovo se dešava bez znanja ili pristanka
osobe na slici. U nekim slučajevima, takve slike se potom dele dalje, ucjenjuju ili koriste
za manipulaciju.
Vršnjačko nasilje i online osramoćivanje
Sve češće se ovakve slike koriste kao sredstvo za zlostavljanje, kako bi se deca ponizila,
izložila podsmehu, uceni ili maltretiranju u školi i online. Neki slučajevi su doveli i do
ozbiljnih posledica po mentalno zdravlje žrtava, pa čak i samoubistva.
Krivično-pravni rizici
Kreiranje, čuvanje i deljenje seksualno eksplicitnih fotografija maloletnika, čak i ako su
one veštački generisane i “lažne” predstavlja ozbiljno krivično delo u većini zemalja.
Dete koje koristi ovakvu aplikaciju može nenamerno učestvovati u distribuciji
nelegalnog sadržaja, što nosi pravne posledice.
Lažno uverenje o anonimnosti
Mnogi korisnici veruju da su ovakve aplikacije “bezbedne” jer ne traže registraciju ili
koriste servere van zemlje. Međutim, ovi sistemi često prikupljaju IP adrese, podatke sa
uređaja i što je najopasnije zadržavaju sve aploadovane fotografije koje korisnik unese,
čuvajući ih na nepoznatim serverima.
Tehničke karakteristike koje treba znati
● Veštačka inteligencija se koristi za „svlačenje“, obradu i generisanje lažnih
fotografija koje izgledaju veoma uverljivo.
● Nema podešavanja za decu, nema provere identiteta i uzrasta.
● Fotografije koje se unesu ostaju trajno na serverima.
● Ovakve aplikacije se često promovišu putem TikToka, Reddita i Discord
zajednica.
Saveti za roditelje
Razgovarajte o štetnosti i nelegalnosti
Objasnite deci da korišćenje ovakvih aplikacija može ozbiljno narušiti nečiji život, kao i
njihov. Ovo nije “zabava” ili “šala”, već digitalno nasilje i potencijalno krivično delo.
Ohrabrite empatiju i poštovanje
Podsežajte decu da su na fotografijama na koje nailaze onlajn stvarni ljudi, sa stvarnim
životima, porodicama, poslom, školom… Bilo kakva obrada tih fotografija bez pristanka
osobe na njoj je kršenje njihove privatnosti, dostojanstva i prava.
Pratite online aktivnosti i interakcije
Obratite pažnju na to koje aplikacije vaša deca preuzimaju i koriste. Ako primetite
aplikaciju sa nepoznatim ili čudnim nazivom, proverite njenu svrhu pre nego što
započnete razgovor o njoj.
Prijavite svaki sumnjiv sadržaj
Ukoliko primetite da je nečija fotografija zloupotrebljena na ovaj način, odmah reagujte!
Prijavite anonimno na www.netpatrola.rs i/ili nadležnim organima.
Dodatna podrška i prijavljivanje
Linija za pomoć: 0800 200 880
Prijava nelegalnog sadržaja: www.netpatrola.rs
Sumnja na online zlostavljanje: Odmah kontaktirajte policiju
Uklanjanje eksplicitnih fotografija: www.ncii.csi.org.rs
Više korisnih resursa: www.cnzd.rs
Besplatna psihološka i pravna podrška: kontakt@cnzd.rs
