Piše: Timea Kukla
“Skini bilo koju devojku koju poželiš! Probaj odmah, besplatno je!” je bio poziv na akciju jedne od reklama na Instagramu. Upravo ovo otvoreno reklamiranje aplikacija koje mogu da nam naštete, unutar aplikacije koju masovno koriste deca i mladi, pokazuje da se opasnosti ne kriju u nekim mračnim, dalekim kutcima interneta, nego da su najčešće upravo tu, ispred nas. Kao i sve što je novo: ili nas plaši ili nas intrigira da i sami probamo, a deca su najčešće u ovoj drugoj grupi.
izvor: 404 media https://www.404media.co/instagram-advertises-nonconsensual-ai-nude-apps/
Decu ne smemo da krivimo jer su radoznala, a naša obaveza je da budemo informisani o novim pojavama na internetu kako bismo osigurali njihovu bezbednost u virtuelnom svetu. Jedna od takvih novosti, na koju moramo obratiti pažnju je – Undress AI.
Šta je undress AI?
Undress AI (undress – skinuti, eng.) je alat koji koristi veštačku inteligenciju da digitalno ukloni odeću sa osoba na fotografijama. Ovaj alat analizira godine osobe sa fotografije, oblik tela, pozu i druge pojedinosti kako bi što vernije generisao nagu fotografiju. Rezultat su hiperrealistične fotografije koje mogu lako da se zloupotrebe na različite načine.
Deca su veoma brzo došla na ideju kako ovaj alat može da se koristi…
Od početka godine, u proteklih 5 meseci, od ovakve vrste zlostavljanja stradale su poznate ličnosti, a nisu pošteđena ni deca. U martu su u Americi uhapšena dva tinejdžera jer su generisali ovakve fotografije od devojčica iz razreda i međusobno razmenjivali taj materijal.
U januaru je devojčica od 14 godina izvršila samoubistvo nakon što je jedan učenik iz njenog razreda napravio ovakvu fotografiju i podelio je u zatvorenoj grupi, pa tražio da se oceni “njeno” telo. Ovo su samo dva primera, a slučajeva je sve više.
Tokom jednog meseca, kako na dark webu, tako i na regularnom internetu, osvane oko 20.000 ovakvih, veštački generisanih, deepfake fotografija, prema izveštaju Internet Watch Fondacije.
Deca najčešće nisu svesna posledica jer nisu kognitivno dovoljno razvijena
Ono što deca, a vrlo često ni odrasli ne znaju jeste da – jednom generisane, ove fotografije kada se podele ili objave, više nisu u našem vlasništvu, i ni na koji način ne možemo da kontrolišemo njihovu dalju distribuciju. Dalje, deljenje ovakvog materijala utiče na mentalno stanje osobe prikazane na njemu, na njenu reputaciju, buduće zaposlenje, a izlaže je i riziku da bude eksploatisana od strane pedofila koji na internetu prikupljaju fotografije dece.
Kako ovome stati na put?
Prevencija zloupotrebe veštačke inteligencije počinje obrazovanjem i otvorenom komunikacijom. Roditelji, nastavnici i svi drugi stručnjaci koji rade sa decom treba da, nakon što se informišu, otvoreno razgovaraju sa njima o ovoj pojavi. Bez izazivanja osećaja krivice, zabrana i osuđivanja, decu treba upoznati sa potencijalnim rizicima i posledicama i važnosti poštovanja privatnosti i dostojanstva drugih na internetu.
Odgovor Google i Apple prodavnice
Gugl je ažurirao politiku oglašavanja i nova verzija ističe da će biti zabranjene sve aplikacije i stranice koje „promovišu veštački sadržaj koji je izmenjen ili generisan da bude seksualno eksplicitan ili sadrži golotinju.“ To uključuje i veb stranice, a posebno aplikacije koje nude alate za kreiranje nagih fotografija koristeći veštačku inteligenciju. Ubrzo nakon odgovora Gugla na naglu popularizaciju alata za digitalno uklanjanje odeće, i Apple je iz svog AppStore-a obrisao aplikacije koje nude mogućnosti kreiranja seksualnog sadržaja.
Zabrana boravka na internetu?
Internet nije nužno niti loš, niti dobar. Kada se koristi odgovorno, može da obogati naše živote i pruži nam saznanja, informacije i prilike do kojih inače ne bismo nikad došli. Međutim, ključno je da novim alatima pristupamo s oprezom i poštovanjem prema pravima i dobrobiti ljudi sa kojima se susrećemo, kako onlajn, tako i oflajn. To se postiže uspostavljanjem i negovanjem kulture digitalne pismenosti, empatije i etičkog ponašanja, a ne zabranom boravka na internetu ili zabranom korišćenja telefona.
