Borba protiv seksualnog zlostavljanja dece u onlajn prostoru i upotreba veštačke inteligencije

Digitalna era je napravila revoluciju u našim životima, ali je takođe podstakla neviđen porast onlajn seksualnog zlostavljanja dece.

Veštačka inteligencija (AI) ima značajan potencijal da pomogne u borbi protiv sve većeg zlostavljanja dece na internetu koristeći sposobnost obrade velike količine podataka odjednom i uz pomoć brzog učenja ljudskog ponašanja i ljudskih zadataka.

Širom sveta postoji i koristi se više od 50 alata koji su zasnovani na veštačkoj inteligenciji, a pomažu u prevenciji zlostavljanja dece u onlajn prostoru.

Kada se o ovoj temi govori, potrebno je da se preduzmu konkretniji koraci svih zainteresovanih strana kako bi se prevazišle ključne barijere koje sprečavaju šire usvajanje veštačke inteligencije za zaštitu dece od toga da postanu žrtve i da se efektivno radi na tome da se počinioci dovedu do lice pravde.

Kako nam veštačka inteligencija (AI) može pomoći

Veštačka inteligencija može da donosi zaključke, rešava probleme ili preduzima konkretne radnje analizom datih opcija bez potrebe za čvrsto kodiranim uputstvima za svaki scenario. Veštačka inteligencija gradi svoju inteligenciju učeći iz već obrađenih podataka, koristeći statističku analizu kao i podatke koji su dostupni u onlajn prostoru. AI može da sprovede analizu i donese odluku brže i detaljnije nego bilo koji analitičar koji je čovek.

Alati veštačke inteligencije se prevashodno koriste za borbu protiv seksualnog zlostavljanja dece u online prostoru, međutim pokazuju i značajan potencijal u sprečavanju, otkrivanju i efikasnijem procesuiranju krivičnih dela i efektivno doprinose bezbednijem internetu za decu.

Alati za analizu fotografija pomažu u otkrivanju kompromitujućih fotografija i video snimaka analizom osnovnih piksela ili metapodataka. Tehnologija funkcioniše tako što stvara „hash“ jedinstveni digitalni otisak za svaku fotografiju. Heširanje fotografije koja je kvalifikovana kao CSAM od strane ljudskih analitičara se kompajlira u bazu podataka. Ako heš slika postoji u bazi podataka tada se može kontaktirati nadležni organ kako bi se ona uklonila.

Microsoft’s PhotoDNA je postao standardni alat za heširanje. AI ne samo da analizira fotografije, nego ih i klasifikuje u foldere na osnovu uzoraka otkrivenih na fotografiji. Ovo nije jedini alat koji imitira ljudsko oko. Dobar primer je i Griffeye’s image classfier koji skenira fotografije sa ciljem da „uoči“ bilo koji vid zlostavljanja, golotinje ili bilo koje druge zloupotrebe. Pojedini programi analiziraju crte lica i vrše prostornu i teksturnu analizu kako bi se utvrdilo da li lice pripada odrasloj osobi ili detetu. Pored toga, programi mogu da izvrše i analizu kretanja tela i na osnovu toga utvrde da li su video snimci eksplicitni. Klasifikator zatim generiše izlazni rezultat da bi se utvrdilo da li je fajl CSAM.

Ove tehnologije su posebno korisne u borbi protiv trgovine ljudima gde se na mreži mogu identifikovati potencijalni izvršitelji. Jedan od vodećih alata Tellfinder, bori se protiv seksualne eksploatacije skladištenjem stotine hiljada onlajn seksualnih oglasa, vizuelno ih grupišući po brojevima telefona, emailovima i adresama koje nadležni organi mogu identifikovati.

Veštačka inteligencija poboljšava uspešnost otkrivanja i reagovanja na zlostavljanje na mreži i minimizira potrebu za ljudskom analizom. Postoje i alati za obradu jezika kao što su chat-botovi, i oni se koriste za čitanje, razumevanje i komunikaciju pomoću teksta. Ove mogućnosti su korisne za dekodiranje i presretanje nasilnog ponašanja koje se komunicira na mreži. Primer je childsafe.ai koji identifikuje trgovinu seksualnim uslugama, na „skrivenim“ popularnim komercijalnim sajtovima ili eksplicitne oglase na dark vebu koristeći konverzacijske chatbotove za vođenje razgovora sa kupcima i dobavljačima seksualnih usluga, kako bi prikupili dodatne informacije uključujući cene i lokaciju. U ovim slučajevima nadležni organi su u mogućnosti da reaguju i spreče ovakve pojave.

Veštačka inteligencija koristi algoritme modelovane prema ljudskom mozgu i u mogućnosti je da kombinuje različite izvore podataka i metode učenja, kako bi procenila verovatnoću da dete bude zlostavljano ili verovatnoću da je neko izvršilac, čak i kada su signali jedva uočljivi ljudskom oku i mozgu.

Prediktivna analitika

Crisp for Kids and Teens je alat za filtriranje sadržaja. On kada je instaliran na uređajima dinamički filtrira neprikladan sadržaj za ćaskanje, tekst, slike i video sadržaj u realnom vremenu. Upotreba ovog alata kroz profilisanje ponašanja identifikuje i uklanja sve loše aktere sa platformi uključujući veb stranice i društvene mreže.

Centar za nestalu i zlostavljanu decu i korišćenje AI

Centar za nestalu i zlostavljanu decu je u decembru 2021. godine postao član INHOPE mreže (www.inhope.org). INHOPE predstavlja globalnu mrežu hotline-ova u čijem fokusu je ilegalan online sadržaj i iskorenjivanje seksualnog iskorišćavanje dece na internetu.

Net Patrola nudi građanima mogućnost da anonimno ili predstavljajući se, prijave sumnju na ilegalan sadržaj koji se odnosi na seksualno iskorišćavanje dece na internetu.

Centar za nestalu i zlostavljanu decu je u svoj rad implementirao korišćenje veštačke inteligencije kroz rad Net Patrole, platforme na koju možete prijaviti štetan sadržaj ukoliko ste naišli na njega dok ste surfovali internetom. Prijavom štetnog sadržaja na Net Patroli naši analitičari pregledaju sadržaj i putem veštačke inteligencije i softvera dolaze do podataka koji se tiču porekla tog sadržaja i njegovog mesta hostovanja na samu mrežu i dalje vrše prijavu nadležnim organima ukoliko procene da je to neophodno.

master pravnik, Aleksandar Karov

Izvori: https://www.bracketfoundation.org/

Postani član CNZD!

Da li ćeš pomoći ako znaš da možeš? Sada je tvoja prilika – podrži našu misiju i rad učlanjenjem u zajednicu koja okuplja ljude kojima je prioritet bezbedno odrastanje dece u Srbiji.

Bezbedna priča

Posetite zvanični podkast Centra za nestalu i zlostavljanu decu

CSI