Piše: prof. dr Aleksandar Jugović, redovni profesor Univerziteta u  Beogradu i član Saveta Centra za nestalu i zlostavljanu decu

Veštačka inteligencija je, svakako, revolucionarna tehnologija koja svoju primenu ima i u prevenciji vršnjačkog nasilja, ali ne može da zameni neposrednu komunikaciju roditelja i nastavnika sa detetom koja će uvek ostati ključna i nezamenljiva.

Veštačka inteligencija (eng. artificial intelligence – AI) je ishod novog razvoja kompjuterskih sistema koji mogu da obavljaju aktivnosti za koje je do sada bila potrebna sposobnost delovanja isključivo čoveka. Generativna AI „uči“ iz instrukcija koje dobija iz meta-analiza velikih količina podataka iz postojećih sadržaja. Ona na interaktivan način, potom, proizvodi nove formate kao odgovor na naše zahteve. Veštačka inteligencija omogućava da se kreiraju brojni sadržaji kao što su: fotografije, video zapisi, eseji, filmovi, tekstovi pesama, muzički spotovi, glasovi, umetnička dela, pa čak i realistični „razgovori“ sa robotima i tzv. čet-botovima. Ona, zaista, donosi brojne mogućnosti unapređivanja pozitivnog civilizacijskog kretanja čovečanstva, posebno u oblasti medicine, obrazovanja i tehnologije. 

Šta su rizici zloupotrebe veštačke inteligencije?

Pored velikih mogućnosti korišćenja veštačke inteligencije, postoje i rizici zloupotreba ove tehnologije na zlonameran način, kada ona postaje tehnološko sredstvo (vršnjačkog) nasilja. Postoje brojni primeri ovakve zloupotrebe AI kao što su:

• kreiranje lažnih profila na društvenim mrežama; 
• stvaranje neistinitih audio ili video zapisa; 
• slanje uvredljivih memova; 
• montiranje lažne pornografije;
• verbalni napadi na žrtve malicioznim i pretećim automatizovanim komentarima;
• korišćenje naloga tzv. botova za masovno lažno prijavljivanje neke osobe za krivično delo;
• seksualno iznuđivanje (eng. sextortion) koje je praćeno ucenjivanjem žrtve, da će biti podeljene fotografije, video klipovi ili saznanja o seksualnim navikama, osim ako žrtva ne plati novcem ili se ne upusti u seksualni čin sa osobom koja je ucenjuje;
• pravljenje lažnih slika sa licem žrtve koje na različite načine ponižavajuće napadaju nečiji integritet, vređaju poreklo ili diskriminišu dete zbog bilo koje različitosti; itd.

Zbog ovoga moramo biti svesni da veštačka inteligencija stvara i prostor za vršnjačko digitalno nasilje. Deca ili odrasli koji ugrožavaju maloletne osobe koristeći veštačku inteligenciju to mogu da čine na realistične i ponižavajuće načine. To stvara rizik od negativnih posledica po dete. Tragovi digitalnog nasilja uz primenu veštačke inteligencije mogu da razore osećaj bezbednosti i socijalne prihvaćenosti kod deteta u grupi vršnjaka, kao i da dovedu do:

• pada nivoa samopoštovanja; 
• učestalih izostanaka iz škole; 
• slabijeg školskog uspeha; 
• smanjivanja pažnje i koncentracije u procesu učenja; 
• visokog nivoa traumatizovanosti i stresa; 
• psihijatrijskih poremećaja, kao što su anksioznost i depresija; 
• pojave suicidalnih misli i ponašanja, itd.

Kako AI može biti sredstvo u prevenciji vršnjačkog nasilja?

Veštačka inteligencija otvora brojne prostore za prevenciju vršnjačkog nasilja i smanjivanja bezbednosnih rizika po decu u korišćenju interneta. Na primer, neki roditelji već koriste rešenja koja su zasnovana na veštačkoj inteligenciji, kao što su aplikacije za roditeljsku kontrolu i moderiranje sadržaja na internet mreži. 

Iz društvene perspektive, na prvom mestu je potrebno da razumemo potrebu za digitalnim promenama, koje su se kretale od poznavanja računarskih sistema i IT veština do razvoja digitalne pismenosti. Danas više nije dovoljno znati „rad na računaru“ već treba razumeti funkcionisanje i rizike digitalnog okruženja. No, za potpuno korišćenje AI u prevenciji vršnjačkog nasilja biće potrebne godine pokušaja i grešaka kako bi se ona u potpunosti iskoristila i za ovakve humane ciljeve. Zato je važno da budemo svesni u kom pravcu se razvija ova tehnologija koja može biti u korist zaštite dece.

U tehnološkom smislu, kao kontrolno-preventivna aktivnost, veštačka inteligencija može delovati na sledeće načine: 

• filtrirati nepoželjni web sadržaj; 
• nadzirati sajber nasilje; 
• upozoravati na samopovređivanje dece; 
• pratiti tekstualne poruke;
• upozoravati roditelje na potencijalne bezbednosne pretnje;
• otkriti raspon pažnje i emocionalno stanje deteta;
• razviti kontakt za podršku žrtvama kroz društvene mreže, itd.

Veštačka inteligencija se razvija u pravcu mogućnosti njene upotrebe u razvoju socijalnih veština dece, a posebno empatije koja je jedan o ključnih protektivnih faktora u sprečavanju vršnjačkog nasilja. U školama vrlo brzo možemo očekivati virtuelne učionice koje će biti opremljene AI sa programima za razvoj veština emocionalne inteligencije. Učenici će raditi sa AI mentorima ili na platformama za učenje uz podršku nastavnika u učionici. Na taj način AI pomaže deci da razvijaju veštine emocionalne inteligencije. Kroz dijalog sa AI mentorom deca mogu modelovati realne situacije u pravcu razumevanja i osećanja drugih osoba.

Prema projektu KidActions EU postoje tri ključne prednosti veštačke inteligencije kao alata za borbu protiv sajber nasilja (dostupno na: https://www.kidactions.eu/2022/08/04/artificial-intelligence/):

1. AI otvara mogućnosti za rano otkrivanje nasilja putem interneta – alogoritmi mogu da otkrivaju rane znake sajber nasilja, i time pravovremeno spreče ozbiljne posledice sajber nasilja po dete;
2. AI sprečava dalje širenje nasilja na internetu – alogoritmi precizno određuju ko su nasilnici, žrtve i posmatrači u svakoj situaciji, što pomaže da se spreči širenje toksičnog jezika i govora mržnje;
3. AI omogućava da se žrtvama predloži personalizovana podrška nakon nasilja – alogoritmi mogu identifikovati konkretan izvor problema i dati akcioni plan prilagođen posebnim potrebama žrtava sajber nasilja i njihovih porodica.

U razvoju preventivnih aktivnosti prema vršnjačkom nasilju izuzetno je važno da o karakteru ovih aktivnosti budi pitana i deca. Sajber nasilje nije samo problem bezbednosti dece koja se rešava uklanjanjem neželjenog sadržaja, nego isto toliko i pitanje odnosa u vršnjačkoj grupi koji produkuju vršnjačko nasilje u digitalnom okruženju. Zato je bitno, kao deo prevencije, razvijati spektar veština digitalnog ponašanja. 

Pomenuta projektna organizacija KidActions EU predlaže da u prevenciji vršnjačkog nasilja treba kod dece razvijati šest veština digitalne pismenosti. To su:

• saradnja – sposobnost rada u grupi sa dvoje ili više dece kako bi se izvršio zajednički zadatak ili postigao zajednički cilj;
• kreativnost – sposobnost generisanja inovativnih ideja, donošenja nestandardnih odluka i analiziranja novih i postojećih mogućnosti;
• kritičko razmišljanje – sposobnost analiziranja činjenica, ocenjivanja argumenata i jasnog razmišljanja o tome šta radite i u šta verujete;
• samostalnost – sposobnost da nastavite sa svojim ličnim rastom dok se usavršavate u različitim aspektima kroz doživotno učenje;
• online etika – sposobnost odabira ispravnih obrazaca ponašanja kada ste povezani na internet, kako po zakonu tako i po ličnoj filozofiji;
• upravljanje ličnim informacijama – sposobnost upravljanja i kontrole onlajn identiteta kroz organizovanje i održavanje ličnih podataka.

Prevencija vršnjačkog digitalnog nasilja kroz AI, zahteva da ključni akteri budu i roditelji i nastavnici. Oni moraju imati razvijen dovoljan nivo znanja i veština, kako bi deci pomogli u njhovom digitalnom odrastanju. Sada postoji problem da roditelji nekada ne znaju uopšte koje aplikacije njihova deca koriste! Deca i roditelji su, često, dva odvojena digitalna sveta. Roditelji zato treba da znaju kako da:

• izaberu podešavanja sadržaja visoke privatnosti; 
• kontrolišu ko vidi sadržaj koje koristi njihovo dete;
• kako da prijave, uklone, blokiraju i ponište „digitalno prijateljstvo“ deteta koje ga možda ugrožava;
• kako da prijave nasilje uz pomoć AI.

Ipak, ono što je ključno jeste da roditelji razgovaraju sa decom i da osete kada postoji promena koja ukazuje da je dete bilo žrtva, odnosno izloženo uznemirujućem sadržaju na internetu. Decu treba upoznati i sa dobrim, ali i lažnim aspektima digitalnih svetova. Mi živimo u postistinitom dobu koje zahteva stalno učenje pravljenja razlika između realnosti i fikcije, privatnosti i prisutnosti, brutalnosti i empatije u digitalnom okruženju.

Šta su izazovi primene AI u prevenciji vršnjačkog nasilja?

U razvoju primene veštačke inteligencije u prevenciji vršnjačkog nasilja čekaju nas brojni izazovi. Pre svega u sferama bezbednosti, diskriminacije i privatnosti dece. 

U sferi bezbednosti dece, na primer, softver koji prepoznaje lica ili nečiji tekst mora da  prikuplja i čuva te podatke u realnom vremenu. To daje mogućnost da ovi podaci mogu biti, potencijalno, hakovani i zloupotrebljeni. Još jedan problem je kako ne narušiti mentalno zdravlje dece ako su stalno kontrolisana i snimana. Osećanje da su stalno „pod prismotrom“ može stvoriti anksiozne odgovore, što je dodatna teškoća za onu decu koja se već bore sa ovim problemom mentalnog zdravlja. 

Drugi izazov je pitanje moguće diskriminacije. Porodice iz osetljivih društvenih grupa, kao što su migranti ili etničke i rasne manjine, su posebno ranjive na pitanje nadgledanja njihove dece koja su zbog ličnih svojstava u značajno većem riziku od diskriminacije. Softveri koji omogućavaju AI administratorima nadzor, mogu izazvati kod ovih porodica skepsu zbog mogućeg postojanja predrasuda prema njihovoj deci koja bi zato mogla biti značajno više ciljano praćena i kontrolisana. To je važno etičko pitanje za one koji bi kontrolisali primenu veštačke inteligencije u prevenciji vršnjačkog nasilja u konkretnoj sredini, poput jedne škole.

I treći izazov jeste problem privatnosti. Primena veštačke intelignecije u praćenju aktivnosti dece znači i prikupljanje podataka sa naloga učenika na društvenim mrežama. Time se otvaraju pitanja ko i kako čuva podatke i na koji način mogu roditelji da kontrolišu taj proces? Postoji rizik da se, na taj način, prava deteta i roditelja neželjeno ugrožavaju. 

Pouke za kraj

Veštačka inteligencija je, svakako, revolucionarna tehnologija koja svoju primenu ima i u prevenciji vršnjačkog nasilja. Ipak, AI ne može da zameni neposrednu komunikaciju roditelja i nastavnika sa detetom koja će uvek ostati ključna i nezamenljiva. Adekvatno i uspešno roditeljstvo je temelj pozitivnog razvoja deteta. Jedinstven odnos između roditelja, nastavnika i deteta nikada ne može zameniti, ma koliko razvijena tehnologija. Takođe, AI će zahtevati da definišemo brojna pravna i etička pitanja, poput onih o nadzoru, privatnosti i diskriminaciji. Verujem da je jedini ispravan put u prevenciji vršnjačkog nasilja da pronađemo pravu formulu balansa između savremene tehnologije, pozitivnog roditeljstva, politika promocije humanosti, zakona i moralnih pravila digitalnog života.