Piše: doc. dr Jovana Škorić, koordinator istraživačkog tima Centra za nestalu i zlostavljanu decu

Republika Srbija tek je nedavno počela je da pokazuje zainteresovanost za temu veštačke inteligencije generalno, međutim i dalje ne postoje relevantni dokumenti koji se specifično bave zaštitom dece u ovom domenu.

Veštačka inteligencija (u daljem tekstu VI) nesumnjivo nudi (deci) različite mogućnosti, ali takođe povećava i rizik od ugrožavanja i narušavanja njihovih prava. Sve veći broj istraživanja nastoji da bolje razume rizike primene veštačke inteligencije, posebno u domenu zaštite dece, što je i jedan od glavnih napora kreatora različitih politika.
Sistemi veštačke inteligencije postaju sve prisutniji u različitim aspektima života deteta, odnosno sve je veća njihova prisutnost u uređajima, aplikacijama, uslugama, obrazovanju, igrama i sl. Dakle, nije sporno da VI sistemi pružaju mnogo mogućnosti, kao što su na primer personalizovana nastava i učenje putem inteligentnih sistema, algoritmi za praćenje i filtriranje štetnih (ili deci neprimerenih sadržaja) na internetu, socijalni roboti koji omogućavaju nova iskustva i zabavu itd., ali je vrlo važno biti svestan i rizika koje ovaj trend donosi. Štaviše, u budućnosti se predviđa da će VI sistemi, najverovatnije, postati još prisutniji u različitim dečijim aplikacijama zbog svoje velike korisnosti u stvaranju privlačnih, adaptivnih i personalizovanih korisničkih aktivnosti. Ipak, uprkos različitim pomenutim benefitima, još uvek nije dovoljno istraženo na koje načine rizici i različita etička pitanja u vezi sa veštačkom inteligencijom utiču na decu, te se postavlja pitanja da li je upotreba sistema veštačke inteligencije u različitim domenima zabrinjavajuća po decu, posebno ukoliko se govori o kontekstu zaštite (i unapređenja) prava deteta? Odnosno, da li su nam potrebne nove zakonske regulative, strategije i smernice koje će zaštiti prava deteta i podstaći odgovorn(ij)u primenu VI? 

Prava deteta i primena veštačke inteligencije su složena pitanja koja zahtevaju posebnu pažnju, kao i pažljivo kreirana rešenja. Naime, obezbeđivanje adekvatne (pravne) zaštite dece u kontekstu veštačke inteligencije zahteva usvajanje posebnih zakona, etičkih standarda, obrazovanje i kontrolu. Samo kombinacija ovih mera može da osigura da veštačka inteligencija doprinese razvoju dece, štiteći njihova prava i sigurnost. Dakle, harmonizovana i koordinisana akcija jeste imperativ kada se govori o kontekstu zaštite dece i minimiziranja rizika i štetnih uticaja na njihovu privatnost, sigurnost i razvoj. 

Iako širom Evrope već postoje brojne inicijative od strane vladinih i nevladinih tela koje predlažu različite smernice ka poštovanju prava deteta u kontekstu veštačke inteligencije, Republika Srbija tek je nedavno počela je da pokazuje zainteresovanost za temu veštačke inteligencije generalno, međutim i dalje ne postoje relevantni dokumenti koji se specifično bave zaštitom dece u ovom domenu. Sa druge strane, ključno je usvojiti pristup fokusiran na decu kako bi se razumeli specifični izazovi koje je VI donela kada je reč o rizicima kojima su deca svakodnevno izložena. 

Glavni rizici kada se govori o zaštiti dece odnose se na sledeće:

• Privatnost i zaštita podataka deteta – VI sistemi mogu da prikupljaju i/ili dele lične podatke o detetu, a isti u nekom momentu mogu biti zloupotrebljeni. Naime, zloupotreba podataka može da se kreće od komercijalnih svrha do različitih kriminalnih radnji;

• Bezbednost na internetu – npr. VI može da bude zloupotrebljena za stvaranje lažnih i/ili manipulativnih slika, video zapisa, audio zapisa i sl., koji mogu da se koriste u svrhu zlostavljanja i/ili prevara što predstavlja ozbiljne rizike po bezbednost dece na internetu;

• Smanjenje autonomije i zdrav razvoj deteta – prekomerno korišćenje VI može negativno da utiče na mentalno zdravlje deteta, izazivajući probleme i emocionalna stanja poput anksioznosti, depresije, izolacije, izostanak socijalnih veština i sl.;

• Izloženost različitim predrasudama i stereotipima – VI uzima podatke iz ogromne količine onlajn podataka, između ostalog i sadržaje koji uključuju predrasude, stereotipe pa čak i mržnju. To može da dovede do učvršćivanja negativnih stavova i različitih negativnih postupaka kod dece;

• Preplavljivanje dece prodajnim i marketing porukama – VI prati onlajn aktivnosti korisnika, u ovom slučaju dece, kako bi kreirala personalizovane profile i shodno tome ciljane reklame. Istorija pretraga i onlajn interakcija dece može ih učiniti ranjivim metama agresivnih marketinških kampanja.

Saveti za roditelji kako mogu da zaštite svoje dete od rizika koje donosi VI:

• Razgovarajte sa svojom decom o VI – prilagodite svoje razgovore uzrastu i nivou razumevanja vašeg deteta. Nemojte da zastrašujete malu decu, ali svakako ih upoznajte sa činjenicom da smart telefon nije isto što i pouzdan prijatelj. Razgovarajte i o razlikama između ljudi i digitalnih asistenata, kao i o razlikama između prijatelja i poruka na društvenim mrežama;

• Sa tinejdžerima vodite otvorene diskusije o privatnosti, pristrasnosti, vršnjačkom nasilju i drugim pitanjima o bezbednosti na internetu – ovo ne znači da držite moralne propovedi i ne pokušavajte da odjednom obuhvatite sve aspekte veštačke inteligencije. Pitajte ih za njihovo mišljenje i budite otvorenog uma jer to može da pokrene diskusije koje će vam pomoći da zajedno učite;

• Naučite stariju decu kako da zaštite lične podatke na internetu – objasnite im kako da upravljaju kolačićima, kada i kako da blokiraju korisnike na društvenim platformama, kada da se obrate odrasloj osobi od poverenja i sl.;

• Isprobajte VI zajedno – razmislite o testiranju aplikacija koje pokreće VI zajedno sa svojom decu jer vam to može pružiti priliku da razgovarate o tome kako te tehnologije funkcionišu i da prikažete probleme koji vas brinu u vezi sa tim;
• Podstičite radoznalost i kritičko mišljenje – izazovite svoju decu da traže različite znakove pristrasnosti u onlajn sadržaju. Na primer, možete osmisliti igru u kojoj tražite sadržaje koji izgledaju stvarno naspram onih koji izgledaju kao laž. Pitajte decu odakle misle da potiču informacije ili slike? Da li osoba, kompanija ili grupa koja ih deli ima neki cilj? Zašto da im verujemo?

Na kraju, iako VI može da ponudi mnogo prednosti, potrebno je pažljivo razmotriti rizike kako bi se osigurala adekvatna zaštita (prava) deteta. Ovo uključuje nove regulative, etičke standarde, kao i kontinuiranu edukaciju svih građana. Takođe, kada se govori o kontekstu dece, važno je da roditelji i staratelji budu informisano o tehnologijama VI, aktivno prate onlajn aktivnosti svoje dece, a pre svega da ih obrazuju o bezbednom i odgovornom korišćenju interneta. Svakako, podsticanje otvorenog razgovora o potencijalnim opasnostima VI može da pomogne deci da sigurne i kritički navigiraju digitalnim svetom. 

Reference za dalje čitanje:

Kawakami, A., Sivaraman, V., Cheng, H.-F., & Stapleton, L. (2022). Improving Human-AI Partnerships in Child Welfare: Understanding Worker Practices, Challenges, and Desires for Algorithmic Decision Support. In CHI ’22: CHI Conference on Human Factors in Computing Systems.
Mukherjee, S., K. Pothong & S. Livingstone (2021). Child Rights Imapct Assessment: A Toll to Relise Child Rights in the Digital Environment. London: Rights Foundation.
UNICEF (2022). Harnessing Artificial Intelligence for Child Protection: A Global Perspective. https://www.unicef.org/media/100211/file/DIGITAL%20UNICEF.pdf.