Više od 400 hiljada prijava zloupotrebe djece uz pomoć vještačke inteligencije

Više od 400 hiljada prijava zloupotrebe djece uz pomoć vještačke inteligencije

Broj prijava seksualne eksploatacije i zlostavljanja djece povezanih sa vještačkom inteligencijom porastao je sa oko 4.700 u 2023. na više od 400.000 u 2025. godini, pokazuju podaci predstavljeni u novom međunarodnom izvještaju instituta Childlight, koji djeluje pri Univerzitetu u Edinburgu.

Među sve češćim oblicima zloupotrebe su stvaranje lažnih intimnih fotografija djece pomoću AI alata, koje se zatim mogu koristiti za ponižavanje, ucjenjivanje i seksualno uznemiravanje.

Prema izvještaju Into the Light Index 2026, objavljenom danas, broj prijava povezanih sa generativnom vještačkom inteligencijom povećan je za 8.411 odsto u periodu od dvije godine.

Podaci potiču od američkog Nacionalnog centra za nestalu i eksploatisanu djecu (NCMEC), kojem tehnološke kompanije i građani prijavljuju sumnje na seksualnu eksploataciju djece na internetu.

Istraživači upozoravaju da ovakav rast ne znači nužno da se broj žrtava povećao u istoj mjeri. Dio porasta može biti posljedica boljeg otkrivanja i prijavljivanja zloupotreba, a prijave obuhvataju različite načine korišćenja AI tehnologije, ne samo stvaranje novih fotografija i video snimaka.

Ipak, podaci ukazuju na ozbiljnu promjenu u načinu na koji digitalne tehnologije mogu biti zloupotrijebljene protiv djece.

Jedan od problema na koji stručnjaci posebno upozoravaju jeste upotreba takozvanih nudify aplikacija i drugih AI alata, koji mogu da pretvore običnu fotografiju osobe u lažni seksualizovani sadržaj.

To znači da počinilac može iskoristiti fotografiju sa društvene mreže, školskog događaja ili drugog javno dostupnog izvora kako bi napravio sliku koja prikazuje dijete u situaciji koja se nikada nije dogodila.

Takav sadržaj može izgledati uvjerljivo iako je potpuno izmišljen.

Posljedice po dijete, međutim, mogu biti stvarne. Lažne fotografije mogu se dijeliti među vršnjacima, koristiti za ponižavanje ili kao sredstvo ucjene, uz prijetnje da će biti objavljene ili poslate porodici, prijateljima i školi.

NCMEC upozorava da se zloupotrebe ne događaju samo u kontaktu sa nepoznatim odraslim osobama. Među prijavljenim slučajevima postoje i oni u kojima djeca ili adolescenti koriste AI alate za pravljenje i širenje seksualizovanih fotografija svojih vršnjaka.

Više od 158.000 AI sadržaja identifikovano za tri godine

NCMEC navodi da je od januara 2023. do decembra 2025. identifikovao više od 158.000 fotografija i video-snimaka sa sadržajem seksualnog zlostavljanja djece koji je generisan pomoću vještačke inteligencije.

To je zaseban pokazatelj od ukupnog broja prijava povezanih sa AI tehnologijom, koje mogu obuhvatati i pokušaje stvaranja takvog sadržaja, manipulaciju postojećim materijalom i druge oblike eksploatacije.

Prema podacima organizacije Internet Watch Foundation, koje prenosi Childlight, čak 65 odsto analiziranih AI-generisanih video-snimaka seksualnog zlostavljanja djece tokom 2025. svrstano je u najtežu kategoriju sadržaja prema britanskim kriterijumima.

Autori izvještaja upozoravaju da razvoj generativne AI tehnologije stvara nove mogućnosti za seksualnu eksploataciju djece i otežava njeno otkrivanje i sprečavanje.

Šta roditelji mogu da urade?

Stručnjaci NCMEC-a savjetuju da roditelji prije svega pruže podršku djetetu i ozbiljno shvate svaku prijetnju, čak i kada je sporna fotografija očigledno napravljena pomoću vještačke inteligencije.

Važno je da dijete zna da nije odgovorno za postupke osobe koja je napravila ili širila sadržaj.

Ako se fotografija već dijeli ili neko prijeti njenim objavljivanjem, roditelji ne bi trebalo da pregovaraju sa počiniocem, plaćaju novac ili odgovaraju na dodatne zahtjeve.

Potrebno je sačuvati podatke koji mogu pomoći prijavljivanju, poput korisničkog imena, linka, vremena objave i tekstualnih prijetnji. Seksualizovane fotografije djece ne treba preuzimati, kopirati niti prosljeđivati drugim osobama radi dokazivanja šta se dogodilo.

Sadržaj treba prijaviti platformi na kojoj se pojavljuje, a slučaj policiji.

Ako se zloupotreba događa među učenicima, važno je uključiti i školu, naročito ako se fotografije dijele u razrednim grupama ili koriste za vršnjačko nasilje.

Alat koji može pomoći u zaustavljanju širenja fotografija

NCMEC je razvio besplatnu uslugu Take It Down, dostupnu korisnicima širom svijeta.

Ona omogućava da se za intimnu fotografiju ili video-snimak osobe koja je u trenutku nastanka sadržaja bila maloljetna napravi digitalni otisak, odnosno hash, koji platforme uključene u program mogu koristiti za prepoznavanje i uklanjanje kopija.

Fotografija pritom ostaje na uređaju i ne šalje se organizaciji.

Usluga nije garancija da će sadržaj nestati sa svih internet stranica, naročito sa platformi koje ne učestvuju u programu ili koriste šifrovanu komunikaciju.

NCMEC posebno upozorava da fotografije ne treba preuzimati niti tražiti od drugih da ih pošalju kako bi se koristila ova usluga. Ako dijete ili roditelj nema sporni sadržaj na svom uređaju, može zatražiti pomoć preko sistema za prijavljivanje CyberTipline.

Razgovori o AI bezbjednosti

NCMEC preporučuje da roditelji sa djecom razgovaraju o tome kako nastaju lažne fotografije i zašto njihovo pravljenje i dijeljenje može ozbiljno povrijediti drugu osobu.

Važno je objasniti i šta dijete treba da uradi ako dobije takav sadržaj o školskom drugu ili drugarici: da ga ne dijeli dalje, ne učestvuje u ismijavanju i obavijesti odraslu osobu kojoj vjeruje.

Podešavanja privatnosti mogu ograničiti dostupnost fotografija nepoznatim osobama, ali ne mogu potpuno spriječiti zloupotrebu sadržaja koji je već objavljen ili podijeljen.

Odgovornost za seksualnu zloupotrebu fotografije uvijek je na osobi koja je sadržaj napravila, koristila za ucjenu ili širila bez pristanka, a ne na djetetu čija je fotografija iskorišćena.

Novi izvještaj Childlighta zato ukazuje na potrebu da, uz obrazovanje djece i roditelja, tehnološke kompanije i institucije razvijaju efikasnije mehanizme za sprečavanje zloupotreba, uklanjanje sadržaja i zaštitu djece.

U Crnoj Gori svako deseto dijete doživjelo seksualno nasilje uz upotrebu digitalnih tehnologija

Prema istraživanju Disrupting Harm, koje su UNICEF Innocenti, ECPAT International i INTERPOL predstavili u Crnoj Gori u aprilu ove godine, 11 odsto djece uzrasta od 12 do 17 godina koja koriste internet doživjelo je neki oblik seksualne eksploatacije ili seksualnog zlostavljanja uz upotrebu digitalnih tehnologija.

Istraživanje je obuhvatilo 1.039 djece i isto toliko roditelja ili staratelja. U 66 odsto prijavljenih iskustava počinilac je bio neko koga je dijete već poznavalo, poput vršnjaka ili člana porodice, dok 59 odsto djece nikome nije reklo šta im se dogodilo. Društvene mreže bile su uključene u 82 odsto slučajeva.

Ovi podaci obuhvataju različite oblike seksualnog nasilja uz upotrebu tehnologije, a ne samo zloupotrebu vještačke inteligencije, pa se ne mogu direktno upoređivati sa novim međunarodnim podacima o AI sadržajima.

Izvor: Childlight/NCMEC

PROČITAJTE JOŠ:
Roditelji pitaju
Najčešća pitanja i odgovori u veziu sa roditeljskim nedoumicama iz različitih oblasti na jednom mjestu.
Udruženje roditelji

Udruženje Roditelji okuplja roditelje u Crnoj Gori da bi zajedno preispitali postojeće stanje i aktivno uticali na promjene u društvu.

CENTAR ZA MAME

Kutak za druženje, edukaciju i podršku / Programi za trudnice i mame / Podrška roditeljstvu / Individualna podrška