Foto: Ilsutracija/ Ron Lach/ Pexels
Generativna umjetna inteligencija znatno je umanjila tehničke i financijske prepreke u stvaranju uvjerljivih seksualiziranih prikaza djece- prema riječima Anese Agović Đozo, više analitičarke Globalne inicijative protiv transnacionalnog organiziranog kriminala i jedne od autorica izvještaja pod nazivom “Abuse at scale: Artificial intelligence is reshaping child sexual exploitation”.
“Fotografije preuzete s društvenih mreža danas se mogu brzo izmijeniti, seksualizirati ili uključiti u potpuno sintetički sadržaj bez znanja djeteta”, izjavila je Agović Đozo.
Dodala je kako su postojeći zakoni i alati za otkrivanje uglavnom nastali u razdoblju kada se naglasak stavljao na fotografski materijal stvarnog zlostavljanja, dok se suvremeno društvo danas suočava s masovnom proizvodnjom sintetičkog i manipuliranog sadržaja.
Zabrinjavajući rast i širenje tržišta
Izvještaji međunarodnih organizacija upozoravaju da je količina materijala seksualnog zlostavljanja djece generiranog pomoću umjetne inteligencije u proteklih nekoliko godina naglo porasla. Prema procjenama, lik najmanje 1,2 milijuna djece iskorišten je za stvaranje ovakvih prikaza.
Analiza Globalne inicijative pokazuje kako sintetički materijal ne mora nužno zamijeniti stvarne oblike zlostavljanja, već može proširiti postojeće tržište, pojačati potražnju, normalizirati seksualizaciju maloljetnika te olakšati počiniteljima prijelaz na još teže oblike nasilja, piše Detektor.
Livia Wagner, šefica kabineta i tematska voditeljica za trgovinu ljudima u istoj organizaciji te koautorica izvještaja, istaknula je da je internetska seksualna eksploatacija djece nekada bila usko povezana sa zatvorenim mrežama u kojima su ključnu ulogu imale osobe s posebnim tehničkim znanjima. Međutim, posljednjih godina vidljiv je jasan trend industrijalizacije kriminalnih radnji u različitim sferama cyber kriminala.
“Umjetna inteligencija dio je tog procesa jer omogućava stvaranje ekosistema u kojem različiti akteri mogu biti specijalizirani za različite funkcije unutar kriminalnog lanca”, kazala je Wagner. Prema njenim riječima, ta specijalizacija obuhvaća izradu sadržaja, širenje, financijske usluge, pronalaženje žrtava, vrbovanje maloljetnika, upravljanje platformama i druge radnje.
“To čini kriminalne mreže otpornijima, jer različiti sudionici preuzimaju različite uloge, a pojedinci postaju međusobno zamjenjivi”, zaključila je Wagner.
Profesionalizacija i komercijalizacija kriminala
Agović Đozo je napomenula da zloupotrebu naprednih alata i dalje mogu provoditi pojedinci ili manje, zatvorene internetske zajednice s obzirom na to da generativni sustavi omogućavaju izradu materijala bez potrebe za naprednim znanjem.
Ipak, istovremeno se primjećuje snažna profesionalizacija i komercijalizacija ovog nedozvoljenog tržišta.
“Ne bih rekla da organizirane kriminalne grupe u potpunosti preuzimaju ovu oblast od pojedinaca. Prije se radi o nastanku slojevitog tržišta u kojem individualni počinitelji, tehnički posrednici, administratori platformi, pružatelji umjetne inteligencije, distributeri i financijski posrednici mogu djelovati kao dio iste kriminalne ekonomije, čak i kada se međusobno ne poznaju”, izjavila je Agović Đozo.
Promjena se ponajviše očituje u prelasku na modele poznate kao kriminal kao usluga, u kojima prijestupnici više ne moraju sami razvijati tehnologiju niti posjedovati specifične vještine. Na raspolaganju su im već gotovi modeli, usluge chatbota, aplikacije namijenjene obradi fotografija, pretplatničke platforme te razgranata infrastruktura za širenje i naplatu.
Prema nalazima iz izvještaja, umjetna inteligencija danas se primjenjuje kroz sve faze seksualne eksploatacije maloljetnika, od formiranja lažnih profila i automatskog vrbovanja žrtava pa sve do same proizvodnje i distribucije materijala.
Međunarodne policijske akcije jasno su pokazale kolike su razmjeri ovog problema. Operacija “Cumberland”, koju su tijekom 2025. godine predvodila tijela iz 19 država, otkrila je jednu od prvih transnacionalnih mreža za širenje ovakvog sadržaja, identificirajući pritom gotovo 300 korisnika diljem svijeta. Operacija “Torch”, provedena u srpnju 2026. godine, rezultirala je uhićenjima u više europskih zemalja.
Valja podsjetiti da je portal Detektor ranije pisao o prvom uhićenju u Banjoj Luci koje je bilo povezano s dječjom pornografijom generiranom putem umjetne inteligencije.
Odgovornost tehnoloških divova i regulatorni izazovi
Kao jedan od najvećih propusta tehnoloških kompanija, Agović Đozo vidi činjenicu da se sigurnost djece prečesto promatra tek kao dodatna značajka, umjesto da predstavlja temeljni princip razvoja svakog proizvoda. Kako je navedeno, kompanije ulažu golema sredstva u brzinu, kvalitetu i dostupnost svojih modela, dok se testiranja na zloupotrebu, zaštita podataka maloljetnika i sprječavanje nastanka štetnih sadržaja razvijaju tek nakon što šteta već bude počinjena.
Iz tog razloga naglašena je nužnost da se kompanije zakonski obvežu na provođenje temeljitih procjena rizika prije nego što puste u rad nove sustave umjetne inteligencije.
“Princip mora biti jednostavan i proizvod koji se može masovno zloupotrijebiti za seksualnu eksploataciju djece ne bi smio biti dostupan bez odgovarajuće zaštite”, izjavila je Agović Đozo.
Iako je Europska unija poduzela određene korake donošenjem propisa kojima se zabranjuju aplikacije za skidanje odjeće s fotografija i sustavi koji stvaraju materijale zlostavljanja bez pristanka, istraživanje upozorava da regulatorni okviri teško mogu pratiti tempo tehnoloških inovacija.
“Države reagiraju, ali još uvijek uglavnom reaktivno. Kriminalci mogu testirati i prilagoditi novi alat u roku od nekoliko dana, dok su za izmjenu zakona, obuku tužitelja i policije, nabavku forenzičkih alata i međunarodno usklađivanje često potrebne godine”, kazala je naša sugovornica.
Potreba za globalnom i sveobuhvatnom reakcijom
Kao ključnu mjeru zaštite, Livia Wagner ističe veću odgovornost tehnološkog sektora, uz napomenu da se na problem ne smije gledati isključivo kroz prizmu tehnološkog izazova. Univerzalno rješenje ne postoji, a cijelu tematiku potrebno je motriti unutar okvira globalne odgovornosti.
Prema njenim riječima, tvrtke koje razvijaju napredne sustave moraju sustavno procjenjivati rizike po sigurnost djece, provoditi korektivne mjere i dokazivati njihovu učinkovitost.
“Govorimo o djeci koja su najranjivija na internetsku eksploataciju, ali su često jednako ranjiva i izvan digitalnog okruženja. To je pitanje razvoja, socijalne isključenosti, slabih sustava zaštite, rodne neravnopravnosti, ali i digitalne pismenosti”, izjavila je Wagner.
Ona je zaključila kako se tehnologija razvija velikom brzinom te je teško precizno predvidjeti njenu budućnost, ali je već sada jasno da su postojeće društvene i ekonomske ranjivosti često presudniji faktor od same tehnologije. Posebno je upozoreno na činjenicu da kriminalne mreže djeluju globalno, dok su zakonska regulativa, kazneni progon i pružanje pomoći žrtvama i dalje većinom u nadležnosti pojedinačnih država. Zbog toga su, prema njenim riječima, neophodni snažniji mehanizmi međunarodne razmjene podataka, usklađivanje pravnih standarda te veće uključivanje tehnološkog i financijskog sektora.
Portal Detektor ranije je pisao i o odluci Europskog parlamenta koji je podržao prijedlog da aplikacije poput WhatsAppa, Signala i sličnih servisa s krajnjom enkripcijom ostanu izuzete od obveze automatskog skeniranja privatnih poruka u potrazi za materijalima seksualnog zlostavljanja djece. Konačnu riječ sada ima Vijeće Europske unije, koje će u iduća tri mjeseca donijeti odluku o prihvaćanju tog pristupa ili pokretanju novih pregovora o pravilima kojima se nastoji uskladiti zaštita djece i pravo građana na privatnost komunikacije.
Istina.media
