Video koji izgleda stvaran, glas koji zvuči poznato, fotografija koja se dijeli tisućama puta prije nego što je itko postavio pitanje je li ovo uopće istina?
U eri generativne umjetne inteligencije, granica između autentičnog i umjetno proizvedenog sadržaja postaje sve tanja, a posljedice te nejasnoće sežu daleko izvan tehnologije.
Stručnjaci upozoravaju da AI-generirani sadržaji sve češće postaju alat radikalizacije, dezinformiranja i manipulacije javnim mnijenjem a Bosna i Hercegovina kako pokazuje ovo istraživanje, još uvijek nema jasan odgovor na to pitanje.
Kada slika prevari oko: Pogled cyber stručnjaka
Za razumijevanje kako uopće prepoznati manipulaciju razgovarali smo sa stručnjakom za cyber sigurnost Ozrenkom Đurićem, koji naglašava da provjera sadržaja nikada ne počinje gledanjem samog videa.
„Prvi korak nije gledanje samog videa i donošenje zaključka na osnovu onoga što vidimo. Prvo treba utvrditi odakle je sadržaj došao”, kaže Đurić objašnjavajući da novinar treba sačuvati originalni fajl, zabilježiti ko ga je poslao, kada i gdje je navodno nastao, te tek onda provjeravati tehničke podatke poput metapodataka, formata, rezolucije ili GPS lokacije. Ipak, upozorava, ni to nije dovoljno: „Metadata sama po sebi nije dokaz autentičnosti. Ona se može promijeniti ili potpuno ukloniti.”
Prema njegovim riječima jedan od najčešćih oblika manipulacije jeste kada stvaran, autentičan video dobije lažan kontekst. Na primjer ako se snimak star nekoliko godina predstavlja se kao aktualan događaj rješenje je reverse pretraga.
„Ako pronađemo isti video objavljen, recimo, prije pet godina u potpuno drugom kontekstu, već imamo vrlo jak indikator da današnja tvrdnja nije tačna.” Đurić posebno naglašava da pitanje autentičnosti nije jedino relevantno pitanje: „Fotografija može biti 100% autentična, ali tvrdnja koja je prati može biti potpuno lažna.”
Na pitanje mogu li alati za detekciju AI sadržaja pogriješiti, odgovor je jasan: Mogu, u oba pravca.
„Postoje false positive slučajevi, gdje se autentičan sadržaj označi kao AI-generisan, ali postoji i suprotan problem kvalitetan generativni sadržaj može proći detekciju” objašnjava Đurić, dodajući da rezultat alata treba tretirati kao indikator, a ne presudu.
Govoreći o najčešćim trikovima manipulacije kontekstom, Đurić navodi čitav niz tehnika: stara fotografija predstavlja se kao aktualna, snimak iz jedne države pripisuje se drugoj, fotografija se izreže da se ukloni ključni kontekst, mijenjaju se opisi i datumi, ili se kombinuju dvije stvarne fotografije u priču koja se nikada nije dogodila. Upravo zato, kaže, porijeklo sadržaja takozvani provenance postaje ključni element digitalne forenzike.
Razlikovanje AI-generirane fotografije od profesionalno obrađene slike, prema Đuriću, više se ne može svesti na jednostavna pravila.
„Ne bih pokušavao da napravim jednostavno pravilo tipa ‘ako izgleda savršeno, AI je’. To više nije dovoljno”, kaže Đurić, ističući da savremeni modeli često nadmašuju mogućnost vizuelne procjene golim okom. Zato razdvaja dva pitanja koja se prema njegovim riječima prečesto miješaju: Je li fotografija obrađena i je li fotografija generirana pomoću AI.
Kada je riječ o metodologiji provjere, Đurić insistira na kombiniranju više nezavisnih izvora: izvor, metapodaci, reverse pretraga, geolokacija, vremenska provjera, analiza sadržaja i nezavisni alati.
„Što se više tih elemenata međusobno potvrđuje, to je zaključak pouzdaniji”, kaže. A kada novinar ne može sa sigurnošću utvrditi autentičnost sadržaja? „Najvažnije je ne popunjavati prazninu pretpostavkom.”
Umjesto tvrdnje da je nešto lažno, profesionalnija formulacija glasi da nisu pronađeni dovoljno pouzdani dokazi da se autentičnost potvrdi – a razlika između te dvije rečenice nije kozmetička, nego suštinska.
Mladi, algoritmi i radikalizacija: Perspektiva civilnog društva
Dok tehnička strana priče otkriva koliko je teško razdvojiti stvarno od lažnog civilno društvo upozorava na širi društveni kontekst u kojem se ta manipulacija odvija.
Lejla Sarač projektna menadžerica u nevladinoj organizaciji JaBiHEU, objašnjava zašto je organizacija odlučila povezati teme umjetne inteligencije, radikalizacije i OSINT metodologije u okviru projekta #AIKoristiSPažnjom.
„Kroz projekat #AIKoristiSPažnjom želimo otvoriti prostor za razgovor o tome kako umjetna inteligencija mijenja način na koji primamo, kreiramo i dijelimo informacije. Poseban fokus stavili smo na mlade, novinare i predstavnike institucija, jer svi oni imaju važnu ulogu u izgradnji otpornijeg i odgovornijeg digitalnog društva”, kaže Sarač.
Cilj edukacije je da se kroz znanje, praktične vještine i kritičko razmišljanje doprinese odgovornom korištenju AI-ja, uz svijest o rizicima poput dezinformacija, deepfake sadržaja i algoritamskih manipulacija.
Njezina poruka nadovezuje se na ono što je Đurić opisao kao tehnički problem, ali ga smješta u širi okvir.
Mladi ljudi, izloženi algoritamskom preporučivanju sadržaja, predstavljaju posebno ranjivu grupu, a obrazovne institucije u BiH, prema ocjeni organizacija koje se bave ovom temom tek trebaju razviti sistemske odgovore na izazove digitalne pismenosti i prepoznavanja manipulacije.
Institucionalni vakuum: Što kaže regulator?
Treći možda i najznačajniji dio priče odnosi se na institucionalnu spremnost da odgovori na AI-generirane sadržaje u medijskom prostoru.
Regulatorna agencija za komunikacije BiH (RAK), u pisanom odgovoru dostavljenom za ovu priču priznaje da postojeći pravni okvir ne prati tehnološki razvoj.
„Postojeći regulatorni okvir u BiH koji provodi Regulatorna agencija za komunikacije ne sadrži odredbe koje na bilo koji način uređuju korištenje umjetne inteligencije u proizvodnji medijskog sadržaja”, navodi se u odgovoru Agencije.
Umjesto specifičnih pravila o AI-ju, RAK se oslanja na postojeći Kodeks o programskim sadržajima, zasnovan na principu tehnološke neutralnosti što znači da se obaveze točnosti informiranja primjenjuju bez obzira na alat kojim je sadržaj proizveden.
Agencija ipak ukazuje na smjer u kojem bi regulativa trebala ići pozivajući se na Europski akt o umjetnoj inteligenciji (AI Act), koji propisuje strogu obavezu transparentnosti i označavanja sintetičkih sadržaja deepfake fotografija, glasova i videa, kao i svake izmjene stvarnih snimaka koja mijenja njihov izvorni kontekst.
„Neovisno od činjenice da bh. Zakonski okvir još uvijek nije usklađen sa navedenom EU regulativom, od medija se očekuje odgovorno korištenje alata umjetne inteligencije u smislu transparentnosti i označavanja sadržaja koji su generisani putem AI”, stoji u odgovoru.
Kada je riječ o odgovornosti, Agencija je nedvosmislena: krajnju profesionalnu, uredničku i pravnu odgovornost snosi onaj ko je informaciju objavio, bez obzira na to da li je u njenoj proizvodnji korištena umjetna inteligencija.
„Umjetna inteligencija je alat, ona nema pravni subjektivitet niti profesionalnu odgovornost, dok uredništvo medija vrši finalni odabir i donosi konačnu odluku o tome šta će i na koji način biti emitirano”, ističe se u odgovoru RAK-a.
Agencija napominje da do sada nije zaprimila nijednu prijavu vezanu za sporno korištenje umjetne inteligencije u medijskom sadržaju, ali upozorava da bi prikazivanje sintetičkog sadržaja kao stvarnog moglo narušiti povjerenje u medije i otvoriti prostor za manipulaciju sviješću građana te najavljuje da će i u sljedećem razdoblju biti uključena u istraživanje o AI pismenosti i integritetu informacija u BiH, čiji bi rezultati trebali poslužiti kao osnova za eventualnu izradu smjernica za odgovorno korištenje umjetne inteligencije u izvještavanju.
Ipak, jedno ograničenje Agencija posebno naglašava: njezina nadležnost ne obuhvaća sadržaje na internetu i društvenim mrežama prostor u kojem se, prema iskustvima iz drugih zemalja najbrže šire upravo deepfake sadržaji i dezinformacije prije nego što dospiju do televizijskog programa.
Praznina koju popunjava odgovornost pojedinca
Tri različita pogleda, tehnički, društveni i institucionalni, oslikavaju istu sliku Bosna i Hercegovina se suočava sa fenomenom AI-generirane manipulacije bez jasnog zakonskog okvira, bez uspostavljenih procedura za brzu reakciju i uz nizak nivo digitalne pismenosti građana.
U takvom vakuumu, teret provjere i odgovornog izvještavanja pada prvenstveno na novinare i uredništva, one koji, kako kaže Đurić, moraju naučiti ne vjerujovati jednom artefaktu, već tražiti potvrdu kroz više nezavisnih izvora i koji, kako poručuje Sarač, moraju biti dio šire mreže otpornijeg digitalnog društva.
Dok RAK najavljuje istraživanja i buduće smjernice, a organizacije poput JaBiHEU rade na edukaciji mladih i novinara, pitanje ostaje otvoreno: Hoće li BiH uspjeti izgraditi sistemski odgovor prije nego što se prvi ozbiljan deepfake skandal zaista dogodi ili će kao i u mnogim drugim oblastima, regulativa stizati tek nakon štete.
Muamer Zukanović/Istina.media
