Evropska unija je nedavno pokrenula istragu protiv četbota „Grok“, u vlasništvu Ilona Maska, zbog proizvodnje eksplicitnih fotografija, čime je ponovo aktuelizovala pitanje granica u korišćenju i zloupotrebi savremenih tehnologija. Ovaj slučaj otvara ozbiljnu raspravu o bezbednosti i etici u digitalnom dobu.
Dipfejk i nudifikacija – savremeni alati zloupotrebe
Vojislav Rodić, iskusni IT konsultant, detaljno objašnjava pojmove koji su danas postali svakodnevica – dipfejk i nudifikacija.
„Fejk, ili lažnjak, je svima poznat kao pojam – loša ili neistinita kopija, kao što su falsifikati poznatih brendova koje ljudi često kupuju. Ali dipfejk je nešto mnogo složenije: radi se o sadržajima — fotografijama i video-zapisima — koji su toliko verodostojni da posmatrač veruje da gleda stvarnu osobu, bilo da je reč o njenom izgledu, glasu ili načinu govora, iako taj sadržaj nema nikakve veze sa realnošću“, upozorava Rodić.
Ova tehnologija generiše potpuno novi, uverljiv materijal na osnovu postojećih fotografija i snimaka, koji je gotovo nemoguće razlikovati od originala.
„U ranim fazama razvoja AI, pre samo godinu dana, korisnici su još mogli da prepoznaju nesavršenosti. Ali danas, sa napretkom tehnologije, te razlike su gotovo nevidljive“, naglašava Rodić.
Dipfejk otvara ogromne mogućnosti, ali i velike opasnosti. Sa druge strane, nudifikacija je još jedan problematičan fenomen:
„To je proces u kome se, na osnovu slike osobe u odeći, generiše slika te iste osobe bez odeće, ili u eksplicitnim pozama i situacijama koje nikada nisu postojale“, objašnjava naš sagovornik.
Kombinacija nudifikacije i dipfejka postaje snažno oruđe za zloupotrebe, pre svega u svrhu ucene, osvetničkog porno materijala ili narušavanja ugleda.
„Danas, za stvaranje kompromitujućih sadržaja nije potrebno posedovati specijalna tehnička znanja. Dovoljno je uneti tekstualnu komandu i uz malo eksperimentisanja doći do željenog rezultata“, kategoričan je Rodić.
Ovo naročito zabrinjava, jer se ovakvi sadržaji često prikazuju kao parodije, što je već uobičajeni izgovor, ali se koriste i za ozbiljnu zloupotrebu, dodaje on.
Rizici za decu: od fotografija na mreži do lažnih sadržaja
Najveća ranjivost je kod dece i njihovih roditelja. Rodić upozorava:
„Mnogi roditelji ponosno objavljuju slike svoje dece na društvenim mrežama, ne shvatajući koliko to može biti rizično.“
On podseća na slučaj koji se dogodio pre nekoliko godina u Srbiji, kada su francuski kriminalci iskoristili fotografije deteta sa društvenih mreža za izradu lažnog pasoša sa ciljem otmice koja je, na sreću sprečena promptnom reakcijom građana i policije.
Još opasniji fenomen je pojava lažnih sadržaja vezanih za dečju pornografiju, koji se ne stvaraju od snimaka stvarne dece, već se koriste generisani likovi ili slike preuzete sa postojećih dečjih fotografija.
„Ovo postavlja ozbiljna pravna i etička pitanja — kako kvalifikovati delo u kojem formalno nema direktno oštećenog deteta, ali je šteta ogromna, ne samo za pojedince, već i za društvo u celini“, kaže Rodić.
Promena paradigme u komunikaciji sa digitalnim sistemima
Prema Rodićevim rečima, način na koji komuniciramo sa računarima i digitalnim agentima suštinski je promenjen. Nekada su korisnici morali da uče složene komande, danas jednostavno postavljaju pitanja običnim jezikom, kao da razgovaraju sa sagovornikom.
Ova revolucija je moguća zahvaljujući jezičkim modelima koji „usisavaju“ ogromne količine podataka sa interneta, uključujući i slobodno dostupne i plaćene sadržaje, kako bi generisali odgovore.
Međutim, Rodić ističe da odgovori nisu proizvod razmišljanja, već statističke analize.
„Sistem procenjuje koja reč sa najvećom verovatnoćom dolazi nakon prethodne i tako kreira smisleni tekst“, ističe on.
Zbog toga se dešava da AI često daje netačne ili zbunjujuće odgovore, jer u obzir uzima i nepouzdane izvore, i to bez razumevanja konteksta.
Emocionalna manipulacija i psihološki profili korisnika
Digitalne platforme žive od emotivnog angažmana korisnika.
„Što je veća emocionalna reakcija korisnika, to se preciznije puni njegov psihološki profil, koji se koristi za ciljane oglase i manipulaciju“, podvlači Rodić.
Cilj više nije samo da korisnik pronađe proizvod koji želi, već da se ubedi da želi proizvod koji mu se nudi. Drugim rečima, ne radi se više samo o ličnim podacima, već i o informacijama o navikama, zdravlju i interesovanjima korisnika.
Ipak, postoji i pozitivna strana: personalizacija pomaže korisnicima da lakše pronađu relevantne informacije i proizvode, ali to dolazi po cenu velikog prikupljanja podataka.
Mlađi korisnici i virtuelna bliskost sa AI
Sve veći broj mladih ulazi u duboke, intimne razgovore sa AI botovima, iznoseći stvari koje ne bi podelili ni sa roditeljima ili prijateljima. Takva vrsta interakcije stvara iluziju bliskosti i prihvaćenosti, koja može biti i štetna, jer to nije prava ljudska veza, objašnjava Rodić i dodaje da starije generacije brže shvataju da je reč o simulaciji, mlađi razvijaju drugačije odbrambene mehanizme i sve više razmišljaju o korisnosti takve komunikacije.
Reakcije država često su blokade i zabrane, što Rodić smatra refleksnom i nepotpunom merom. Sa druge strane predloge o skraćenju školskih časova zbog pada koncentracije naš sagovornik smatra kapitulacijom. Decu, kaže on, treba učiti „disciplini i upravljanju pažnjom.“
On poziva na plansko usmeravanje slobodnog vremena, jer mnogi mladi provode sate dnevno na društvenim mrežama, što negativno utiče na njihovo zdravlje i razvoj.
Digitalna higijena: saveti za bezbednost
U digitalnom svetu ne postoji potpuna privatnost — većina ljudi je već otkrila gotovo sve o sebi putem društvenih mreža i drugih digitalnih kanala. To otvara prostor za zloupotrebe i kriminalne aktivnosti, poput lažnih poruka ili simulacija otmica.
Rodić upozorava da curenja podataka nisu slučajna, već rezultat ciljanih upada. Zato treba redovno menjati lozinke i koristiti različite šifre i generatore lozinki.
Na kraju, osnovni savet za zaštitu ostaje isti kao i nekada:
„Budi oprezan, ne govori svima sve i dobro razmisli pre nego što nešto podeliš. U digitalnom svetu to je najbolji oklop i zaštita“, zaključuje Rodić.