Zašto je važno zaštiti se od od veštačke inteligencije – kao Rusija
© Foto : Slika generisana veštačkom inteligencijom
Pratite nas
Izuzetno je važno imati AI zakone kakve Rusija uvodi. Deca u Srbiji vrlo često dolaze do podataka preko interneta koji negiraju genocid u Jasenovcu i zločine u NDH, dok, s druge strane, promovišu teze o ,,genocidu" u Srebrenici. To je početak jednog mnogo šireg procesa, zato je važno zaštititi se od veštačke inteligencije.
Ovako pisac i publicista Slobodan Stojičević komentariše opasnosti koje nekontrolisana upotreba i implementacija sistema veštačke inteligencije može da proizvede.
Kontrola AI negde mora početi, predugo je ova grana tehnologije prepuštana ,,samoj sebi", a izgleda da je Rusija među prvima počela da misli na opasnosti koje sa time dolaze.
Ruski predsednik Vladimir Putin potpisao je zakon kojim se uspostavlja pravni okvir za razvoj, implementaciju i upotrebu velikih modela veštačke inteligencije u Ruskoj Federaciji, a zakon uvodi pojmove suverenih i nacionalnih modela AI i omogućava njihovim tvorcima pristup državnim podacima radi obuke.
Dobre vesti
Stojičević kaže da je potpisivanje ovog zakona jako dobra vest i da se takav korak odavno čekao. Veštačka inteligencija se ne koristi samo za ono za šta mi mislimo da se koristi, odnosno za čet-botove koje najčešće imamo u vidu kada kažemo „veštačka inteligencija“. Veštačka inteligencija je, u stvari, tehnologija u vidu neuronskih mreža koje se koriste za mnogo toga, a samo jedna od tih primena jesu veliki jezički modeli i ono što mi vidimo kao ČetDžiPiTi ili Džemini, putem kojih možemo da razgovaramo i komuniciramo sa veštačkom inteligencijom.
Kada je reč o samim modelima, odnosno velikim jezičkim modelima koje Rusi razvijaju, tamo su sada najvažnija dva: GigaČet, koji razvija Sberbanka, i Alisa, koju razvija Jandeks. Zbog toga su i uvedena ova dva pojma – suvereni i nacionalni.
Suvereni model bi bio GigaČet. To znači da je Sberbanka uložila ogroman novac i da ga i dalje ulaže u razvoj modela poput ČetDžiPiTi-ja ili Džeminija. Sa njim može da se komunicira, za sada na ruskom i engleskom jeziku. Nedavno sam razgovarao sa Sergejem Markovim, koji je šef laboratorije, i pitao sam ga kada će biti moguće korišćenje i na srpskom jeziku. U principu može i sada, ali je problem registracija, zato što Rusija zahteva registraciju prilikom pristupa iz Srbije. Potreban je i ruski broj telefona kako bi se potvrdilo ko koristi sistem, objašnjava Stojičević za Sputnjik.
Tu je i model Alisa, koji razvija Jandeks. Oni su u poslednje vreme napravili zaokret i počeli da sarađuju sa jednom kineskom kompanijom, odnosno da svoj model obučavaju na njenim modelima, dodatno ga unapređujući. To je brži, lakši i jeftiniji put, kaže Stojičević, ali s druge strane taj model više nije u potpunosti suveren, jer se u njega unose pojmovi i koncepti iz kineskog velikog jezičkog modela. Upravo zbog toga je i napravljena razlika između suverenih i nacionalnih modela, objašnjava naš sagovornik.
Rusija će i ubuduće nastaviti da pomaže razvoj ovih sistema, najverovatnije i više nego do sada, jer mora da održi korak sa Amerikancima i Kinezima, koji ulažu ogroman novac. Kinezi to čine direktno kroz državna ulaganja i sa berze, dok Amerikanci takođe koriste državni novac, samo kroz različite investicione fondove i druge mehanizme. Međutim, da bi se očuvala nacionalna komponenta, mora se raditi na drugačiji način.
Ako se koriste veliki jezički modeli sa Zapada, onda se i njihovi pojmovi i vrednosni okviri prenose u ruski internet, što bi u perspektivi moglo da nanese veliku štetu. Klasičan primer je Krim. Danas, ako na ruskom modelu, kao što su Alisa ili GigaČet, postavite pitanje čiji je Krim, dobićete odgovor da je ruski. Ali ako postavite pitanje koji su ruski gradovi na obali Crnog mora, ponekad se provuče odgovor da Sevastopolj nije ruski grad. To znači da veliki jezički model i dalje koristi određene parametre preuzete sa Zapada, što u perspektivi može predstavljati ozbiljan problem.
Zloupotrebe
Još jedan problem koji se ovde javlja jeste zloupotreba veštačke inteligencije koja se već uveliko koristi za prevare, generisanje glasa, sintetisanje ličnosti i krađu ličnih podataka. Na osnovu ogromnih količina podataka, veštačka inteligencija sama prepoznaje ljude koji su podložni manipulaciji i prevarama, pa od miliona telefonskih brojeva izdvaja one kod kojih postoji najveća verovatnoća da će biti uspešno prevareni.
Posebno je opasno korišćenje veštačke inteligencije za manipulaciju stanovništvom. Današnji sistemi već mogu da prepoznaju ljude koji su povodljivi i podložni pritiscima, a zatim da im preko društvenih mreža, mesindžera i drugih komunikacionih kanala plasiraju upravo one informacije koje će ih usmeriti ka određenom stavu ili ponašanju. Različiti ljudi različito reaguju na istu informaciju. Zato se selektivnim plasiranjem sadržaja određenim grupama ljudi može postići da oni promene mišljenje ili donesu odluke koje u normalnim okolnostima ne bi doneli.
Iz tog razloga još jednu vrlo bitnu komponentu ovog zakona čini obeležavanje sadržaja koji su nastali uz pomoć veštačke inteligencije. Danas se pojavljuje ogroman problem takozvanih ,,dipfejk" sadržaja, odnosno provere verodostojnosti informacija, što bi ovim trebalo da bude rešeno.
Šta je stvarnost
Generisanje glasa i slike dostiglo je takav nivo da je ponekad gotovo nemoguće razlikovati pravi snimak od generisanog, objašnjava Stojičević. Već sada se dešavaju brojne prevare, pa smo tako svedoci generisanih snimaka Trampa, pape i drugih javnih ličnosti koje izgovaraju i rade stvari koje nikada nisu rekle ili uradile.
U državi koja vodi Specijalnu vojnu operaciju, to je posebno opasno, jer se mogu generisati video-snimci sa lažnim naredbama vojsci, izjavama gubernatora i slično. Takvi slučajevi su se već dešavali, kada su se pojavljivali snimci gubernatora koji pozivaju građane da idu u skloništa ili proglašavaju vazdušnu opasnost.
Ovo će u budućnosti predstavljati jedan od najvećih problema, jer podriva poverenje građana u sredstva javnog informisanja i ovo je jedan od prvih zakona koji pokušava da se tome suprotstavi, kaže naš sagovornik.
Šta je najgore što se može desiti?
Niko još uvek ne može sa sigurnošću da kaže šta je najgori mogući scenario u veštačkoj inteligenciji, zato što veštačka inteligencija još nije dostigla ono što se naziva opštom ili apsolutnom veštačkom inteligencijom, objašnjava naš sagovornik. Svi manje ili više idemo u susret onome što se naziva singularnost, ali niko ne zna šta će se dogoditi kada veštačka inteligencija postane sposobna da samostalno unapređuje samu sebe.
Mi danas već vidimo nove sisteme, poput Klaud Koda, koji pretražuje izvorni kod i pronalazi eksploite, odnosno bezbednosne propuste nastale prilikom pisanja programa, možda i pre deset, petnaest ili dvadeset godina. Na taj način moguće je ući u brojne programe koji se i danas koriste. Preveliko povezivanje čovekovog života sa digitalizacijom izuzetno je opasno, jer mi u prvom trenutku vidimo samo pogodnosti, odnosno benefite, dok istovremeno ostavljamo ogromnu količinu ličnih podataka. Ti podaci se prikupljaju i na osnovu njih se pravi profil svakog čoveka. Zatim se razvijaju takozvani algoritmi preporuka, koji nam prikazuju upravo ono što želimo da čujemo ili na šta smo emotivno najosetljiviji. Na taj način može se uticati na naše ponašanje i upravljati našim odlukama.
Situacija kod nas
Svaka država koja danas razvija veštačku inteligenciju već počinje da donosi određene zakone u toj oblasti i svakoj državi će u budućnosti biti neophodno da se time ozbiljno bavi. Naravno, to će najpre činiti velike sile poput Rusije, Kine i Sjedinjenih Američkih Država, ali i mnoge druge zemlje koje danas razvijaju velike jezičke modele.
Mi ćemo jednog dana, ako ne budemo razvijali sopstvene jezičke modele i ako ne budemo ulagali u veštačku inteligenciju, morati da se priklonimo jednom od tehnoekonomskih blokova, kojih će, najverovatnije, biti tri, četiri ili pet. Oni će međusobno konkurisati i svaki će imati svoje sisteme. U našem slučaju to je izuzetno važno. Već sada deca vrlo često dolaze do pogrešnih istorijskih podataka i to je samo jedan deo mnogo šireg društvenog procesa.
Internet ide ka svom raspadu, odnosno ka kraju onakvog interneta kakvog danas poznajemo, tvrdi Stojičević. Ovo što se danas može videti na mrežama nije više sloboda, već anarhija, a jedan od glavnih problema je što globalna mreža ruši nacionalne granice. Ono što je kod nas krivično delo, u nekoj drugoj državi možda nije.
Dobar deo država već je u potpunosti digitalizovao svoju državnu upravu. U slučaju uspešnog napada na baze podataka, država praktično neće znati ništa o samoj sebi. Takvi slučajevi već su se dešavali. U Južnoj Koreji je pre dve godine izgoreo data centar, nakon čega su izgubljeni brojni podaci o radnim knjižicama i državnim službenicima. Nedavno je u Rumuniji izgubljen geodetski registar, koji sada pokušavaju da obnove, što nije uvek moguće.
Sve ovo predstavlja izuzetno veliku opasnost u budućnosti i zato je dobro što je Rusija donela ovakav zakon, jer je jedna od malobrojnih zemalja koja već sada pokušava da se zaštiti od rizika koje nosi veštačka inteligencija. Većina drugih država juri u digitalizaciju i primenu veštačke inteligencije, ne uzimajući dovoljno u obzir sve opasnosti koje ona sa sobom nosi, zaključuje Stojičević.
Pogledajte i:
