Sputnjik istražuje: Zašto Srbija donosi zakon o veštačkoj inteligenciji
CC0 / Slika generisana veštačkom inteligencijom /
Pratite nas
Veštačka inteligencija ne sme postati zamena za odgovorno ljudsko odlučivanje. Njen najveći potencijal nije u tome da odlučuje umesto čoveka, već da ljudima omogući brže, kvalitetnije i informisanije donošenje odluka, posebno u kriznim situacijama kada je potrebno reagovati u kratkom roku.
Ovo je komentar predsednika Centra za analizu rizika i upravljanje krizama (CARUK) Zorana Kekovića na izradu Zakona o veštačkoj inteligenciji, ali ujedno i najvažniji zaključak upravo održane konferencije o AI bezbednosti.
Radnu grupu za izradu zakona formiralo je Ministarstvo nauke, tehnološkog razvoja i inovacija Srbije, a oslanjaće se na AI regulativu Evropske unije.
Komentarišući najavu zakona, Keković, koji je takođe i profesor na Fakultetu bezbednosti Univerziteta u Beogradu, objašnjava da se čitav proces donošenja i pripreme zakonske regulative zasniva na imperativu da veštačka inteligencija, koliko god predstavljala priliku za tehnološke inovacije i nudila veliki razvojni potencijal, može nositi i značajne bezbednosne rizike ukoliko se primenjuje na neodgovoran, nekontrolisan ili nebezbedan način. Upravo zato je, kaže on, važno da njena primena bude jasno zakonski uređena.
Izazovi
Radnu grupu koja priprema zakon ne čine samo predstavnici državnih organa, javnog sektora i nadležnih institucija u kojima se veštačka inteligencija već primenjuje, već i predstavnici naučne zajednice, istraživači i drugi stručnjaci koji mogu da doprinesu izradi kvalitetnog regulatornog okvira, kaže naš sagovornik. Jedan od ključnih izazova biće taj da se obezbedi dovoljan nivo fleksibilnosti za nova rešenja i domaće inovatore.
Brojne inovacije tek predstoje, pa postoji opasnost da zakon u jednom trenutku postane suviše tesan okvir za njihovu primenu. Zato on ne sme da bude kočnica novim tehnologijama, inovacijama i tehnološkom napretku Republike Srbije. S druge strane, potreba za većom konkurentnošću ne sme da ugrozi bezbednosne aspekte o kojima zakon treba da vodi računa. Cilj je da se primena veštačke inteligencije odvija u kontrolisanom i bezbednom okruženju, rekao je Keković za Sputnjik.
On smatra da će, pored pomenute fleksibilnosti, izazov predstavljati i primena budućeg zakona, kao i priprema institucija u javnom, privatnom i realnom sektoru za njegovo sprovođenje.
Posebno je važno imati u vidu značaj kritične infrastrukture i visokorizičnih sistema, kao i ulaganja u infrastrukturu koja će omogućiti da se primena veštačke inteligencije odvija u skladu sa predviđenim rešenjima. Međutim, ne treba zaboraviti da je Srbija bila prva zemlja u regionu koja je usvojila Strategiju razvoja veštačke inteligencije za period od 2020. do 2025. godine, a potom i novu strategiju za period od 2025. do 2030. godine.
Obe ove strategije suštinski govore o tome da su u međuvremenu napravljeni značajni iskoraci u izgradnji infrastrukture, što će ipak omogućiti i čak olakšati izazov primene budućeg zakonskog okvira. Ti iskoraci se odnose i na osnivanje data centra u Kragujevcu, kao i na razvoj superkompjutera koji bi trebalo da omoguće naučnoj zajednici, istraživačima i inovatorima da svoja tehnička rešenja primene u praksi i kroz konkretne projekte dobiju dodatni podsticaj za razvoj.
Međutim, ništa manje važno nije ni jačanje takozvanog „soft pauera“, odnosno razvoj znanja i kadrova. Kroz podršku projektima posredstvom Fonda za nauku i Fonda za inovacionu delatnost omogućava se razvoj novih znanja i tehnologija, što Srbiji može obezbediti prestižnu poziciju u odnosu na zemlje regiona i šireg okruženja. Mislim da će budućnost pripasti ne onima koji najbrže uvode veštačku inteligenciju, već onima koji to čine na pouzdan, bezbedan i odgovoran način. Veoma je važno da budemo prepoznati kao pouzdan partner u primeni rešenja zasnovanih na veštačkoj inteligenciji.
AI se već koristi u javnom sektoru
Naš sagovornik podseća da AI nije više daleka budućnost, odnosno da se veštačka inteligencija već uveliko koristi i u našem javnom sektoru. Koristi se, kaže Keković, u elektronskom poslovanju gde već pokazuje određene prednosti, kao i u zdravstvu. Suština ovog najavljenog zakona jeste da i tamo gde je veštačka inteligencija već počela da se upotrebljava, a građani toga možda nisu ni svesni, njena primena ne bude stihijska, jer bi nas to moglo izložiti novim rizicima.
Upravo zato oni koji pripremaju zakonska rešenja vode računa o takozvanom pristupu zasnovanom na proceni rizika. Posebna pažnja posvećuje se donošenju odluka zasnovanih na algoritmima veštačke inteligencije, naročito u zdravstvu, gde se ona sve više koristi u medicinskoj dijagnostici. Greške u takvim sistemima mogu imati veoma ozbiljne posledice. Isto važi i za visokorizične sektore kritične infrastrukture, poput energetike, telekomunikacija, saobraćaja i sistema vodosnabdevanja. To su izuzetno osetljivi sistemi koji predstavljaju deo bezbednosne arhitekture društva i sistema nacionalne bezbednosti. Zbog toga uvođenje veštačke inteligencije u takve sisteme mora biti strogo kontrolisano.
Ukoliko ključni sistemi, poput energetskog, postanu nedostupni, budu kompromitovani sajber napadima ili na neki drugi način otkažu, mogli bismo se suočiti sa ozbiljnim problemima, napominje naš sagovornik. Ukoliko postanemo previše zavisni od takvih sistema, a oni donesu pogrešne odluke ili preporuke, posledice mogu biti ozbiljne — hiljade građana mogle bi ostati bez struje, vode, zdravstvene zaštite ili telekomunikacionih usluga, upozorava Keković i dodaje da su upravo to pitanja o kojima vode računa oni kojima je povereno da pripremaju zakonske propise u ovoj oblasti.
Zašto baš EU regulativa?
Pristupi regulaciji AI razlikuju se širom sveta – od američkog modela deregulacije i sektorskog pristupa, preko evropskog zasnovanog na proceni rizika, do kineskog centralizovanog sistema. Keković kaže da je nama evropski sistem najbliži jer ipak predstavlja naše neposredno okruženje. On objašnjava da je ono što razlikuje evropski pristup primeni novih tehnologija od američkog i kineskog jeste činjenica da su Sjedinjene Američke Države i Kina pre svega usmerene na jačanje i održavanje svojih pozicija na globalnom tržištu, pri čemu je glavni imperativ očuvanje konkurentske prednosti. Regulativa je nešto što nije u prvom planu kada su u pitanju ove velike sile, dok, nasuprot tome, Evropska unija uređuje ono što su drugi već definisali.
Regulativa po pravilu kasni za događajima koje postavljaju neki jači i veći koji definišu pravila, dok ta tržišna utakmica veoma često ostavlja one koji pišu propise u defanzivnoj poziciji, pa zakoni kasne za realnim životom i praksom. Čini mi se da će to biti jedan od najvećih izazova i za naše vlasti i zakonodavce – kako sada ta rešenja da prate neverovatan uspon i primenu inovativnih tehnologija, da regulatorni okvir ne predstavlja kočnicu tehnološkom napretku, ali i da se istovremeno spreči stihijska primena AI bez jasnih pravila.
Naš sagovornik smatra da Srbija može predstavljati izvesnog lidera u ovoj oblasti, kako kroz kroz donošenje propisa, tako i kroz njihovu primenu u posebno osetljivim oblastima poput zdravstva, medicije, zaštite podataka i kritične infrastrukture. Ona, kroz odgovarajući regulatorni okvir, može postati primer drugim zemljama sličnog kapaciteta koje nemaju mogućnost da prate najveće svetske aktere u tehnološkom razvoju, ali zato mogu biti prepoznate kao relevantan partner u evropskom regulatornom i tržišnom okviru.
Na osnovu diskusija vođenih u okviru ovogodišnjeg AI bezbednosnog samita, Kekovićev Centar za analizu rizika je u saradnji sa drugim relevantnim institucijama, formulisao nacrt strateškog okvira sa 12 preporuka, vezanih za ovu temu, koje će biti upućene nadležnim institucijama. Cilj tih preporuka je unapređenje tržišnog, normativnog i bezbednosnog ambijenta Republike Srbije kako bi primena budućeg zakona o veštačkoj inteligenciji dala pune rezultate.
Najvažniji zaključak donet na toj konferenciji jeste da veštačka inteligencija ne sme postati zamena za odgovorno ljudsko odlučivanje, te da iz tog razloga razvoj regulatornog i organizacionog okvira treba usmeriti ka modelu u kojem veštačka inteligencija povećava efikasnost i otpornost sistema, dok konačne odluke, odgovornost, kontrola i poverenje ostaju u rukama čoveka, zaključuje Keković.
Pogledajte i:
