Prema komentaru objavljenom u časopisu „Science“, takozvani „rojevi veštačke inteligencije“ postaće novo oružje u informacionim ratovima.
Teško prepoznatljivi botovi
Za razliku od klasičnih botova, koji su uglavnom primitivni i lako prepoznatljivi, ovi sistemi bi mogli ubedljivo da imitiraju ljudsko ponašanje, da se prilagođavaju zajednicama u koje se ubacuju i da stvaraju utisak spontane, autentične akcije. Drugim rečima, korisnici bi mogli da osete da se većinsko mišljenje formira pred njihovim očima, iako ga zapravo orkestrira veštačka inteligencija.
Zamislite da mišljenja u vašoj omiljenoj onlajn zajednici iznenada počnu da se učvršćuju oko tema o kojima se tek nedavno raspravljalo. Ljudi imaju tendenciju da prate ono što doživljavaju kao većinsko mišljenje. Ali problem nastaje ako ta „većina“ zapravo ne postoji, već je predvodi nevidljivi roj agenata veštačke inteligencije koji deluju u interesu pojedinca, političke stranke, korporacije ili države.
Mišljenje većine
Kako objašnjava koautor komentara Jonas Kunst, profesor komunikoloških studija na norveškoj poslovnoj školi "BI", ljudi su po prirodi konformisti, što znači da imaju tendenciju da prihvate stavove i ponašanje većine jer im to daje osećaj sigurnosti, pripadnosti i društvene ispravnosti, čak i kada nisu u potpunosti uvereni da je većina u pravu. Iako nerado to priznaju, često veruju da stav koji deli većina ima neku posebnu vrednost. Upravo je to, upozorava Kunst, slabost koju bi rojevi veštačke inteligencije mogli veoma efikasno da iskoriste.
Ali manipulacija mišljenjem nije jedina opasnost. Isti ti sistemi bi se mogli koristiti i za organizovano uznemiravanje. Ljude koji se ne slažu sa određenim načinom razmišljanja mogli bi napasti rojevi veštačke inteligencije koji će ih digitalno linčovati dok ih ne ućutkaju ili isteraju sa platforme.
Ljudskiji od ljudi
Autori u uvodu pišu da napredak u razvoju veštačke inteligencije otvara mogućnost manipulacije verovanjima i ponašanjem na nivou čitavih populacija.
"Veliki jezički modeli (VJM) i autonomni agenti omogućavaju kampanjama uticaja da dostignu neviđene razmere i preciznost. Generativni alati mogu povećati količinu propagande bez gubitka kredibiliteta i mogu, uz nisku cenu, stvoriti laži koje se doživljavaju kao "ljudskije" od onih koje pišu ljudi".
"Tehnike dizajnirane da poboljšaju veštačku inteligenciju, kao što je podsticanje lanca misli, mogu se koristiti za stvaranje ubedljivijih laži. Zahvaljujući ovim mogućnostima, pojavljuje se nova, destabilizujuća pretnja: rojevi kolaborativnih, zlonamernih veštačkih agenata. Spajanjem VJM rezonovanja sa višeagentskim arhitekturama, ovi sistemi su u stanju da se autonomno koordinišu, infiltriraju u zajednice i efikasno stvore privid konsenzusa. Adaptivnim oponašanjem ljudske društvene dinamike, oni ugrožavaju demokratiju", upozoravaju autori.
Programeri veštačke inteligencije moraju biti naterani da poštuju pravila.
Drugim rečima, problem nije samo zato što neko zloupotrebljava veštačku inteligenciju, već zbog načina na koji su ovi sistemi dizajnirani, kako se monetizuju i kako se njima upravlja ili ne upravlja.
Stoga, autori komentara ne računaju na kompanije ili korisnike koji će delovati odgovorno iz čiste dobre volje. Umesto kreiranja pukih preporuka koje se mogu ignorisati, oni se zalažu za preduzimanje konkretnih mera i postavljanje pravila na više nivoa koja bi zapravo mogla ograničiti štetu.
Neki su možda već u akciji
Autori komentara ne navode tačan vremenski okvir u kojem bi se takvi rojevi mogli masovno pojaviti, ali upozoravaju da će ih biti izuzetno teško otkriti. Stoga nije jasno da li su neki oblici takvih rojeva već u upotrebi.
Mnogi korisnici društvenih mreža već primećuju porast uticaja botova, a poslednjih godina se širi i takozvana teorija "mrtvog interneta", prema kojoj veliki deo onlajn sadržaja više ne kreiraju ljudi, već automatizovani sistemi.
Botovi čine više od polovine saobraćaja
Važno je napomenuti da internet već vrvi od botova. Procene ukazuju da oni čine više od polovine celokupnog internet saobraćaja.
Klasični botovi uglavnom obavljaju jednostavne zadatke, poput ponavljanja iste poruke, i često ih je relativno lako identifikovati. Međutim, čak i takvi botovi mogu prouzrokovati štetu širenjem lažnih informacija i veštačkim naduvavanjem određenih narativa.
Digitalni organizmi
Nova generacija rojeva veštačke inteligencije ide mnogo dalje. Njima upravljaju veliki jezički modeli, isti oni koji stoje iza popularnih četbotova. Takvi sistemi mogu da uče, prilagođavaju se i stvaraju niz ubedljivih onlajn persona sa sopstvenim "identitetom" i pamćenjem. Autori komentara ih opisuju kao vrstu digitalnih organizama sposobnih za samostalnu koordinaciju i dugoročno iskorišćavanje ljudskih psiholoških slabosti.
Poseban problem je što se ova tehnologija pojavljuje u vreme kada su digitalni prostori već ozbiljno narušeni. Naime, autori upozoravaju da već svedočimo eroziji racionalne debate i sve slabijem osećaju zajedničke stvarnosti među građanima. U takvom okruženju, rojevi veštačke inteligencije ne bi morali da stvaraju haos ni iz čega – bilo bi dovoljno samo da dodatno poguraju postojeće obrasce i podele.
Takve masovne manipulacije nisu neka hipotetička distopija. Na primer, prošle godine, Redit je pretio sudskim postupcima protiv naučnika koji su koristili četbotove sa veštačkom inteligencijom na popularnom forumu r/changemyview u eksperimentu u kojem su pokušali da utiču na mišljenja četiri miliona korisnika. Prema preliminarnim nalazima istraživača, odgovori njihovih četbotova bili su tri do šest puta ubedljiviji od odgovora ljudskih korisnika.
Morate se pripremiti na vreme
Zaključak autora nije da je apokalipsa neizbežna, već da je to stvaran i rastući rizik koji zahteva ozbiljnu diskusiju. Ako se društva ne pripreme na vreme, upozoravaju oni, granica između stvarnog javnog mnjenja i veštački proizvedenih iluzija mogla bi postati opasno zamagljena.
Pogledajte i: