Lemojn je softverski inženjer zadužen za etička pitanja kompaniji „Gugl“, a izjavom da bi LaMDA mogao da se nazove osobom, uzburkao strasti i među stručnjacima i među laicima.
Lemojn je suspendovan zbog ovih ispada, ali slučaj postavlja zanimljivo pitanje. Šta zapravo predstavlja LaMDA i čemu ovaj projekat uopšte služi?
Šta je u stvari LaMDA?
LaMDA ili Language Models for Dialog Applications predstavlja jezički model za mašinsko učenje, koji je kompanija „Gugl“ kreirala kao četbota. Njegova uloga je da imitira ljude u razgovorima.
Poput BERT, GPT-3 i drugih jezičkih modela, LaMDA je izgrađena na Transformeru – arhitekturi neuralnih mreža koju je „Gugl“ osmislio 2017. godine i načinio je otvorenim kodom.
Ova arhitektura proizvodi model koji može da se istrenira da čita veliki broj reči, kao i da vodi računa o tome na koji način te reči imaju smisla, kao i da predvidi koja reč bi mogla uslediti. Ono što LaMDA-u čini drugačijom jeste da je trenirana na dijalogu, za razliku od većine drugih modela.
Iako se razgovori obično vrte oko određenih tema, oni su često otvoreni, što znači da mogu da počnu sa jednom temom i da se završe negde drugde. Upravo taj "tečni" kvalitet obavljanja razgovora jeste ono što na kraju odaje konvencionalne čet botove. Oni nisu u stanju da prate takav promenljivi dijalog jer su dizajnirani da prate uske, unapred definisane delove razgovora. Ali LaMDA je dizajnirana tako da može da se neometano uključi u razgovore o gotovo beskrajnom broju tema, piše B92.
Lemojn je objavio „intervju“ koji je obavio sa LaMDA-om, a u okviru kojeg veštačka inteligencija (bar prema njegovom mišljenju) pokazuje osećaj usamljenosti i teži novim duhovnim saznanjima. Upravo je ovo, zajedno sa drugim elementima u okviru kojih je ovaj jezički model pokazao neke nivoe svesti, ono što je Lemojna navelo da veruje da je model postao „misleće biće“.
„Gugl“ je naravno odbacio ovakve tvrdnje, a zvanična poruka kompanije jeste da ovakvi modeli za razgovor nemaju razum kakav pominje Lemojn. Ti sistemi zapravo imitiraju tipove razmena koji mogu da se pronađu u milionima rečenica.
Međutim, čak i ako LaMDA nije sistem koji ima svest, sama činjenica da tako može da deluje ljudskom biću moglo bi biti razlog za zabrinutost. „Gugl“ je priznao takve rizike u objavi na blogu iz 2021. godine, kada je najavio LaMDA-u.
„Jezik je možda jedno od najvećih oruđa čovečanstva, ali kao i svi alati može da se zloupotrebi. Modeli obučeni na jeziku kao sredstvu mogu da propagiraju tu zloupotrebu — na primer, internalizovanjem predrasuda, preslikavanjem govora mržnje ili repliciranjem obmanjujućih informacija. Čak i kada je jezik na kom se obučava pažljivo proveren, model i dalje može da se loše koristi ili zloupotrebi“, stoji u objavi kompanije.
Šta kažu stručnjaci
Ipak, „Gugl“ kaže da je, iako stvara tehnologije poput LaMDA, najveći prioritet kompanije da minimalizuje mogućnost pojave takvih rizika. Kompanija je saopštila da je izgradila resurse otvorenog koda koje istraživači mogu da koriste za analizu modela i podataka o kojima su obučeni i da je „pomno ispitala LaMDA-u u svakom koraku njenog razvoja“.
Kada su u pitanju mišljenja stručnjaka, i na ovom polju su se razvili različiti stavovi. Neki eksperti za veštačku inteligenciju kažu da ljudska bića (među kojima je i Lemojn) imaju predispoziciju za antropomorfizovanje karakteristike nečega odmah kada uoče i najslabije signale, a na ovo nisu imuni ni inženjeri u „Guglu“.
Stiven Pinker sa Harvarda je nešto grublji, pa kaže da Lemojn ne ume da razlikuje samosvest, inteligenciju i naglašava da nema dokaza da ih jezički modeli poseduju. Neki drugi, kao što je diveloper Ron Džefris, konstatuju da ne postoji jasna linija između „razuma i ne-razuma“.
Zanimljivo je da je, pre nego što je sa svojim tvrdnjama izašao u javnost, Lemojn bio u višemesečnom sukobu sa kompanijom „Gugl“ zbogsvojih stavova. „Gugl“ je forsirao svoj stav da stotine drugih inženjera i naučnika, koji su učestvovali u projektu LaMDA, zapravo imaju drugačije zaključke i iskustva od onih koje propagira Lemojn.
Jan Lekun iz kompanije „Meta“, koji je jedan od vodećih autoriteta na polju neuralnih mreža (što LaMDA jeste u svojoj osnovi), smatra da ta vrsta sistema nije dovoljno moćna za usvajanje istinske inteligencije.
„Gugl“naravno nije jedina kompanija na svetu koja razvija ovakav ili slične sisteme veštačke inteligencije i biće zanimljivo videti u kom smeru će se ubuduće razvijati ova sfera nauke.