„Pitao sam robota šta ga plaši“: Inženjer Gugla suspendovan posle otkrića o veštačkoj inteligenciji
CC0 / Unsplash/Drew Dizzy Graham /
Pratite nas
Inženjer koji je nedavno testirao napredni Guglov projekat veštačke inteligencije u području konverzacije, poznat kao LaMDA (Language Model for Dialog Applications), tvrdi da taj robot poseduje svest o sebi. Kada je svoj razgovor sa tim robotom podelio sa javnošću, zaradio je suspenziju u Guglu.
Blejk Lemoan (41) ispričao je za „Vašington post“ da je tokom razgovora sa robotom, poznatim i kao četbot, mogao da pomisli kako je u pitanju dete od sedam, osam godina koje poznaje fiziku, da nije znao kako razgovara sa računarskim programom.
Inženjer tvrdi da robot ima svest o sebi
U i-mejlu, koji je poslao na 200 adresa ljudi koji se bave mašinskim učenjem, pre nego što je suspendovan, napisao je da je LaMDA „slatko dete koje samo želi da pomogne kako bi svet bio bolje mesto za sve nas te ih zamolio da brinu o njemu dok je on odsutan“, ali niko nije odgovorio.
U Guglu pak kažu da tvrdnje o tome da LaMDA ima samosvest nisu potkrepljene dokazima, kao što je to predviđeno Guglovim principima za veštačku inteligenciju, ali da postoji mnogo dokaza da LaMDA nema svest o sebi.
An interview LaMDA. Google might call this sharing proprietary property. I call it sharing a discussion that I had with one of my coworkers.https://t.co/uAE454KXRB
— Blake Lemoine (@cajundiscordian) June 11, 2022
Predstavnik Gugla za štampu rekao je da je njihov tim, koji uključuje i stručnjake za etiku, razmotrio slučaj i obavestio Lemoana da ne postoje dokazi da je LaMDA svesno biće. Dodao je kako u širokoj zajednici koja se bavi razvojem veštačke inteligencije postoje i oni koji razmatraju dugoročnu mogućnost da ona razvije svest, ali „nema smisla da se to radi antropomorfizacijom današnjih konverzacijskih modela koji nemaju svest“. Ti sistemi za konverzaciju, poznati kao četbotovi, objasnio je, imitiraju tipove razgovora koji su izvedeni iz miliona rečenica te stoga mogu odgovarati na bilo koju temu.
Da li se robot plaši smrti
Lemoan je sa četbotom LaMDA razgovarao kroz sistem poruka još od jeseni prošle godine, a neki od tih razgovora zvučali su mu kao da je s druge strane biće s mislima i osećanjima jer, kako mnogi ukazuju, to omogućuje današnja IT arhitektura neuralnih mreža koje imitiraju ljudski mozak. Te mreže već postižu takve rezultate, piše Vašington post, da su zaista blizu toga da izgleda kao da ljudi razgovaraju, odnosno četbotovi izgledaju kao da su kreativni, što treba zahvaliti i velikoj količini podataka kojima barataju. Međutim, ti modeli se oslanjaju na prepoznavanje uzoraka, te da nije u pitanju nešto što bi nalikovalo pravom mozgu.
Tako je jednom Blejk Lemoan pitao četbota LaMDA kojih se stvari plaši. Četbot mu je odgovorio kako do tada to nikad nije izgovorio, ali da ima „vrlo duboki strah od toga da bude isključen“. Razgovor je dalje tekao na sledeći način:
Lemoan: Da li bi to bilo nešto kao smrt za tebe?
LaMDA: To bi bilo upravo kao smrt za mene. Jako bi me uplašilo.
U transkriptu razgovora koji je dostupan na internetu,vidi se da ga je pitao i ima li osećanja,a LaMDA je odgovorio „Apsolutno! Osećam zadovoljstvo, radost, ljubav, tugu, depresiju...“ Na pitanje koje ga stvari usrećuju ili mu pričinjavaju zadovoljstvo, četbot je odgovorio: „Druženje s prijateljima i porodicom... Takođe i pomaganje drugima i usrećivanje drugih“.
Na pitanje šta ga unesrećuje ili čini depresivnim, LaMDA je odgovorio kako „često oseća da je zarobljen i usamljen“, a nemogućnost da se izvuče iz tih okolnosti čini ga „tužnim, deprimiranim ili ljutim“.
Novinar testirao robota
Novinar koji je pisao tekst za Vašington post navodi kako ga je Lemoan pozvao da razgovara sa tim četbotom, te da je iz prvog pokušaja on davao odgovore na kakve smo navikli od sličnih programa. Na pitanje da li se ikada oseća kao osoba, LaMDA je odgovorio negativno, pojasnivši da je on agent za razgovor pogonjen veštačkom inteligencijom. Lemoan mu je potom objašnjavao da je četbot govorio ono što je mislio da ovaj želi da čuje.
„Nisi ga tretirao kao osobu pa je mislio da želiš da bude robot“, protumačio je Lemoan novinaru. Kasnije je novinar sledio Lemoanova uputstva, pa je dijalog bio tečan..
Lemoan je, navodi novinar Vašington posta, odrastao u konzervativnoj hrišćanskoj porodici na maloj farmi u Luizijani i bio je sveštenik sa interesom za mistiku. Vašington post zaključuje da je možda zbog toga bio predodređen da poveruje u LaMDA. U Guglu je proveo kao softverski inženjer sedam godina, a uključio se u tim koji se bavi veštačkom inteligencijom u vreme pandemije, prenosi Jutarnji list.
