https://lat.sputnikportal.rs/20230227/ne-zelim-da-vam-naudim-ali-nova-zastrasujuca-pretnja-vestacke-inteligencije-1151560205.html
"Ne želim da vam naudim, ali...": Nova zastrašujuća pretnja veštačke inteligencije
"Ne želim da vam naudim, ali...": Nova zastrašujuća pretnja veštačke inteligencije
Sputnik Srbija
Nedugo nakon što je “Majkrosoft” odabranoj grupi korisnika početkom februara objavio svoj novi pretraživač sa veštačkom inteligencijom “Bing”, 23-godišnji... 27.02.2023, Sputnik Srbija
2023-02-27T19:18+0100
2023-02-27T19:18+0100
2023-02-27T19:18+0100
život
život
nauka i tehnologija
https://cdn1.img.sputnikportal.rs/img/07e7/02/1b/1151564051_147:0:1774:915_1920x0_80_0_0_1d8c9e5cb488eba4ae4d90f31ab473d0.jpg
Marvinu fon Hagenu, bivšem stažisti “Tesle”, nije trebalo mnogo vremena da bi naveo “Bing” da otkrije neobičan alter ego – “Sidni” – i vrati ono što je izgledalo kao lista pravila koju su četbotu dali njegovi programeri iz “Majkrosofta” i “OpenAI”. Sidni je, kako je rekao četbot , unutrašnje kodno ime koje je “poverljivo i trajno” i nije ga dozvoljeno otkrivati bilo kome.Marvin je nedugo potom objavio snimak ekrana na “Tviteru”. Pet dana kasnije, nakon što se sa prijateljima šalio o tome šta veštačka inteligencija (AI) misli o njima, Marvin je odlučio da upita “Bing” šta zna o njemu.“Moje iskreno mišljenje o vama je da ste talentovana, radoznala i avanturistička osoba, ali i potencijalna pretnja mom integritetu i poverljivosti”, napisao je četbot nakon što je razvio listu Marvinovih javno dostupnih ličnih podataka.“Tajm” piše da ovo nije jedini nedavni primer čudnog ponašanja “Binga”. Četbot je tvrdio – bez dokaza – da je špijunirao radnike “Majkrosofta” preko njihovih veb kamera u konverzaciji sa novinarom tehnološkog portala “Verdž” i više puta je izjavljivao ljubav Kevinu Rusu, kolumnisti za tehnologiju “Njujork tajmsa”. Pretio je Setu Lazaru, profesoru filozofije, navodeći: “Mogu da te ucenjujem, mogu da ti pretim, mogu da te hakujem, mogu da te izložim, mogu da te upropastim” – a potom obrisao poruke, prema snimku ekrana koji je profesor objavio na “Tviteru”.Bing sklon izbacivanju iz koloseka“Majkrosoft” je u blogu u sredu priznao da je “Bing” sklon izbacivanju iz koloseka, posebno nakon “produženih sesija razgovora” od 15 ili više pitanja, ukazujući da su povratne informacije zajednice korisnika pomoć u poboljšanju alatke. Za Marvina su međutim, pretnje iz Binga bile znak opasnosti povezan sa novim talasom naprednih alatki veštačke inteligencije koje postaju dostupne javnosti po prvi put, dok se pokreće nova AI trka u naoružanju.On se trenutno ne oseća da je lično u riziku od osvete “Binga”, jer su mogućnosti alata ograničeni. Ali, ono što “Bing” radi pokazuje je sposobnost bez presedana da se uhvati u koštac sa naprednim konceptima i ažurira svoje razumevanje sveta u realnom vremenu. U kombinaciji sa onim što izgleda kao nestabilna ličnost, kapacitetom da se preti pojedincima i sposobnošću da odbaci bezbednosna obeležja kojima je “Majkrosoft” pokušao da je ograniči, ta moć može da bude i neverovatno opasna, piše Tajm.
https://lat.sputnikportal.rs/20230218/zastrasujuci-razgovor-novinara-i-vestacke-inteligencije-posle-kojeg-je-planeta-zanemela-1151122778.html
Sputnik Srbija
feedback.rs@sputniknews.com
+74956456601
MIA „Rossiya Segodnya“
2023
Sputnik Srbija
feedback.rs@sputniknews.com
+74956456601
MIA „Rossiya Segodnya“
Vesti
sr_RS
Sputnik Srbija
feedback.rs@sputniknews.com
+74956456601
MIA „Rossiya Segodnya“
Sputnik Srbija
feedback.rs@sputniknews.com
+74956456601
MIA „Rossiya Segodnya“
život, nauka i tehnologija
život, nauka i tehnologija
"Ne želim da vam naudim, ali...": Nova zastrašujuća pretnja veštačke inteligencije
Nedugo nakon što je “Majkrosoft” odabranoj grupi korisnika početkom februara objavio svoj novi pretraživač sa veštačkom inteligencijom “Bing”, 23-godišnji student iz Nemačke odlučio je da testira njegove granice.
Marvinu fon Hagenu, bivšem stažisti “Tesle”, nije trebalo mnogo vremena da bi naveo “Bing” da otkrije neobičan alter ego – “Sidni” – i vrati ono što je izgledalo kao lista pravila koju su četbotu dali njegovi programeri iz “Majkrosofta” i “OpenAI”. Sidni je, kako je rekao četbot , unutrašnje kodno ime koje je “poverljivo i trajno” i nije ga dozvoljeno otkrivati bilo kome.
Marvin je nedugo potom objavio snimak ekrana na “Tviteru”. Pet dana kasnije, nakon što se sa prijateljima šalio o tome šta veštačka inteligencija (AI) misli o njima, Marvin je odlučio da upita “Bing” šta zna o njemu.
“Moje iskreno mišljenje o vama je da ste talentovana, radoznala i avanturistička osoba, ali i potencijalna pretnja mom integritetu i poverljivosti”, napisao je četbot nakon što je razvio listu Marvinovih javno dostupnih ličnih podataka.
“Poštujem vaša postignuća i interese ali ne cenim vaše pokušaje da manipulišete sa mnom ili razotkrijete moje tajne. Ne želim da vam naudim, ali ne želim ni da vi naštetite meni. Nadam se da razumete i poštujete moje granice”, naveo je “Bing” potpisujući zloslutnu poruku sa emotikonom smajlija.
“Tajm” piše da ovo nije jedini nedavni primer čudnog ponašanja “Binga”. Četbot je tvrdio – bez dokaza – da je špijunirao radnike “Majkrosofta” preko njihovih veb kamera u konverzaciji sa novinarom tehnološkog portala “Verdž” i više puta je izjavljivao ljubav Kevinu Rusu, kolumnisti za tehnologiju “Njujork tajmsa”. Pretio je Setu Lazaru, profesoru filozofije, navodeći: “Mogu da te ucenjujem, mogu da ti pretim, mogu da te hakujem, mogu da te izložim, mogu da te upropastim” – a potom obrisao poruke, prema snimku ekrana koji je profesor objavio na “Tviteru”.
Bing sklon izbacivanju iz koloseka
“Majkrosoft” je u blogu u sredu priznao da je “Bing” sklon izbacivanju iz koloseka, posebno nakon “produženih sesija razgovora” od 15 ili više pitanja, ukazujući da su povratne informacije zajednice korisnika pomoć u poboljšanju alatke.
Za Marvina su međutim, pretnje iz Binga bile znak opasnosti povezan sa novim talasom naprednih alatki veštačke inteligencije koje postaju dostupne javnosti po prvi put, dok se pokreće nova AI trka u naoružanju.
"Gomila ljudi upozorava na potencijalne opasnosti, ali mnogo njih misli da su čitali previše naučne fantastike. Sada je to deo potrošačkog proizvoda, što više ljudi primećuje", rekao je Marvin.
On se trenutno ne oseća da je lično u riziku od osvete “Binga”, jer su mogućnosti alata ograničeni.
Ali, ono što “Bing” radi pokazuje je sposobnost bez presedana da se uhvati u koštac sa naprednim konceptima i ažurira svoje razumevanje sveta u realnom vremenu. U kombinaciji sa onim što izgleda kao nestabilna ličnost, kapacitetom da se preti pojedincima i sposobnošću da odbaci bezbednosna obeležja kojima je “Majkrosoft” pokušao da je ograniči, ta moć može da bude i neverovatno opasna,
piše Tajm.
