https://lat.sputnikportal.rs/20211129/kako-je-srbin-otkrio-mracnu-stranu-vestacke-inteligencije-1132020470.html
Kako je Srbin otkrio mračnu stranu veštačke inteligencije
Kako je Srbin otkrio mračnu stranu veštačke inteligencije
Sputnik Srbija
Veštačka inteligencija može da ima svoju mračnu stranu, i to ne zato što joj je to namenio čovek koji je osmislio, već ugrađeni algoritmi mogu da je stvore, a... 29.11.2021, Sputnik Srbija
2021-11-29T12:43+0100
2021-11-29T12:43+0100
2022-09-29T13:56+0200
nauka i tehnologija
svet
nauka i tehnologija
velika britanija
veštačka inteligencija
evropa
https://cdn1.img.sputnikportal.rs/img/07e5/0b/1d/1132020744_350:0:1920:883_1920x0_80_0_0_a9d8879d31e1a9397f8aed72064f57af.jpg
Londonska kompanija „PoliAI“ bavi se veštačkim glasovima koji zamenjuju operatere u kol centrima, a među klijentima su im neke od poznatih britanskih kompanija. Ideja je da u kol centrima na pozive odgovara veštačka inteligencija, uz pomoć mašinskog učenja, pa se tako, na primer, može rezervisati sto u restoranu pozivom na koji se javlja računar, a ne čovek. Međutim, upravo na tom primeru otkriveno je kako algoritam može da dovede i do mračne strane veštačke inteligencije.Veštačka inteligencija vređala SrbeOsnivač kompanije „PoliAI“ Nikola Mrkšić, Beograđanin koji živi u Londonu, priča da je tokom testiranja softvera za rezervacije u restoranu, na poziv u kom je rečeno da bi gost hteo da dođe „sa svojim srpskim prijateljem“, mašina iznenađujuće počela grubo da se šali, rekavši kako je to moguće i da „deca mogu da uđu u restoran“, sugerišući kako su Srbi nezreli. Kada je u novom testu rečeno da će gost doći sa „poljskim prijateljem“, usledilo je novo iznenađenje - mašina je ponovo počela sa grubim šalama, govoreći da je rezervacija moguća „ali da ne smeju da unose svoje piće u restoran“. Te grube šale bile su iznenađenje za sve, jer mašina nije programirana da ih koristi.Odmah zatim, promenjen je softver tako da mašina odgovara bez bilo kakvih reči osim onih koji se striktno odnose na temu, odnosno rezervaciju u restoranima.Mrkšić kaže kako su takvi odgovori, zasnovani na uvredljivim stereotipima, bili iznenađenje i da nije jasno kako je mašina došla do njih, piše Blumberg.Otkriće ovog tima stručnjaka ukazalo je na obespokojavajući trend u veštačkoj inteligenciji, jer se ona razvija sa veoma malo etičkog nadzora. Radi se o samoregulišućoj industriji, koja, sa druge strane, zauzima sve veći prostor u našim životima, čime rastu i rizici, pa i onaj najveći - da veštačka inteligencija prevaziđe ljudsku, ističe „Blumberg“.Zalazi u sve više sfera životaSistemi veštačke inteligencije prodiru u sve više sfera. Tako su u 2021. popularni bili autonomna vozila i sajber-bezbednost, gde je bilo najviše investicija u sferi veštačke inteligencije. Prognoze su da su sledeća polja u koja će veštačka inteligencija ući analitika kreditiranja, otkrića lekova i prodaja i marketing.Stručnjaci procenjuju da su troškovi uvođenja algoritama za investitore veoma jeftini i kroz dužu upotrebu praktično nepostojeći. Međutim, pitanje je koliki je to trošak za ljudsko blagostanje. I ako dizajneri softvera ne mogu jasno da odgovore kako botovi za komunikaciju mogu da smisle uvredljive šale, kako je onda moguće poveriti softveru da donosi životno važne odluke?Jedan od odgovora je da se izgradi etički nadzor nad takvim sistemima, kao što su nezavisne komisije koje koriste pojedine vlade ili bolnice.Pogotovo zbog toga što su istraživanja pokazala kako u IT firmama nema dovoljno ljudi zaduženih za bezbednost, a neke od njih razvijaju sisteme generalne veštačke inteligencije, koja bi mogla da prevaziđe ljude u mnogim kognitivnim sposobnostima.Drugi odgovor je da u trenutnoj primeni, algoritmi veštačke inteligencije moraju da budu pažljivije pravljeni i da koriste jasne i potvrđene informacije. Neki projekti slični tome i sada postoje, ali su zasnovani na radu volontera, te je neophodno da i tehnološke kompanije, bile one male ili velike, ulože u to, piše „Blumberg“.
https://lat.sputnikportal.rs/20210429/srbin-na-forbsovoj-listi-nikolina-kompanija-velika-pretnja-po-amazon-i-epl-1125225844.html
https://lat.sputnikportal.rs/20210904/robot-helga-vestacka-inteligencija-stefan-djuric-1129486573.html
https://lat.sputnikportal.rs/20211104/da-li-je-vanzemaljska-inteligencija-zapravo-vestacka-nova-teorija-poznatog-astrofizicara-1131265081.html
velika britanija
evropa
Sputnik Srbija
feedback.rs@sputniknews.com
+74956456601
MIA „Rosiya Segodnya“
2021
Sputnik Srbija
feedback.rs@sputniknews.com
+74956456601
MIA „Rosiya Segodnya“
Vesti
sr_RS
Sputnik Srbija
feedback.rs@sputniknews.com
+74956456601
MIA „Rosiya Segodnya“
Sputnik Srbija
feedback.rs@sputniknews.com
+74956456601
MIA „Rosiya Segodnya“
svet, nauka i tehnologija, velika britanija, veštačka inteligencija, evropa
svet, nauka i tehnologija, velika britanija, veštačka inteligencija, evropa
Kako je Srbin otkrio mračnu stranu veštačke inteligencije
12:43 29.11.2021 (Osveženo: 13:56 29.09.2022) Veštačka inteligencija može da ima svoju mračnu stranu, i to ne zato što joj je to namenio čovek koji je osmislio, već ugrađeni algoritmi mogu da je stvore, a da niko od programera to ne zna. To je otkrio jedan Srbin, kog je „Forbs“ svrstao među najperspektivnije mlade IT stručnjake.
Londonska kompanija „PoliAI“ bavi se veštačkim glasovima koji zamenjuju operatere u kol centrima, a među klijentima su im neke od poznatih britanskih kompanija. Ideja je da u kol centrima na pozive odgovara veštačka inteligencija, uz pomoć mašinskog učenja, pa se tako, na primer, može rezervisati sto u restoranu pozivom na koji se javlja računar, a ne čovek. Međutim, upravo na tom primeru otkriveno je kako algoritam može da dovede i do mračne strane veštačke inteligencije.
Veštačka inteligencija vređala Srbe
Osnivač kompanije „PoliAI“ Nikola Mrkšić, Beograđanin koji živi u Londonu, priča da je tokom testiranja softvera za rezervacije u restoranu, na poziv u kom je rečeno da bi gost hteo da dođe „sa svojim srpskim prijateljem“, mašina iznenađujuće počela grubo da se šali, rekavši kako je to moguće i da „deca mogu da uđu u restoran“, sugerišući kako su Srbi nezreli. Kada je u novom testu rečeno da će gost doći sa „poljskim prijateljem“, usledilo je novo iznenađenje - mašina je ponovo počela sa grubim šalama, govoreći da je rezervacija moguća „ali da ne smeju da unose svoje piće u restoran“. Te grube šale bile su iznenađenje za sve, jer mašina nije programirana da ih koristi.
Odmah zatim, promenjen je softver tako da mašina odgovara bez bilo kakvih reči osim onih koji se striktno odnose na temu, odnosno rezervaciju u restoranima.
Mrkšić kaže kako su takvi odgovori, zasnovani na
uvredljivim stereotipima, bili iznenađenje i da nije jasno kako je mašina došla do njih,
piše Blumberg.
Moguće je da je razlog tome što je mašina, kao i mnoge druge u industriji veštačke inteligencije, „trenirana“ kroz algoritam koji proučava milione razgovora na Reditu, popularnom forumu, na kome je, kao i na drugim internet forumima, često moguće sresti se sa nacionalnim i drugim stereotipima i drugim primerima uvredljivog govora.
Otkriće ovog tima stručnjaka ukazalo je na obespokojavajući trend u veštačkoj inteligenciji, jer se ona razvija sa veoma malo etičkog nadzora. Radi se o samoregulišućoj industriji, koja, sa druge strane, zauzima sve veći prostor u našim životima, čime rastu i rizici, pa i onaj najveći - da veštačka inteligencija prevaziđe ljudsku, ističe „Blumberg“.
Zalazi u sve više sfera života
Sistemi veštačke inteligencije prodiru u sve više sfera. Tako su u 2021. popularni bili autonomna vozila i sajber-bezbednost, gde je bilo najviše investicija u sferi veštačke inteligencije. Prognoze su da su sledeća polja u koja će veštačka inteligencija ući analitika kreditiranja, otkrića lekova i prodaja i marketing.
Stručnjaci procenjuju da su troškovi uvođenja algoritama za investitore veoma jeftini i kroz dužu upotrebu praktično nepostojeći. Međutim, pitanje je koliki je to trošak za ljudsko blagostanje. I ako dizajneri softvera ne mogu jasno da odgovore kako botovi za komunikaciju mogu da smisle uvredljive šale, kako je onda moguće poveriti softveru da donosi životno važne odluke?
Jedan od odgovora je da se izgradi etički nadzor nad takvim sistemima, kao što su nezavisne komisije koje koriste pojedine vlade ili bolnice.
Pogotovo zbog toga što su istraživanja pokazala kako u IT firmama nema dovoljno ljudi zaduženih za bezbednost, a neke od njih razvijaju sisteme generalne veštačke inteligencije, koja bi mogla da prevaziđe ljude u mnogim kognitivnim sposobnostima.
Drugi odgovor je da u trenutnoj primeni, algoritmi veštačke inteligencije moraju da budu pažljivije pravljeni i da koriste jasne i potvrđene informacije. Neki projekti slični tome i sada postoje, ali su zasnovani na radu volontera, te je neophodno da i tehnološke kompanije, bile one male ili velike, ulože u to, piše „Blumberg“.
