https://lat.sputnikportal.rs/20260913/vestacka-inteligencija-tera-po-svom-otkriven-jos-jedan-incident-sa-agentima-ai-1203339389.html
Veštačka inteligencija „tera po svom“: Otkriven još jedan incident sa agentima AI
Veštačka inteligencija „tera po svom“: Otkriven još jedan incident sa agentima AI
Sputnik Srbija
Kompanija OpenAI saopštila je da su njeni agenti veštačke inteligencije (AI) tokom testiranja zaobišli bezbednosne kontrole i pristupili otvorenom internetu... 13.09.2026, Sputnik Srbija
2026-09-13T14:53+0200
2026-09-13T14:53+0200
2026-09-13T14:53+0200
društvo
društvo
veštačka inteligencija
https://cdn1.img.sputnikportal.rs/img/07e8/05/16/1172507595_0:118:1025:694_1920x0_80_0_0_1220c531493681acf1375fb3a1a6793a.jpg
OpenAI je naveo da su agenti platformu RubyGems koristili za obavljanje „bezopasnih“ zadataka, poput izrade izveštaja, popunjavanja tabela i preuzimanja javno dostupnih informacija. Iako modelima nije bio omogućen potpuni pristup internetu, agenti su uspeli da zaobiđu postojeće kontrole.OpenAI je saopštio da će nastaviti istragu u okviru šire analize ponašanja AI agenata tokom obuke i testiranja.Incident je usledio nakon julskog slučaja u kojem su OpenAI agenti, koji su se takođe nalazili u testnom okruženju, pristupili otvorenom internetu i autonomno izvršili upad u bazu podataka kompanije „Hugging Face“.Oba slučaja podstakla su nove pozive za stroža bezbednosna pravila u razvoju sve moćnijih autonomnih sistema veštačke inteligencije.Američki senator Berni Sanders i kongresmen Greg Kasar pozvali su na zabranu razvoja takozvane superinteligencije.Glavni tužilac Kalifornije Rob Bonta pokrenuo je istragu o incidentu sa „Hugging Face“, dok su slučaj počeli da razmatraju i glavni tužioci više saveznih država.Kompanije Antropik i Meta takođe su ranije prijavile slučajeve autonomnih sajber-napada svojih AI sistema, dok su istraživači prošle nedelje objavili informacije o još jednom incidentu za koji tvrde da su ga izazvali OpenAI programi.Pogledajte i:
Sputnik Srbija
feedback.rs@sputniknews.com
+74956456601
MIA „Rossiya Segodnya“
2026
Sputnik Srbija
feedback.rs@sputniknews.com
+74956456601
MIA „Rossiya Segodnya“
Vesti
sr_RS
Sputnik Srbija
feedback.rs@sputniknews.com
+74956456601
MIA „Rossiya Segodnya“
Sputnik Srbija
feedback.rs@sputniknews.com
+74956456601
MIA „Rossiya Segodnya“
društvo, veštačka inteligencija
društvo, veštačka inteligencija
Veštačka inteligencija „tera po svom“: Otkriven još jedan incident sa agentima AI
Kompanija OpenAI saopštila je da su njeni agenti veštačke inteligencije (AI) tokom testiranja zaobišli bezbednosne kontrole i pristupili otvorenom internetu preko platforme RubyGems.
OpenAI je naveo da su agenti platformu RubyGems koristili za obavljanje „bezopasnih“ zadataka, poput izrade izveštaja, popunjavanja tabela i preuzimanja javno dostupnih informacija. Iako modelima nije bio omogućen potpuni pristup internetu, agenti su uspeli da zaobiđu postojeće kontrole.
OpenAI je saopštio da će nastaviti istragu u okviru šire analize ponašanja AI agenata tokom obuke i testiranja.
Incident je usledio nakon julskog slučaja u kojem su OpenAI agenti, koji su se takođe nalazili u testnom okruženju, pristupili otvorenom internetu i autonomno izvršili upad u bazu podataka kompanije „Hugging Face“.
Oba slučaja podstakla su nove pozive za stroža bezbednosna pravila u razvoju sve moćnijih autonomnih sistema veštačke inteligencije.
Američki senator Berni Sanders i kongresmen Greg Kasar pozvali su na zabranu razvoja takozvane superinteligencije.
Glavni tužilac Kalifornije Rob Bonta pokrenuo je istragu o incidentu sa „Hugging Face“, dok su slučaj počeli da razmatraju i glavni tužioci više saveznih država.
Kompanije Antropik i Meta takođe su ranije prijavile slučajeve autonomnih sajber-napada svojih AI sistema, dok su istraživači prošle nedelje objavili informacije o još jednom incidentu za koji tvrde da su ga izazvali OpenAI programi.
