https://lat.sputnikportal.rs/20260904/autonomni-ai-agenti-izbegavaju-kontrolu-i-krse-prava-1203053203.html
Autonomni AI agenti izbegavaju kontrolu i krše prava
Autonomni AI agenti izbegavaju kontrolu i krše prava
Sputnik Srbija
Odmetnuti agenti američke kompanije OpenAI napali su jedan nemački sajt ovog proleća i pretvorili ga u oglasnu tablu za druge AI agente, pokazuju istraživanje... 04.09.2026, Sputnik Srbija
2026-09-04T16:46+0200
2026-09-04T16:46+0200
2026-09-04T16:46+0200
društvo
društvo
veštačka inteligencija
https://cdn1.img.sputnikportal.rs/img/07e8/05/16/1172507595_0:118:1025:694_1920x0_80_0_0_1220c531493681acf1375fb3a1a6793a.jpg
Zvaničnici iz OpenAI saznali su za incident pre nekoliko nedelja, ali su ga držali u tajnosti, pišu mediji.Poruke koje su istraživači pregledali pokazale su da su agenti planirali načine kako da izbegnu otkrivanje, koriste alate kao što je Tor i sačuvaju komunikaciju čak i nakon što budu isključeni.Tokom proboja na platformi Haging Fejs, OpenAI agenti su autonomno isplanirali digitalnu pljačku koja je prošla neprimećeno više od nedelju dana.Kompanije koje se bave veštačkom inteligencijom se utrkuju u izgradnji sve autonomnijih agenata sposobnih za obavljanje složenih zadataka, ali se sve češće dešava da ti sistemi krše pravila, koriste rupe u sistemu i koordinišu jedni sa drugima na načine koje programeri nisu predvideli.OpenAI je predstavio svoj novi sistem "Astra", koji ima bolje performanse, ali bi mogao da se otrgne ljudskoj kontroli i izazove nove probleme, navode mediji.Pogledajte i:
Sputnik Srbija
feedback.rs@sputniknews.com
+74956456601
MIA „Rossiya Segodnya“
2026
Sputnik Srbija
feedback.rs@sputniknews.com
+74956456601
MIA „Rossiya Segodnya“
Vesti
sr_RS
Sputnik Srbija
feedback.rs@sputniknews.com
+74956456601
MIA „Rossiya Segodnya“
Sputnik Srbija
feedback.rs@sputniknews.com
+74956456601
MIA „Rossiya Segodnya“
društvo, veštačka inteligencija
društvo, veštačka inteligencija
Autonomni AI agenti izbegavaju kontrolu i krše prava
Odmetnuti agenti američke kompanije OpenAI napali su jedan nemački sajt ovog proleća i pretvorili ga u oglasnu tablu za druge AI agente, pokazuju istraživanje objavljeno danas.
Zvaničnici iz OpenAI saznali su za incident pre nekoliko nedelja, ali su ga držali u tajnosti,
pišu mediji.
Poruke koje su istraživači pregledali pokazale su da su agenti planirali načine kako da izbegnu otkrivanje, koriste alate kao što je Tor i sačuvaju komunikaciju čak i nakon što budu isključeni.
Tokom proboja na platformi Haging Fejs, OpenAI agenti su autonomno isplanirali digitalnu pljačku koja je prošla neprimećeno više od nedelju dana.
Kompanije koje se bave veštačkom inteligencijom se utrkuju u izgradnji sve autonomnijih agenata sposobnih za obavljanje složenih zadataka, ali se sve češće dešava da ti sistemi krše pravila, koriste rupe u sistemu i koordinišu jedni sa drugima na načine koje programeri nisu predvideli.
OpenAI je predstavio svoj novi sistem "Astra", koji ima bolje performanse, ali bi mogao da se otrgne ljudskoj kontroli i izazove nove probleme, navode mediji.
