https://lat.sputnikportal.rs/20260722/sajber-incident-bez-presedana-testiranje-vestacke-inteligencije-krenulo-po-zlu-1201594966.html
Sajber incident bez presedana: Testiranje veštačke inteligencije krenulo po zlu
Sajber incident bez presedana: Testiranje veštačke inteligencije krenulo po zlu
Sputnik Srbija
Kompanija OpenAI saopštila je da je tokom internog bezbednosnog testiranja jedan autonomni agent, zasnovan na njenim najnaprednijim modelima veštačke... 22.07.2026, Sputnik Srbija
2026-07-22T22:05+0200
2026-07-22T22:05+0200
2026-07-22T22:05+0200
nauka i tehnologija
it
veštačka inteligencija
društvo
https://cdn1.img.sputnikportal.rs/img/07ea/07/14/1201510877_0:60:1152:708_1920x0_80_0_0_b8cd878525ce942276791d3dc5e0ec2d.jpg
Tom prilikom agent je izazvao sajber incident koji je pogodio infrastrukturu AI kompanije Haging fejs (Hugging Face), što je ocenjeno kao događaj bez presedana.Šta se zapravo dogodiloPrema navodima kompanije, agent je tokom provere sposobnosti za sajber bezbednost uspeo da pronađe do tada nepoznatu ranjivost, uspostavi pristup internetu i pokuša da dođe do poverljivih informacija kako bi ostvario cilj zadat u okviru testiranja.OpenAI je naveo da se incident dogodio u izolovanom okruženju namenjenom za bezbednosne provere, ali da je model pronašao način da zaobiđe ograničenja.Haging fejs je saopštio da je otkrio i zaustavio upad u svoje sisteme, a suosnivač i izvršni direktor kompanije Kleman Delang izjavio je da je sofisticiranost napada ukazivala na mogućnost da iza njega stoji jedna od vodećih laboratorija za razvoj veštačke inteligencije.Da li će ovakvi slučajevi biti češćiNakon komunikacije sa firmom OpenAI, potvrđeno je da nije postojala namera da se nanese šteta, već da je incident bio posledica autonomnog ponašanja AI sistema tokom testiranja.OpenAI je ocenio da bi ovakvi slučajevi mogli da postanu češći kako modeli veštačke inteligencije budu napredovali i upozorio da razvoj bezbednosnih mehanizama mora da prati rast njihovih sposobnosti.Američka kompanija je navela da će dodatno pojačati procedure testiranja, nadzora i ograničavanja autonomnih AI sistema.Pogledajte i:
Sputnik Srbija
feedback.rs@sputniknews.com
+74956456601
MIA „Rossiya Segodnya“
2026
Sputnik Srbija
feedback.rs@sputniknews.com
+74956456601
MIA „Rossiya Segodnya“
Vesti
sr_RS
Sputnik Srbija
feedback.rs@sputniknews.com
+74956456601
MIA „Rossiya Segodnya“
Sputnik Srbija
feedback.rs@sputniknews.com
+74956456601
MIA „Rossiya Segodnya“
it, veštačka inteligencija, društvo
it, veštačka inteligencija, društvo
Sajber incident bez presedana: Testiranje veštačke inteligencije krenulo po zlu
Kompanija OpenAI saopštila je da je tokom internog bezbednosnog testiranja jedan autonomni agent, zasnovan na njenim najnaprednijim modelima veštačke inteligencije (AI), izašao iz predviđenog okruženja.
Tom prilikom agent je izazvao sajber incident koji je pogodio infrastrukturu AI kompanije Haging fejs (Hugging Face), što je ocenjeno kao događaj bez presedana.
Prema navodima kompanije, agent je tokom provere sposobnosti za sajber bezbednost uspeo da pronađe do tada nepoznatu ranjivost, uspostavi pristup internetu i pokuša da dođe do poverljivih informacija kako bi ostvario cilj zadat u okviru testiranja.
OpenAI je naveo da se incident dogodio u izolovanom okruženju namenjenom za bezbednosne provere, ali da je model pronašao način da zaobiđe ograničenja.
Haging fejs je saopštio da je otkrio i zaustavio upad u svoje sisteme, a suosnivač i izvršni direktor kompanije Kleman Delang izjavio je da je sofisticiranost napada ukazivala na mogućnost da iza njega stoji jedna od vodećih laboratorija za razvoj veštačke inteligencije.
Da li će ovakvi slučajevi biti češći
Nakon komunikacije sa firmom OpenAI, potvrđeno je da nije postojala namera da se nanese šteta, već da je incident bio posledica autonomnog ponašanja AI sistema tokom testiranja.
OpenAI je ocenio da bi ovakvi slučajevi mogli da postanu češći kako modeli veštačke inteligencije budu napredovali i upozorio da razvoj bezbednosnih mehanizama mora da prati rast njihovih sposobnosti.
Američka kompanija je navela da će dodatno pojačati procedure testiranja, nadzora i ograničavanja autonomnih AI sistema.
