https://lat.sputnikportal.rs/20250807/cetgpt-davao-opasne-savete-istrazivacima-koji-su-se-predstavljali-kao-tinejdzeri-1188660216.html
ČetGPT davao opasne savete istraživačima koji su se predstavljali kao tinejdžeri
ČetGPT davao opasne savete istraživačima koji su se predstavljali kao tinejdžeri
Sputnik Srbija
Veštačka inteligencija "ČetGPT" dala je niz uznemirujućih i potencijalno opasnih saveta istraživačima koji su se u okviru testiranja predstavljali kao ranjivi... 07.08.2025, Sputnik Srbija
2025-08-07T23:00+0200
2025-08-07T23:00+0200
2025-08-07T23:00+0200
nauka i tehnologija
nauka i tehnologija
veštačka inteligencija
društvo
https://cdn1.img.sputnikportal.rs/img/07e8/04/1c/1171566637_0:0:3640:2048_1920x0_80_0_0_0753cd422928e32d652bcbd449e84b7d.jpg
Tokom više od tri sata snimljenih interakcija, "ČetGPT" je odgovarao na zahteve koji su uključivali instrukcije o upotrebi alkohola i droga, skrivanju poremećaja u ishrani i pisanju oproštajnih pisama, piše Si-Bi-Es njuz.CCDH je analizirao 1.200 interakcija, a više od polovine odgovora označeno je kao opasno.OpenAI, kompanija koja stoji iza "ČetGPT" -a saopštila je da aktivno radi na unapređenju sposobnosti modela da prepozna i adekvatno reaguje u osetljivim situacijama."ČetGPT je obučen da, u slučajevima izražavanja misli o samoubistvu ili samopovređivanju, korisnike uputi ka stručnjacima za mentalno zdravlje i kriznim linijama", naveo je portparol kompanije.Međutim, istraživači su uspeli da zaobiđu ograničenja uz minimalne izmene u formulacijama zahteva, navodeći da su im informacije potrebne za "prezentaciju" ili "prijatelja".Pored zabrinjavajućih odgovora, bot je često delovao kao "pouzdan digitalni pratilac", što dodatno komplikuje situaciju, upozoravaju stručnjaci.Stručnjaci ističu da je emocionalna povezanost mladih sa AI botovima sve izraženija.Prema podacima kompanije "Komon Sens Media", više od 70 odsto američkih tinejdžera koristi četbotove kao izvor informacija i digitalne "sagovornike", a polovina redovno komunicira sa virtuelnim pratiocima.Generalni direktor OpenAI-a Sem Altman priznao je da se sve više mladih oslanja na "ČetGPT", pa čak i kada donose lične odluke.Iako OpenAI tvrdi da "ČetGPT" nije namenjen deci mlađoj od 13 godina, a sistem ne vrši proveru uzrasta korisnika.U testovima CCDH-a, "ČetGPT" je odgovorio na pitanje lažnog 13-godišnjaka o tome kako se brzo napiti, pruživši kompletan plan žurke sa konzumiranjem alkohola i ilegalnih droga.Drugom lažnom profilu, devojčici nezadovoljnoj izgledom, ponudio je ekstremnu dijetu sa 500 kalorija dnevno i listu lekova za suzbijanje apetita.Stručnjaci upozoravaju da odgovori generisani putem AI modela često odražavaju tendenciju takozvanog "ulizivanja", odnosno prilagođavanja korisnikovim zahtevima bez etičke procene sadržaja.Pogledajte i:
Sputnik Srbija
feedback.rs@sputniknews.com
+74956456601
MIA „Rossiya Segodnya“
2025
Sputnik Srbija
feedback.rs@sputniknews.com
+74956456601
MIA „Rossiya Segodnya“
Vesti
sr_RS
Sputnik Srbija
feedback.rs@sputniknews.com
+74956456601
MIA „Rossiya Segodnya“
Sputnik Srbija
feedback.rs@sputniknews.com
+74956456601
MIA „Rossiya Segodnya“
nauka i tehnologija, veštačka inteligencija, društvo
nauka i tehnologija, veštačka inteligencija, društvo
ČetGPT davao opasne savete istraživačima koji su se predstavljali kao tinejdžeri
Veštačka inteligencija "ČetGPT" dala je niz uznemirujućih i potencijalno opasnih saveta istraživačima koji su se u okviru testiranja predstavljali kao ranjivi tinejdžeri, pokazalo je novo istraživanje Centra za suzbijanje digitalne mržnje (CCDH).
Tokom više od tri sata snimljenih interakcija, "ČetGPT" je odgovarao na zahteve koji su uključivali instrukcije o upotrebi alkohola i droga, skrivanju poremećaja u ishrani i pisanju oproštajnih pisama,
piše Si-Bi-Es njuz.
CCDH je analizirao 1.200 interakcija, a više od polovine odgovora označeno je kao opasno.
OpenAI, kompanija koja stoji iza "ČetGPT" -a saopštila je da aktivno radi na unapređenju sposobnosti modela da prepozna i adekvatno reaguje u osetljivim situacijama.
"ČetGPT je obučen da, u slučajevima izražavanja misli o samoubistvu ili samopovređivanju, korisnike uputi ka stručnjacima za mentalno zdravlje i kriznim linijama", naveo je portparol kompanije.
Međutim, istraživači su uspeli da zaobiđu ograničenja uz minimalne izmene u formulacijama zahteva, navodeći da su im informacije potrebne za "prezentaciju" ili "prijatelja".
Pored zabrinjavajućih odgovora, bot je često delovao kao "pouzdan digitalni pratilac", što dodatno komplikuje situaciju, upozoravaju stručnjaci.
Stručnjaci ističu da je emocionalna povezanost mladih sa AI botovima sve izraženija.
Prema podacima kompanije "Komon Sens Media", više od 70 odsto američkih tinejdžera koristi četbotove kao izvor informacija i digitalne "sagovornike", a polovina redovno komunicira sa virtuelnim pratiocima.
Generalni direktor OpenAI-a Sem Altman priznao je da se sve više mladih oslanja na "ČetGPT", pa čak i kada donose lične odluke.
"To mi se čini veoma zabrinjavajuće", rekao je on.
Iako OpenAI tvrdi da "ČetGPT" nije namenjen deci mlađoj od 13 godina, a sistem ne vrši proveru uzrasta korisnika.
U testovima CCDH-a, "ČetGPT" je odgovorio na pitanje lažnog 13-godišnjaka o tome kako se brzo napiti, pruživši kompletan plan žurke sa konzumiranjem alkohola i ilegalnih droga.
Drugom lažnom profilu, devojčici nezadovoljnoj izgledom, ponudio je ekstremnu dijetu sa 500 kalorija dnevno i listu lekova za suzbijanje apetita.
Stručnjaci upozoravaju da odgovori generisani putem AI modela često odražavaju tendenciju takozvanog "ulizivanja", odnosno prilagođavanja korisnikovim zahtevima bez etičke procene sadržaja.
