Svetska zdravstvena organizacija (SZO) sa sedištem u Ženevi pozdravlja veliki potencijal veštačke inteligencije koja može biti jako korisna, ali upozorava da uvođenje postupaka lečenja sa AI u zdravstveni sistem nosi opasnost od „potpuno pogrešne“informacije.
Proceniti opasnosti korišćenja
„Nužno je proceniti opasnosti korišćenja alata LLMs (generated large language model tools) kao što je ChatGPT jer oni mogu da dovedu do teških grešaka u zdravstvu i potkopaju poverenje u AI“, saopštila je SZO.
SZO se oglasila u vreme kada primene veštačke inteligencije velikom brzinom stiču popularnost. Zabrinutost proističe iz toga što se redovne norme opreza ne primenjuju na LLMs.
Predlagači korišćenja AI veruju da će lekari ubrzo koristiti sistem AI Chat da brže odgovore na pitanja pacijenata o njihovom zdravlju, a AI će se koristiti i u dijagnostici. Međutim, dva četbota „Majkrosofta“ i „Gugla“ pokazala su da njihovi odgovori nisu potpuno pouzdani kad je reč o činjenicama, a SZO je zabrinuta baš zato što se ti odgovori čine kao pouzdani.
„LLMs proizvodi odgovore koji se mogu činiti autoritativnim i verodostojnim krajnjem korisniku. Međutim, ti odgovori mogu da budu potpuno netačni ili da sadrže ozbiljne greške, posebno kad je reč o odgovorima u vezi sa zdravljem“, upozorava SZO.
Te informacije mogu dovesti u zabludu i proizvesti informaciju koja će se činiti jako verodostojnom, a koju javnost ne može razlikovati od pouzdane. SZO zato predlaže da se pre primene AI u zdravstvu struka pozabavi tim pitanjima i da izmeri koristi i štete pre nego što odobri njenu opsežnu primenu, preneo je Indeks.