Roditelji jednog muškaraca iz Kanade nedavno su primili uznemirujući poziv. Nazvao ih je jedan advokat i rekao im da je njihov sin u saobraćajnoj nesreći ubio američkog diplomatu - završio je u zatvoru i novac mu je bio potreban za pravne troškove. Nakon toga advokat je predao telefon očajnom sinu koji im je objasnio situaciju u kojoj se nalazio, a kao i svi roditelji, oni su odlučili da mu pomognu i poslali su mu oko 15 hiljada dolara u bitkoinima.
Dobra vest za roditelje jeste da im sin nije izazvao nesreću sa smrtnim posledicama i da nije završio u zatvoru, ali je loša je vest da su ostali bez novca. Oni su, naime, naseli na novu vrstu prevare koju je omogućila veštaka inteligencija (AI), odnosno alati bazirani na AI koji mogu da kloniraju glasove.
Roditelji, dakle, nisu uopšte razgovarali sa sinom, već je veštačka inteligencija uspela da kreira glas koji je gotovo identičan glasu njihovog sina.
Novac je nestao. Nema osiguranja. Nema povratka. Nestao je, komentarisao je za medije sin prevarenog para Bendžamin Perkin.
S postojećim alatima dovoljno je samo 30-ak sekundi zvučnog zapisa da veštačka inteligencija uspe prilično uspešno da klonira glas neke osobe. S obzirom na to da mnogi na društvenim mrežama često objavljuju video-zapise iz njih može da se iskoristi zvuk, odnosno glas za takvu vrstu prevara.
Dok je za takvo kloniranje glasa preko većine dostupnih alata potrebno, dakle, 30-ak sekundi zapisa, „Majkrosoft“ je početkom godine predstavio vlastiti alat kojem su potrebne samo tri sekunde uzorka audio-zapisa da na temelju njega klonira glas.
Ova američka kompanija svoj alat nije učinila dostupnim javnosti upravo zbog potencijalnih rizika zloupotrebe, kakvu pokazuje primer roditelja Bendžamina Perkina. Ali na takvu zloupotrebu upozorili su krajem januara iz „Elevne Labsa“, kompanije koja je razvila alat za kloniranje glasova, a nedugo nakon toga su najavili da njihov alat „Voice Lab“ više neće biti dostupan u besplatnoj verziji kako bi smanjili rastući broj prevara, preneo je portal „Zimo“.