I progressi dell’intelligenza artificiale di Google possono fare in modo che le nuove tecnologie possano aiutare le persone, ma è davvero così?
Google sta iniziando a lanciare la sua nuova Search Generative Experience (SGE), all’inizio di marzo, introducendo risultati di ricerca generati dall’intelligenza artificiale su alcune pagine.
Sfortunatamente però i nuovi algoritmi di Google consigliano siti truffa che reindirizzano i visitatori a estensioni Chrome indesiderate, falsi omaggi di iPhone, abbonamenti spam del browser e truffe al supporto tecnico.
Questo è stato notato per la prima volta dal consulente SEO Lily Ray, SGE di Google consiglia siti contenenti spam e dannosi nelle sue risposte alle conversazioni, rendendo più facile per gli utenti cadere nelle truffe.
Ovviamente questo non è un aspetto molto positivo per i risultati di ricerca dell’intelligenza artificiale di Google, soprattutto perché ci sono state molte domande su quanto sia praticabile la stessa, incluso il fatto che Google non inserirà i suoi ultimi modelli sul Pixel 8 base.
Google, le ricerche con l’IA non sembrano così sicure: ecco perché
Nonostante queste preoccupazioni, però, Google continua a portare avanti i suoi sforzi nel campo dell’intelligenza artificiale, e sembra che i fallimenti non si fermeranno.
BleepingComputer riporta i risultati di ricerca di Google che sembrano consigliare siti di spam e dannosi nelle sue varie risposte, rendendo ciò molto più facile per gli utenti cadere nelle truffe, soprattutto se Google spinge questo approccio a un pubblico più ampio con diversi livelli di familiarità con l’intelligenza artificiale.
Inoltre ha scoperto che i siti elencati promossi da SGE tendono a utilizzare il TLD.online, gli stessi modelli HTML e gli stessi siti per eseguire reindirizzamenti.
Questa somiglianza indica che fanno tutti parte della stessa campagna di avvelenamento da SEO che ha permesso loro di far parte dell’indice di Google: quando fanno clic sul sito nei risultati di ricerca di Google, i visitatori subiranno una serie di reindirizzamenti fino a raggiungere un sito truffa.
Nei test di BleepingComputer, i reindirizzamenti portano più comunemente a falsi captcha o siti YouTube che cercano di indurre il visitatore a iscriversi alle notifiche del browser.
Le notifiche del browser sono una tattica comune utilizzata dai truffatori per inviare ai visitatori una raffica di annunci indesiderati direttamente sul desktop del sistema operativo, anche quando non sei sul sito web.
Una volta iscritti ad alcune notifiche, abbiamo iniziato a ricevere spam con pubblicità di truffe di affiliazione del supporto tecnico, omaggi falsi e altri siti indesiderati.
Infine, sebbene non così comune, BleepingComputer ha riscontrato che alcuni reindirizzamenti spingevano estensioni del browser indesiderate che eseguono il dirottamento della ricerca e potenzialmente altri comportamenti dannosi.
Altre truffe promosse dai risultati SGE portano a falsi omaggi Amazon che fingono di essere programmi fedeltà che regalano un Apple iPhone 15 Pro. Queste truffe omaggio vengono utilizzate per raccogliere le tue informazioni personali, che verranno vendute ad altri truffatori e operatori di marketing diretto.
Ciò che rende tutto questo più complicato è il modo in cui l’intelligenza artificiale di Google risponde alle query di ricerca in un tono colloquiale, spingendo i siti Web a visitare per ulteriori informazioni. Poiché SGE si collega a siti Web all’interno delle risposte, ciò può far sembrare i siti dannosi più credibili e affidabili.
Non è chiaro come questi siti di bassa qualità stiano entrando negli algoritmi di ricerca basati sull’intelligenza artificiale di Google.
Tuttavia, poiché l’intelligenza artificiale diventa una parte sempre più significativa del modo in cui effettuiamo le ricerche online, diventa sempre più chiaro che non possiamo fidarci automaticamente delle informazioni prodotte da questi algoritmi e dobbiamo verificare i siti prima di visitarli.
Google ha dichiarato a BleepingComputer di aggiornare continuamente i propri sistemi e gli algoritmi di classificazione per proteggersi dallo spam. Tuttavia, gli spammer evolvono anche le loro tecniche per eludere il rilevamento e inserire i loro contenuti nell’indice di ricerca, rendendolo un gioco del gatto col topo.
“Continuiamo ad aggiornare i nostri sistemi avanzati di lotta allo spam per tenere lo spam fuori dalla Ricerca e utilizziamo queste protezioni anti-spam per salvaguardare SGE”, ha dichiarato Google a BleepingComputer.
“Abbiamo adottato misure in base alle nostre politiche per rimuovere gli esempi condivisi, che venivano visualizzati per query non comuni.”
Nel rapporto di BleepingComputer hanno notato che quando hanno provato a cercare cuccioli in vendita, hanno subito ricevuto risposte generate dall’intelligenza artificiale che li indirizzavano verso siti di spam che potevano essere pieni di malware.
Quando si fa clic su uno qualsiasi di questi collegamenti, sembra che l’utente venga reindirizzato più volte fino a raggiungere un sito truffa.
Molti siti sembravano imitare le notifiche push di YouTube nel tentativo di convincere gli utenti a consentire ai siti di avvisarli.
BleedingComputer afferma che quando si sono iscritti a uno dei siti, hanno iniziato a ricevere spam con annunci di truffe relative al supporto tecnico e pagine di omaggi falsi che affermavano che l’utente aveva vinto qualcosa.
Tutto ciò parla della lotta in corso che il gigante della tecnologia sta affrontando riguardo alla lotta ai siti web pieni di spam e malware.
