Arriba l'estafa dels 'avis influencers': perfils amb IA que venen "saviesa" i productes fraudulents

Ceba a la planta del peu a la nit per millorar la salut; fregar-se la pell amb pinya per eliminar les verrugues; descobrir les suposades propietats dels alvocats o saber que un ou que flota està a punt de fer-se malbé.

Són alguns dels consells que difonen perfils a les xarxes socials que comparteixen sempre les mateixes característiques: aparenten ser persones grans que transmeten saviesa, utilitzen fons similars en els seus vídeos, venen un llibre amb remeis casolans i, en realitat, tots han estat creats amb intel·ligència artificial.

L'Agència de Ciberseguretat de Catalunya ha detectat la proliferació de perfils falsos generats amb IA que es fan passar per avis 'influencers' a xarxes socials com Instagram, Facebook o TikTok per difondre continguts enganyosos i promocionar productes fraudulents.

Molts d'aquests perfils utilitzen la mateixa adreça de correu electrònic per sol·licitar el llibre que promocionen, encara que, en aparença, es tracti d'obres diferents.

En aquest sentit, l'organisme català de ciberseguretat destaca que aquests perfils redirigeixen els usuaris a pàgines web on venen llibres, guies o altres productes similars sense identificar els seus autors.

En alguns casos, aquests comptes també recomanen abandonar tractaments mèdics i desconfiar de la medicina convencional, fet que pot posar en risc la salut de qui segueix els seus consells.

Falsos rumors sobre alimentació

Perfils com Paco.delcampo, Sofia.saludencasa, Eduardo.holisticovida o Enzo.maderas, per citar-ne alguns dels que publiquen els seus vídeos en castellà —tot i que en existeixen molts més en altres idiomes—, difonen falsos rumors sobre alimentació entre els milions de seguidors que acumulen.

Els seus comptes estan plens de vídeos molt similars en els quals parlen dels mateixos productes utilitzant pràcticament les mateixes paraules i canviant únicament el personatge i el fons.

Els seus creadors utilitzen la intel·ligència artificial per generar diferents versions d'un mateix perfil, amb aparença d'avis, religiosos o grangers, de diferents ètnies i en diversos idiomes, amb l'objectiu d'atreure tot tipus de públics.

Es tracta d'una producció gairebé industrial de vídeos hiperrealistes que posen el focus en la salut, un dels àmbits que més interès desperta entre la població.

L'objectiu pot ser obtenir ingressos mitjançant les visualitzacions o la venda de llibres i altres productes, tot i que aquesta mateixa fórmula també es pot utilitzar en campanyes de desinformació o desprestigi contra determinats sectors i, fins i tot, per difondre missatges que aparentin procedir d'institucions.

Sense base científica

Per a l'Agència de Ciberseguretat de Catalunya, el principal risc d'aquests perfils, que han aconseguit acumular milions de seguidors en molt poc temps, és que comparteixen consells sobre salut, alimentació, remeis casolans, espiritualitat o cura de mascotes basats, en molts casos, en afirmacions sense evidència científica o directament falses.

A més, normalment no indiquen que han estat creats amb intel·ligència artificial ni permeten identificar qui hi ha darrere de les publicacions, per la qual cosa es poden convertir en una nova eina per a la desinformació o fins i tot per cometre ciberestafes. "Per reforçar la credibilitat, els avatars parlen en primera persona, utilitzen una aparença molt realista i es presenten com a persones grans amb experiència que comparteixen coneixements tradicionals", assenyala l'Agència de Ciberseguretat de Catalunya. Aquests perfils solen publicar continguts pràcticament idèntics, canviant només el personatge que apareix en pantalla.

En molts casos, fins i tot mantenen el mateix fons, i no és rar que hi figuri una bandera d'Espanya com a part de l'escenari.

Com detectar un hipertrucatge

Per combatre aquest tipus de continguts, l'Agència de Ciberseguretat de Catalunya recomana diverses pautes que ajuden a identificar quan un vídeo és un 'deepfake' o hipertrucatge; és a dir, una manipulació audiovisual realitzada mitjançant intel·ligència artificial capaç de generar imatges extremadament realistes, però falses.

Segons l'organisme, més del 95% dels hipertrucatges que circulen per internet estan relacionats amb la pornografia no consentida. No obstant això, en els darrers mesos ha detectat un augment dels vídeos fraudulents creats amb IA per desinformar la població.

Els ciberdelinqüents també utilitzen aquesta tecnologia per fer que les seves estafes resultin més creïbles i augmentar les possibilitats d'enganyar les víctimes. A més, aconsella analitzar el context del missatge, contrastar sempre la informació amb fonts fiables i verificar tant les imatges com els vídeos mitjançant eines especialitzades com AI or Not o Deepware.