L’Agència de Ciberseguretat de Catalunya, de la Secretaria de Telecomunicacions i Transformació Digital de la Generalitat de Catalunya, s’adhereix un any més a la commemoració del Dia de la Internet Segura (DIS2024) que se celebra el 6 de febrer, una iniciativa que es fa a diferents països de la Unió Europea per conscienciar la ciutadania sobre la necessitat de fer un ús segur de les xarxes. Aquest any, l’Agència llença una campanya dedicada a la conscienciació sobre la tecnologia d’hipertrucatge o deep fake, una tècnica de manipulació audiovisual realitzada mitjançant la intel·ligència artificial que crea continguts falsos que poden semblar reals. Sota el lema ‘Troba el fake. Vídeos, imatges i àudios no sempre són el que sembla’, la campanya pretén donar a conèixer la tècnica de l’hipertrucatge a la ciutadania en general i, específicament, a les escoles i instituts de Catalunya.
Els experts de l’Agència de Ciberseguretat de Catalunya argumenten que, si bé no tots els deep fake són fraudulents, la gran majoria sí que es creen amb males intencions. Concretament, més del 95% són hipertrucatges relacionats amb la pornografia no consentida. En altres casos, es fan servir per fabricar vídeos falsos que poden ajudar a generar notícies falses o confondre la població. Els ciberdelinqüents també usen aquesta tecnologia per generar estafes i fraus més realistes i ampliar la capacitat d’enganyar les víctimes.
A l’hora de detectar hipertrucatges, els experts recomanen fixar-se en els ulls, la pell i el moviment dels llavis. En el cas dels deep fakes de veu, solen tenir un so poc natural, amb pronunciacions incorrectes i fins i tot sons metàl·lics. També cal tenir en compte que en algunes ocasions no és senzill desemmascarar-los.
Un fenomen emergent a tot el món
En els pròxims mesos, la previsió és que hi hagi un gran creixement de fraus generats amb intel·ligència artificial, ja sigui amb hipertrucatge de vídeo, d’imatge o d’àudio. De fet, el Fòrum Econòmic Mundial preveu un creixement del 900% d’aquest tipus de contingut. Aquesta realitat contrasta amb el coneixement que té la ciutadania d’aquesta nova tecnologia: el 75% dels ciutadans de l’estat espanyol no sap què és un deep fake.
L’Agència de Ciberseguretat de Catalunya dona resposta a aquesta situació en el marc del Dia de la Internet Segura per tal que la població conegui l’existència de l’hipertructage, quines conseqüències pot tenir, els principals usos fraudulents i com podem detectar-los. La campanya, que es difon a través de la plataforma Internet Segura de l’Agència, ofereix un conjunt de materials per conscienciar la ciutadania sobre aquesta tecnologia, com ara una enquesta de detecció de deep fake o consells per aprendre a detectar-los.
A més, s’ha dissenyat contingut específicament per a la comunitat educativa, que cada any participa activament del Dia de la Internet Segura. En aquest cas, s’ha elaborat una guia docent amb activitats per treballar l’hipertrucatge a l’aula i dues activitats interactives per als alumnes, una per a Primària i l’altra per a Secundària.
