Com protegir-nos de la manipulació emocional en temps d’IA?

Una recerca recent en l’àmbit universitari andorrà conclou que el coneixement digital ja no és suficient: cal educació emocional i pensament crític per afrontar els reptes d’uns entorns digitals cada vegada més sofisticats.

El treball, elaborat en el marc del Màster en Ciberdelinqüència de la Universitat Oberta de Catalunya, amb la col·laboració de la Universitat d’Andorra i l’Agència de Ciberseguretat d’Andorra, posa el focus en els estudiants universitaris, un col·lectiu especialment vulnerable per la seva intensa vida digital i en les xarxes, davant missatges persuasivament dissenyats amb intel·ligència artificial (IA).

Cal educació emocional i pensament crític per afrontar els reptes

Un dels aspectes més sorprenents de la recerca és que els usuaris amb major competència tècnica no són necessàriament els més resistents a la manipulació emocional. Aquesta paradoxa s’explica pel fet que el domini de les eines digitals genera una falsa sensació de seguretat que pot fer abaixar la guàrdia davant amenaces més subtils i sofisticades.

L’enginyeria social tradicional es basava en l’explotació de la psicologia humana a través de la comunicació directa. Amb l’arribada de la IA generativa, aquestes tècniques han evolucionat cap a formes més sofisticades que poden imitar patrons de comunicació específics, adaptar-se al context cultural i lingüístic de l’objectiu, i mantenir conversacions coherents durant períodes prolongats.

Els atacants ja no necessiten conèixer personalment les seves víctimes per crear missatges altament personalitzats. La IA pot analitzar patrons de comportament digital, preferències lingüístiques i contextos culturals per generar contingut que sembla genuí i rellevant per a cada individu específic.

Les universitats es troben en una posició única per abordar aquest desafiament. Com a espais de formació crítica i desenvolupament intel·lectual, tenen la responsabilitat de preparar els estudiants per navegar en un entorn digital cada vegada més complex. Això implica anar més enllà de l’ensenyament de competències tècniques per incorporar elements d’educació emocional i pensament crític.

La col·laboració entre la Universitat d’Andorra, la Universitat Oberta de Catalunya i l’Agència de Ciberseguretat d’Andorra representa un model d’aproximació multidisciplinària que combina expertesa acadèmica amb coneixement pràctic en ciberseguretat.

En aquest sentit, aquest treball de recerca realitza una anàlisi i a més, proposa algunes mesures per promoure la transparència i la verificació del contingut generat per IA, guies de comunicació institucional, com incorporar formació transversal en IA i enginyeria social dins el currículum universitari i combinar la formació tècnica amb educació emocional i pensament crític.

L’alfabetització digital emocional reconeix que les decisions de seguretat digital no es prenen únicament amb base en el coneixement tècnic, sinó que estan profundament influenciades per factors emocionals com la confiança, l’ansietat, la curiositat o la pressió social.

Els atacants exploten sistemàticament aquestes emocions, creant situacions d’urgència, apel·lant a la vanitat o l’autoritat, o simulant relacions de confiança per induir comportaments insegurs. La comprensió d’aquests mecanismes psicològics és clau per desenvolupar defenses efectives.

La recerca té implicacions que van molt més enllà de l’àmbit universitari. En una societat cada vegada més digitalitzada, on les interaccions virtuals són omnipresents, la capacitat de discernir entre contingut autèntic i manipulat esdevé una competència ciutadana essencial.

La democràcia mateixa depèn de ciutadans capaços de processar informació de manera crítica i resistir la manipulació emocional. Els fenòmens de desinformació, polarització i radicalització en línia estan directament relacionats amb la manca d’alfabetització digital emocional.

L’alfabetització digital emocional es perfila així com una competència clau per a la ciutadania del segle XXI. No es tracta simplement d’afegir nous continguts al currículum, sinó d’adoptar un enfocament holístic que integri el desenvolupament tècnic, emocional i crític.

Aquesta integració requereix la col·laboració entre diferents disciplines: psicologia, pedagogia, informàtica, filosofia i ciències socials. Totes elles han de treballar conjuntament per desenvolupar metodologies efectives d’ensenyament i aprenentatge.

En un món on els algoritmes imiten les emocions amb precisió cada vegada major, la millor defensa continua sent la nostra capacitat de comprendre-les, gestionar-les i utilitzar-les de manera conscient i crítica. La tecnologia pot simular la humanitat, però la veritable saviesa emocional continua sent exclusivament humana.

La batalla entre els sistemes d’atac i la defensa en l’àmbit de la manipulació emocional digital representa un exemple paradigmàtic de la carrera armamentística en ciberseguretat, on l’avantatge tècnic pot canviar ràpidament i la superioritat depèn tant de la sofisticació algorítmica com de la capacitat d’adaptació i l’aprenentatge continu.