De les calculadores a la IA

Sempre m’havien dit que quan es van crear els fulls de càlcul, als anys vuitanta, molts empleats verificaven els resultats amb la calculadora. Vaig fer cerques per corroborar la veracitat d’aquesta llegenda urbana, que em desperta curiositat, i vaig trobar un article de The Washington Post, del 1986, que explica la protesta de professors de matemàtiques contra “la integració de la calculadora al programa de matemàtiques escolar a tots els nivells en treballs de classe, deures i avaluació”. Se’m planteja la pregunta: com pot ser que s’anés en contra de l’ús d’una eina que permet simplificar els càlculs i així dedicar més temps a altres tasques de reflexió?

Em permeto fer el paral·lelisme (molt simplificat) amb una eina tecnològica molt actual: la intel·ligència artificial (IA). En sentim a parlar perquè des de fa uns anys s’ha apropat l’ús al públic general, a través de xatbots basats en models de llenguatge extens.

La protecció de dades s’ha de tenir en compte en configurar i en utilitzar la IA

Tot i que l’ús de les calculadores o dels fulls de càlcul no té la mateixa complexitat tecnològica que els xatbots intel·ligents (ni de bon tros!), considero que la por al desconegut és similar. Vam aprendre a fer servir una calculadora i a configurar correctament les fórmules dels fulls de càlcul i cal que aprenguem a usar aquesta nova eina per fer-ho de manera segura.

Per això, cal recordar que la IA que utilitzem és un model de llenguatge i no un model de fets. En poques paraules, els models de llenguatge extens són un model matemàtic probabilístic: el sistema treballa amb paraules, frases i estructures lingüístiques, però no disposa d’un coneixement objectiu, ni entén què és cert o fals; és el motiu principal del que s’anomenen les al·lucinacions de la IA. En essència, un model de llenguatge extens calcula les probabilitats que certa paraula segueixi una cadena de paraules donada prèviament. De quines dades extreu aquesta probabilitat? Aquí és on entra el terme gran: es nodreixen de conjunts de dades molt grans.

En aquest punt de l’article, ja no us ronda tant la pregunta: per què la inspectora de l’Agència Andorrana de Protecció de Dades personals escriu sobre la IA i els xatbots i no sobre dades personals? Els xatbots s’entrenen amb moltes dades, entre les quals es troben dades personals.

És essencial que tant en el moment de configurar la IA com en el moment d’utilitzar-la, es tingui en compte la protecció de dades des del disseny i per defecte. Això implica que hi hagi les mesures de seguretat suficients per protegir la informació incorporada als xatbots i que s’informi de manera transparent sobre com es processen les dades, així com garantir la recollida d’un consentiment explícit.

Tot i això, perquè aquestes mesures de seguretat siguin efectives, cal que els usuaris prenguem consciència de la importància de la privacitat i assumim un paper actiu en la protecció de les nostres dades personals. Una manera senzilla de fer-ho és ajustar les configuracions de privacitat als dispositius i serveis que utilitzem, així com revisar les opcions de seguretat, activant la verificació en dos passos.

La feina de l’Agència Andorrana de Protecció de Dades Personals, el correcte compliment per part de les empreses i entitats del país, així com la conscienciació del públic general, permetran minimitzar els riscos i mantenir el control sobre la informació personal en un món que cada cop és més digitalitzat.

Consulta l’especial de Transformació Digital 2025