Llums i ombres de la IA

La presentació d’un llibre sempre és una bona notícia. I més quan aquest tracta d’un tema tan actual com és la intel·ligència artificial (IA). Aquest és el cas del llibre de la Càtedra de Pensament Cristià: Intel·ligència artificial: llums i ombres, de Pagèseditors.

La doctora Rosa Maria Alsina, en el seu article, fa un recorregut cronològic sobre aquesta eina donant a conèixer les seves definicions diverses, amb les primeres passes als anys cinquanta del segle passat amb les contribucions d’Alan Turing, fins als algorismes de la IA generativa actual. Remarca els mites més comuns als quals ens enfrontem: la substitució de les persones per màquines, la seguretat i el control, la privacitat, els biaixos i la potenciació de les desigualtats i la dependència dels humans a les màquines (es va veure clarament amb el tall en el subministrament d’electricitat del 28 d’abril passat). Fa tres reflexions finals: el terme IA pot ser enganyós en relació amb les capacitats reals de la tecnologia, ja que els algorismes actuals no tenen pensament ni comprensió com les persones. Ni capacitat per prendre decisions pròpies. Cal una supervisió i un control. Cal fomentar un pensament crític que obre la influència de la IA en la vida quotidiana de les persones.

El segon article, del doctor Ricardo Mejía, ens recorda els grans canvis provocats en la societat els darrers segles i les seves implicacions socials, polítiques i econòmiques, tot arribant a l’era de la IA. Considera que la IA podria ser la cinquena revolució industrial. La primera va començar amb la màquina de vapor cap al 1760, la segona amb l’electrificació la primera meitat del segle XX, la tercera la revolució digital amb la invenció dels circuits integrats i els primers ordinadors. La quarta és la revolució de l’internet de les coses, amb la robòtica i la microelectrònica avançades, l’ús massiu de les dades i el desenvolupament d’algorismes que permeten la personalització de productes i serveis. La cinquena seria l’ús de tecnologies convergents en els camps de la biotecnologia, la nanotecnologia, les neurociències cognitives i la computació quàntica. Tot això planteja reptes ètics pel que fa a l’ús de dades personals, privatització dels coneixements en genètica, o la creació d’algorismes potencialment esbiaixats. Esmenta els avenços mèdics que permeten modificar l’ADN humà, que poden ser positius per modificar una cardiopatia congènita, o bé negatius amb la capacitat per reconfigurar l’ésser humà i deshumanitzar-lo. Conclou que la IA si és utilitzada pel poder sense un control adequat pot posar en perill la llibertat individual, la identitat més profunda i la integritat de la persona, per tant, cal que la IA es desenvolupi de forma que protegeixi i garanteixi la integritat de la naturalesa humana i els seus drets fonamentals, i no sigui una eina d’interessos manipuladors.

Finalment, el doctor Francesc Torralba incideix en l’ètica dels algorismes, l’anomenada algorètica. Ens proposa un feix de preguntes sobre aquest àmbit citant diversos filòsofs i posant diversos exemples (cotxes autònoms).

Després de la lectura d’aquest llibre crec més que la IA és una eina. La I en si no voldria dir intel·ligència, sinó instrument, informació, instrucció. El nom és equívoc. L’algorisme instrueix sobre el que coneix, havent-se exercitat prèviament amb informació rebuda (veritable, esbiaixada, falsa...).

La informació no pot quedar en mans de privats, hi ha d’haver l’alternativa pública, ben estructurada i incorporant l’ètica en tots els àmbits.

Tot progrés comporta riscos, per això cal reflexió i posar-hi límits.

A la UE s’ha aprovat el reglament de la IA des d’una perspectiva europea contrastant enfocaments reguladors i les seves implicacions pràctiques en la recerca i atenció clíniques i el desenvolupament de productes mèdics. Examinant aspectes clau, com ara la governança reguladora, la classificació del risc, l’ètica, la vigilància postcomercialització, la cultura del compliment i la implementació pràctica. El futur immediat és passar d’una medicina basada en l’evidència a una medicina basada en dades, amb els reptes formatius i reguladors que han d’afrontar els professionals sanitaris.

No tan sols les grans fortunes volen poder manipular la informació i el comportament de les persones a favor seu. Tots hem de ser conscients del que es penja a les xarxes socials, que pot perjudicar altres persones. L’ètica comença en cadascú. D’altra banda, si utilitzem amb mala informació algoritmes de les IA, les seves respostes no podran ser rigoroses.

En el camp de la sostenibilitat cal recordar que l’ús d’aquestes eines suposa un gran consum elèctric per al seu funcionament i d’aigua per a la seva refrigeració.

Dels tres tipus de coneixement que va definir el professor Jorge Wagensberg: científic o racional, artístic o emocional, i espiritual o transcendent, la IA pot usar el primer; pot fer pseudoart, però sense emocions ni passió, i no arribarà al coneixement espiritual, en ser artificial veritablement.

El llibre presentat és, en definitiva, una eina per comprendre millor el repte de la IA.