E4x20 | ft. Cristian Cantón: IA, ètica, supercomputació i deepfakes – L’era de la manipulació digital i la desinformació
L’era de la manipulació digital amb Cristian Cantón
A l’episodi 4×20 del podcast de Geeknorants, ens acompanya en Cristian Cantón, expert en manipulació digital i IA, per fer una immersió en els aspectes tècnics i ètics de la intel·ligència artificial. Des del primer minut, l’episodi captura l’atenció amb una reflexió punyent: vivim envoltats d’algoritmes que coneixen les nostres preferències millor que nosaltres mateixos. Tot i això, la majoria de vegades no en som conscients.
Dades, algoritmes i decisions invisibles
Però com hem arribat a aquest punt? En Cristian ens explica que tot comença amb les dades. Cada interacció a xarxes socials, cada clic, cada missatge, alimenta sistemes d’intel·ligència artificial amb capacitat per analitzar patrons i influir en les nostres decisions. Això no és ciència-ficció, és el dia a dia.
A més, les empreses tecnològiques han perfeccionat aquests algoritmes per mantenir-nos connectats. D’aquesta manera, l’atenció esdevé un recurs valuós. Cada segon que passem davant d’una pantalla es pot monetitzar. Per consegüent, les plataformes tenen interès en mantenir-nos-hi el màxim de temps possible.
Intel·ligència artificial: poder i responsabilitat
Tot i els avantatges de la IA, també hi ha riscos importants. En aquest episodi, ens plantegem si una màquina pot prendre decisions morals. El Cristian Cantón insisteix que els sistemes d’IA no són objectius per defecte. Al contrari, reflecteixen els valors i els biaixos dels seus creadors.
Per exemple, un algoritme que filtra currículums pot discriminar segons el gènere, l’edat o l’origen. Malgrat que la intenció no sigui dolenta, les dades amb què s’ha entrenat poden contenir injustícies estructurals. Per tant, cal una supervisió constant i una ética tècnica.
Supercomputació: el cor de la IA moderna
També parlem del MareNostrum 5, el superordinador del Barcelona Supercomputing Center, on treballa en Cristian. Aquest monstre tecnològic té una potència de càlcul que permet entrenar models d’IA a una velocitat increïble.
Amb tot, el repte és saber què fem amb aquesta potència. Tot i que pot ajudar a avançar en ciència, medicina o energia, també pot alimentar sistemes de vigilància massiva o deepfakes sofisticats. En aquest sentit, el control étic és imprescindible.
La guerra silenciosa de la informació
Seguidament, abordem com la IA ha revolucionat la seguretat digital. Ja no es tracta només de contrasenyes robades o virus informàtics. Ara parlem de manipulació d’opinions, desinformació i control d’informació a escala global.
Per exemple, una campanya digital ben dissenyada pot alterar la percepció pública d’unes eleccions. I és que, sovint, la manipulació digital i IA van de la mà. La capacitat de generar contingut fals, però convincent, fa que les fake news siguin més perilloses que mai.
Deepfakes: el futur de la mentida
Parlant de continguts falsos, els deepfakes són un dels temes centrals del podcast. En Cristian ens explica com funcionen i per què són tan efectius. Tot i que poden tenir aplicacions creatives, el seu mal ús pot provocar greus danys a la reputació de persones i institucions.
Així doncs, ens preguntem: com podem protegir-nos? Una part de la resposta passa per l’educació digital. Entendre com funcionen aquestes tecnologies és clau per detectar manipulacions i no caure en trampes.
I si la IA sóc jo?
Un altre tema fascinant és la integració de la IA en la nostra identitat. Fins a quin punt podem delegar tasques cognitives a màquines? Si un chatbot pot parlar per nosaltres, què ens fa humans?
Aquestes preguntes, tot i semblar filosòfiques, tenen implicacions pràctiques. Si una IA pot prendre decisions legals, metge o educatives, on queda la responsabilitat? Aquesta línia difusa és una de les grans preocupacions dels experts.
L’humor com a eina de resistència
Per descomptat, no podia faltar el toc de Geeknorants. En Berni tanca l’episodi amb una secció absurda però reveladora, on demostra com la IA pot ser usada… de forma no gaire ètica. Amb exemples del dia a dia, ens fa veure que, tot i la complexitat, la IA és també una eina que cal entendre amb sentit crític.
Entre possibilitats i riscos
Aquest episodi ens convida a reflexionar sobre la dualitat de la tecnologia. Tot i els avenços espectaculars, no podem oblidar els perills associats. Per això, la manipulació digital i IA ha de ser un tema central en el debat social.
A més, és urgent incorporar veus crítiques en el desenvolupament tecnològic. Només així podrem garantir que la intel·ligència artificial treballi a favor del benestar col·lectiu i no en contra.
