“Em preocupa com s’utilitza la IA per explotar la confiança de les persones”
Entrevistem Montserrat Rigall, especialista a detectar desinformació
En un moment marcat per la convocatòria de les eleccions generals del proper 29 de novembre, i en un context de sobreinformació, immediatesa i creixent influència de les xarxes socials en la manera com ens informem, distingir què és cert, què és fals i què pot ser enganyós esdevé cada vegada més necessari. En aquest escenari, el servei de verificació d’informació (fact-checking) adquireix un paper imprescindible.
Per parlar-ne, entrevistem Montserrat Rigall, periodista especialitzada en inteŀligència artificial, divulgadora, investigadora i membre de l’equip de VerificaRTVE. El passat 28 d’octubre va ser una de les ponents convidades a la 13a edició del Dia de la Premsa Comarcal a Barcelona, una jornada organitzada per l’Associació Catalana de Premsa Comarcal (ACPC).
Com és el dia a dia d’una persona que es dedica al fact-checking?
L’equip de VerificaRTVE som un grup de 10 professionals especialitzats a verificar i, per això, la nostra jornada laboral passa per investigar afirmacions, imatges i vídeos que ens consulten els ciutadans a través del whatsapp o del correu, i d’allò que circula per les xarxes, es viralitza i que pot induir a error. La feina consisteix a rastrejar-ne l’origen, contrastar les fonts i reconstruir el context per determinar què podem demostrar.
Hi ha imatges falses que semblen ben bé reals…
Avui no n’hi ha prou amb preguntar-se si una imatge és real. També cal saber quan es va enregistrar, on, qui la difon i quina afirmació pretén sostenir. La versemblança no és una prova de veracitat.
En quins àmbits temàtics hi ha més verificacions?
La desinformació afecta la política, la immigració, la salut i el consum, entre molts altres àmbits. Em preocupa especialment com s’utilitzen els continguts generats amb IA per explotar la confiança i les vulnerabilitats de les persones. Hi ha perfils de dones fictícies que promocionen mètodes miraculosos per aprimar-se, continguts que reforcen cànons de bellesa irreals i una hipersexualització que pot normalitzar models corporals inassolibles. Són desinformacions que posen en perill la ciutadania i les malalties mentals relacionades amb els TCA [trastorns de conducta alimentària] creixen, sobretot, entre l’adolescència. També hi ha falsos metges que semblen avalar tractaments que mai no han recomanat i falses ofertes de feina que suplanten empreses per obtenir diners o dades personals.
La IA està fent més difícil detectar la desinformació?
Sí. Les eines generatives permeten crear imatges, vídeos i veus cada vegada més convincents, però el canvi més important és que també poden fabricar una aparença d’autoritat i credibilitat. Això no significa que tot contingut fals s’hagi generat amb IA ni que tot contingut sintètic sigui fals. Una imatge real també pot desinformar si es publica fora de context. Ho hem vist recentment amb les imatges de la Maricarmen a peu dret celebrant una victòria que pertanyien a un any enrere i, en canvi, es publicava com si fos recent i se l’acusava de ser una farsant.
Amb les eleccions generals, esperen un augment de la feina de verificació?
Les campanyes electorals són períodes especialment sensibles per la circulació de declaracions, imatges i missatges que poden condicionar l’opinió pública. És raonable preparar-se per a més necessitats de verificació, encara que no podem anticipar-ne la magnitud. La IA facilita la producció massiva de continguts i la suplantació de candidats, institucions o mitjans de comunicació. També es poden reutilitzar imatges autèntiques fora de context per reforçar determinades narratives.
Com s’hi pot fer front?
Davant d’això, cal monitorar les xarxes, prioritzar els continguts amb més impacte potencial i contrastar les evidències abans de publicar. La rapidesa és important, però una verificació precipitada també pot amplificar l’engany.
Sovint s’associa la desinformació amb l’extrema dreta. Es correspon amb el que detecteu els professionals?
La desinformació no és patrimoni exclusiu de cap ideologia. Pot servir interessos polítics, econòmics o personals molt diversos. Això no implica que tots els actors tinguin la mateixa incidència, sinó que cal analitzar cada cas amb evidències. En qüestions com la immigració, per exemple, un vídeo antic o enregistrat en un altre lloc es pot presentar com una situació actual per alimentar una narrativa política.
Quin ús de la IA en podem fer, els mitjans de comunicació locals i comarcals?
Pot ajudar els periodistes a investigar i verificar informació, però també quins riscos comporta utilitzar-la sense criteri. Pot facilitar transcripcions, traduccions i anàlisis de continguts, pot respondre correus, buscar documentació, però pot generar resultats falsos. Dit això, que és prou reiteratiu, crec que els mitjans locals teniu un avantatge important: coneixeu el territori i disposeu de contactes i fonts de proximitat. Aquesta capacitat de contrast és especialment valuosa davant dels continguts virals. El repte és incorporar les eines noves sense renunciar als fonaments del periodisme local: contrastar, contextualitzar i assumir la responsabilitat sobre allò que publiquem. La IA ha de potenciar les capacitats del periodista, no substituir-lo.
Com impacta la desinformació en l’àmbit local?
Pot afectar directament la reputació d’un negoci, d’un professional o d’una institució. En el turisme de proximitat, per exemple, una oferta d’allotjament inexistent pot fer perdre diners a una cadena hotelera familiar, mentre que una imatge antiga d’una platja presentada com a actual pot perjudicar la percepció d’una destinació. Els continguts també circulen per grups de missatgeria i xarxes de proximitat. El fet que ens els enviï algú conegut del teu poble, o del municipi veí de la comarca, no els converteix en fiables.
Què hi podem fer, els mitjans de proximitat?
Podeu marcar la diferència anant a les fonts originals, contrastant les dades i explicant què se sap i què no es pot confirmar. No es tracta només de desmentir falsedats, sinó de donar eines a la ciutadania perquè desenvolupi criteri propi.
En un món en què podem fabricar continguts, identitats i testimonis, la confiança s’ha de guanyar amb evidències.
