L'impacte de la IA en les eleccions

En un moment en què la tecnologia avança més ràpid que la capacitat col·lectiva de comprendre’n els impactes i en què la desinformació posa en perill els processos democràtics, es presenta aquest estudi exhaustiu i pioner sobre els riscos que la intel·ligència artificial (IA) planteja als processos electorals.

L' "Estudi sobre els riscos de la IA en l’àmbit dels processos electorals", elaborat per l’Observatori d’Ètica en Intel·ligència Artificial de Catalunya (OEIAC) per encàrrec del Departament de Justícia i Qualitat Democràtica de la Generalitat de Catalunya, analitza amb profunditat com les noves eines d’IA —des dels deepfakes fins als grans models de llenguatge— poden erosionar la integritat democràtica, alterar la percepció pública i afectar la llibertat i seguretat del vot.

L’informe contextualitza un escenari global sense precedents: només l’any 2024, més de 60 països van utilitzar tecnologies d’IA en algun moment de les seves eleccions, fet que equival a gairebé la meitat de la població mundial. A través de més de seixanta casos d’estudi recents, el document evidencia com aquestes eines s’han emprat maliciosament per difondre desinformació, manipular narratives polítiques, amplificar continguts falsos i suplantar candidats o institucions. L’OEIAC no només descriu els riscos tècnics, sinó també els seus efectes psicològics i socials, com ara la polarització emocional, la fragmentació de l’esfera pública i la pèrdua de confiança en les fonts d’informació.

A més d’identificar les cinc grans categories d’eines que poden comprometre els processos electorals —deepfakes, bots, microsegmentació psicogràfica, grans models de llenguatge i suplantació d’identitat—, l’estudi analitza el dèficit regulador existent. Malgrat els avenços del Reglament Europeu d’IA i del Reglament de Serveis Digitals, que consideren la influència automatitzada en eleccions com un àmbit d’alt risc, les legislacions estatals i autonòmiques continuen sent insuficients per respondre a un fenomen global, ràpid i altament sofisticat.

El document culmina amb un conjunt de recomanacions estratègiques que combinen tecnologia, governança i educació. Entre aquestes hi figuren mecanismes de verificació i autenticació de continguts, estàndards de transparència algorítmica, la creació d’un marc regulador específic sobre integritat electoral digital i programes d’alfabetització mediàtica dirigits tant a la ciutadania com als actors polítics i als mitjans. L’objectiu és construir una resposta integral i transversal que permeti anticipar, detectar i neutralitzar els riscos abans que comprometin la qualitat democràtica