La Inteligencia Artificial está en todo: La educación, el turismo, la salud y el mundo del motor, entre otros. Es normal pensar, entonces, que la IA tendrá incidencia en los procesos electorales del futuro inmediato. ¿Cómo afectará esta tecnología en las elecciones catalanas, por ejemplo? Check Point Research, una división de Check Point® Software, empresa especializada en soluciones de ciberseguridad, ha emitido una alerta sobre esta problemática, indicando que una tercera parte de las campañas electorales globales ya incorpora material audiovisual generado por IA. Veamos.
Y es que a medida que Cataluña se acerca a sus elecciones de 2024, surge una preocupación significativa sobre cómo la IA podría impactar la integridad y transparencia de estos comicios: El uso de tecnologías de IA, incluidos los materiales deepfake —videos, audios e imágenes generados artificialmente que pueden alterar de manera convincente la apariencia, la voz o las acciones de los candidatos políticos—, ha demostrado ser una espada de doble filo. Por un lado, estas tecnologías pueden innovar en la forma en que se comunican las campañas, pero por otro, tienen el potencial de socavar los fundamentos de la democracia al manipular la opinión pública.
Así, Check Point Research ha observado un aumento en la circulación de herramientas avanzadas de IA en mercados criminales en línea, que facilitan la creación de deepfakes y la gestión de cuentas falsas en redes sociales como Instagram y Facebook. Estas herramientas permiten la automatización de la distribución de contenidos falsos y la ejecución de campañas de influencia a gran escala, aumentando así las preocupaciones sobre la integridad electoral.
10 cursos sobre Inteligencia Artificial que puedes hacer online, y hasta gratis
El impacto potencial en Cataluña
Con las próximas elecciones en Cataluña, es crucial considerar cómo estas prácticas podrían afectar el proceso electoral. La Comisión Europea ya ha comenzado a investigar la incidencia de TikTok Lite, una aplicación que incentiva la participación mediante un sistema de puntos, especialmente entre los menores de edad. Esto se enmarca en la Ley de Servicios Digitales (DSA), que busca proteger a los usuarios y mantener la transparencia en los servicios digitales.
La creación y difusión de contenido manipulado, junto con el uso de cuentas falsas, plantea un desafío significativo para la veracidad de la información disponible públicamente. Los ejemplos incluyen deepfakes de audio difíciles de discernir, como una reciente llamada automatizada atribuida falsamente al presidente Joe Biden. Además, las tácticas de desinformación han sido particularmente efectivas para sembrar confusión y desconfianza entre los votantes.
Es vital que se implementen medidas legislativas y soluciones tecnológicas robustas para contrarrestar el avance de la tecnología deepfake y otros abusos de la IA. La colaboración entre todos los actores electorales es esencial para establecer regulaciones que controlen el uso de tecnologías avanzadas y aseguren la seguridad y transparencia del proceso electoral.
El desarrollo de la IA presenta tanto oportunidades como amenazas en el contexto político. La vigilancia continua, la protección avanzada de los sistemas de ciberseguridad y la promoción de una cultura de concienciación sobre la ciberseguridad son cruciales para proteger la integridad de nuestras democracias. Mientras nos preparamos para futuras elecciones, la comunidad global debe permanecer alerta y proactiva frente a los desafíos emergentes que plantea la IA en el ámbito electoral.
Las 20 profesiones que nacerán gracias a la Inteligencia Artificial, según ChatGPT
Periodista. Mezclo #tecnologia y ciencia que mejora la vida de las personas!
