POR ELAINE FORD*

En el último año hemos empezado a vivir una nueva revolución digital, liderada por la Inteligencia Artificial (IA). Yo me atrevería a decir que comenzamos una nueva era, porque la IA nos abre un escenario sin límites, donde todo es posible mediante el desarrollo y entrenamiento de esta tecnología emergente. La IA se ha usado por décadas con distintos propósitos, como, por ejemplo, para tareas de automatización en las grandes industrias. No obstante, es recientemente a raíz del uso de la IA generativa donde elogiamos sus capacidades, pero al mismo tiempo empezamos a cuestionar su real impacto en la gobernabilidad democrática, en la convivencia ciudadana, en la seguridad de las personas y en la estabilidad global. Frente a esto, es necesario replantearnos qué forma está adquiriendo la democracia digital mediante el uso de la IA, hacia dónde avanzamos y cuál es el futuro que nos espera.

En las últimas décadas hemos visto como en el ámbito político - social, las redes sociales y las diversas plataformas digitales dejaron de ser esa panacea de bondades para ganar elecciones; herramientas eficaces que sirvieron para convocar militantes, reclutar voluntarios, comunicar estratégicamente, segmentar mensajes, masificar ideas y propuestas de gobierno. Su tiempo de gloria no sería muy extenso, pues rápidamente veríamos otro lado no tan amable: las fábricas de bots, trolls y noticias falsas que serían tácticas comúnmente usadas para engañar, desinformar y manipular a los votantes.

Lamentablemente, hoy en día la IA generativa podría maximizar todo este lado nefasto, golpeando aún más las alicaídas democracias que, de acuerdo al reciente Índice de Democracia de The Economist, menos del 8% de la población global vive en democracia plena, mientras que casi el 40% vive bajo regímenes autoritarios (1). De los 167 países que incluye el mencionado Índice, 34 están bajo regímenes híbridos, entre ellos el Perú y otros países de Latinoamérica, siendo la subregión de Centro América la que ha sufrido un mayor retroceso en el último año. Además, dicho Informe confirma que es el octavo año consecutivo que se registra un declive democrático en América Latina y el Caribe.

Esta situación enciende las alertas, más aún si proyectamos un futuro donde las herramientas de IA generativa podrían agudizar este panorama, especialmente en coyunturas electorales o en procesos de participación democrática relevantes. Realidades en donde las poblaciones pueden ser fácilmente manipuladas y las instituciones del Estado de derecho muy debilitadas.

Si la IA generativa no es empleada ética y responsablemente, el futuro de la democracia digital puede ser muy adverso, donde se podrían extrapolar prácticas actuales. En ese sentido, considero que la desinformación online se intensificaría y con ello las falsas narrativas, de izquierda o de derecha, que intenten desestabilizar el status quo, generando caos e incertidumbre. La capacidad de crear contenido falso sería más fácil por las características que ofrece la IA en herramientas de texto, video, imágenes, audio, chatbots o avatars. También por la cantidad de data e información que fluye online que se convierte en la gasolina para alimentar a estas herramientas disruptivas.

Los deepfakes y los audios falsos proliferarían y sería más difícil poder determinar su veracidad, menos aún conocer su procedencia y autoría. Y con ello, la viralización del contenido sería aún mayor, a escalas inimaginables; porque se utilizarían diversas plataformas de manera simultánea empleando big data para llegar a grandes poblaciones y poder segmentarlas según diversos criterios; así como el uso de algoritmos para identificar nuevas audiencias y sus hábitos.

Los filtros burbujas se exacerbarían, siendo los canales de mensajería el espacio idóneo para intercambiar información con aquellos que piensan igual o parecido, pero sin opción a la deliberación, la alternancia de ideas, la pluralidad de pensamiento; donde la intolerancia reinará. Y claro, la tendencia sería a la aparición de más influencers, dueños de la verdad, que junto a los miles de bots postearían el mayor porcentaje de contenido que circula en las redes.

Por esa razón, el desarrollo y uso de la IA asusta. Queda claro que los pilares y principios de la democracia podrían desvanecerse. Ante esta mirada poco alentadora, vemos una democracia digital que estaría siendo boicoteada por la misma tecnología y por el uso que le dan los individuos.

Sin embargo, en estos más de 10 años promoviendo la democracia digital en el Perú y América Latina, soy testigo del uso de la tecnología para el bien y de las buenas prácticas digitales; principalmente para fortalecer las libertades y derechos de los individuos, fomentar construcción de ciudadanía y favorecer el desarrollo de los Estados y sus poblaciones. Entonces, más que nunca urge la necesidad de actuar desde distintos frentes para no llegar a los escenarios descritos.

Se debe recobrar la confianza generando más transparencia no solo en el desarrollo y entrenamiento de la IA, sino en el uso que le otorgan los partidos políticos, líderes y autoridades. Debe existir un amplio compromiso de todos los actores políticos y también acciones de parte de las corporaciones de tecnología para evitar que estas herramientas desvirtúen su buen propósito. Se requiere mucha alfabetización digital para que la población conectada a Internet no sea víctima de manipulación o vulnerable a la mentira. Y tampoco sea cómplice de las malas prácticas digitales. Todos debemos actuar, porque la tarea no es fácil si queremos un entorno digital saludable al servicio de las democracias.

_____

* Elaine Ford es directora fundadora de Democracia Digital en Perú y Latinoamérica. Fue presidente de Internet Society (ISOC) Perú (2016-2021) y es autora de diversos libros, entre ellos: “El reto de la democracia digital. Hacia una ciudadanía interconectada” (2019). @elaforde

(1) Democracy Index 2023, de Economist Intelligence Unit, publicado 2024.