La ONU pide reglas, transparencia y supervisión humana

La inteligencia artificial comienza a incorporarse a distintas etapas de los procesos electorales en América Latina, desde el monitoreo de la desinformación hasta la revisión de los gastos de campaña y la atención de las consultas ciudadanas. En un diálogo regional organizado por el Programa de las Naciones Unidas para el Desarrollo (PNUD), autoridades de Chile, México y Panamá compartieron cómo aprovechan estas herramientas sin comprometer la transparencia ni la confianza de los votantes.

México ha establecido principios para orientar el desarrollo y el uso de sistemas de IA en el Instituto Nacional Electoral, además de cursos obligatorios para su personal. La consejera Norma de la Cruz explicó que la incorporación de la tecnología no responde a una moda, sino a la necesidad de proteger “los principios de certeza, transparencia, protección de datos, derechos humanos y control democrático”. El organismo exige que una persona revise las decisiones generadas con inteligencia artificial.

En Chile, el Servicio Electoral usa desde 2020 sistemas de monitoreo para analizar las conversaciones sobre los comicios y detectar amenazas; el seguimiento reveló que la violencia política digital afecta especialmente a las candidatas. Panamá, por su parte, fue de los primeros países en crear una unidad de monitoreo digital para identificar desinformación y campañas sucias, aunque advirtió que la IA también puede facilitar una microsegmentación cada vez más precisa de los mensajes políticos.

Una guía elaborada por el PNUD y la ONU, basada en la experiencia electoral en más de 100 países, señala que la IA puede depurar registros de votantes, revisar documentos o detectar anomalías, pero advierte que no toda tarea automatizable debería quedar en manos de un sistema. El documento subraya que la supervisión humana es indispensable y recomienda que las autoridades definan primero qué problema quieren resolver, para que la tecnología contribuya a elecciones más inclusivas y confiables, y no se adopte solo porque está disponible.

Fuente: La inteligencia artificial entra en las elecciones de América Latina