ONU Mujeres detecta sesgos de género en el 44% de los sistemas analizados
La inteligencia artificial (IA) puede profundizar las brechas que ya afectan a las mujeres al reproducir estereotipos, facilitar nuevas formas de violencia digital y exponerlas de manera desproporcionada a la automatización laboral, según una recopilación de estudios difundida por ONU Mujeres. Un análisis de 133 sistemas de IA detectó sesgos de género en el 44% de ellos, y en el 26% los prejuicios combinaban género y raza.
Los grandes modelos de lenguaje tienden a relacionar a las mujeres con el hogar, la familia y los hijos, mientras vinculan a los hombres con los negocios, los cargos directivos y la carrera profesional. Cerca de una de cada cinco respuestas generadas reprodujo actitudes sexistas o misóginas. Para ONU Mujeres, el riesgo no es que la IA cree prejuicios desde cero, sino que replique y amplifique, a gran velocidad y escala, las desigualdades presentes en los datos con los que fue entrenada.
La violencia digital también se multiplica: casi una de cada cuatro mujeres defensoras de derechos humanos, activistas y periodistas encuestadas sufrió violencia en línea facilitada por IA. El 12% denunció la difusión no consentida de imágenes personales y un 6% fue blanco de deepfakes, contenido manipulado que hace parecer que una persona dijo o hizo algo que nunca ocurrió, usado para el acoso y campañas de desprestigio.
La falta de perspectiva de género es estructural: de 138 países analizados, solo 24 mencionan el género en sus estrategias nacionales de IA, y las mujeres representan apenas el 30% de la fuerza laboral mundial del sector. Además, las mujeres fuera del ámbito tecnológico tienen casi el doble de probabilidades que los hombres de ocupar empleos con alto riesgo de automatización. ONU Mujeres pidió incluir las voces de mujeres y niñas en todo el ciclo de vida de estas tecnologías, de cara a la cumbre AI for Good de julio en Ginebra.