Estudio revela que modelos de IA discriminan a las mujeres y no entienden la realidad chilena
Tiempo de lectura: 2 minutos Investigadores de la Universidad Adolfo Ibáñez publicaron un estudio sobre las limitaciones de los modelos de lenguaje al simular la opinión pública nacional.
Un estudio liderado por académicos de la Universidad Adolfo Ibáñez (UAI) demostró que la Inteligencia Artificial (IA) refleja profundas desigualdades demográficas y una incapacidad para entender las particularidades de la sociedad chilena.
La investigación, titulada «Auditando la equidad sociodemográfica y transcultural en la opinión pública simulada por grandes modelos de lenguaje«, fue publicada en la revista científica EPJ Data Science. El equipo, integrado por Andrés Abeliuk, Vanessa Gaete y Naim Bro, auditó cómo estos algoritmos procesan la realidad de distintos países, encontrando una brecha entre el «Norte Global» y el contexto local.
«Nuestra investigación muestra que los modelos representan mucho mejor la opinión pública estadounidense que la chilena«, explica Naim Bro, académico de la Escuela de Gobierno de la UAI.
El sesgo del «Norte Global» en la IA
Al comparar el desempeño de los modelos en Estados Unidos frente a Chile —utilizando datos de encuestas representativas como la CEP—, los investigadores descubrieron que los algoritmos son mucho más precisos al predecir el comportamiento estadounidense.
Este fenómeno se explica por los datos de entrenamiento. Al ser alimentados mayoritariamente con información proveniente de países desarrollados, los modelos de IA actúan como un espejo de esa cultura, omitiendo las sutilezas políticas, sociales y culturales de naciones como Chile.
Mujeres y adultos mayores entre los más afectados
Mientras que en Estados Unidos los sesgos suelen estar marcados por la raza o la militancia política, en Chile la IA muestra una notoria falta de precisión al analizar a las mujeres, los adultos mayores, las personas religiosas y los sectores con menor nivel educacional.
Esta falla de representación tiene consecuencias en la realidad. Según advierte Naim Bro, el uso creciente de IA para reemplazar encuestas o predecir tendencias sociales podría generar una visión distorsionada de la población. «Si estas diferencias no se evalúan, existe el riesgo de obtener una representación distorsionada de ciertos grupos de la población y de tomar decisiones basadas en evidencia sesgada«, afirma el investigador, subrayando que las políticas públicas diseñadas bajo estos modelos podrían excluir las necesidades de los grupos más vulnerables.
El estudio concluye que, antes de integrar la IA en la planificación estatal o la investigación de mercado en Chile, es imperativo realizar evaluaciones locales rigurosas.
