La inteligencia artificial también reproduce desigualdades sociales, culturales y de género

• Los algoritmos deciden desde qué contenido vemos en redes sociales hasta quién accede a un empleo, expuso la investigadora Rosalía Guerrero

Pachuca de Soto, Hidalgo. – El uso de la Inteligencia Artificial (IA) ofrece múltiples beneficios, sin embargo, también puede reproducir o acentuar sesgos de género, clase y raza que no provienen de la tecnología, sino de la información con la que se entrena, así como las estructuras de poder que la desarrollan y la utilizan, explicó Rosalía Guerrero Escudero, profesora investigadora de la Universidad Autónoma del Estado de Hidalgo (UAEH).

La docente, adscrita al Instituto de Ciencias Sociales y Humanidades (ICSHu), explicó que las IA funcionan al conectarse a través de distintas bases de datos, cargadas y seleccionadas por programadores que, en su mayoría, son hombres con conocimientos tecnológicos y una cosmovisión basada en sus conocimientos sociales y privilegios, lo que condiciona los resultados que ofrecen, ya que la información o imágenes generadas están limitadas por esas ideas iniciales.

Muchas de estas tecnologías se entrenan con la visión de los países del primer mundo, lo que excluye la diversidad global. “Un ejemplo de ello es que cuando uno como usuario le pide a una inteligencia artificial generar la imagen de una persona exitosa, el resultado suele ser un hombre blanco, guapo, en traje y dentro de una ciudad. Esto deja de lado a otras razas, clases sociales y géneros”, explicó la investigadora del Área Académica de Ciencias de la Comunicación.

En una era donde los algoritmos deciden desde qué contenido vemos en redes sociales hasta quién accede a un empleo, la IA se ha vuelto una fuerza invisible que moldea oportunidades, relaciones y derechos. “Cada vez más estudios revelan que en ellas se reflejan los prejuicios históricos y estructurales de las sociedades que las crean y lo hacen con una eficiencia preocupante, afectando a millones de personas al mismo tiempo sin siquiera darnos cuenta”, resaltó.

Por ello, es necesario que quienes desarrollan estas herramientas incluyan a personas de distintos sectores de la sociedad para que aporten su visión del mundo, establezcan regulaciones que eviten la discriminación automatizada y promuevan el acceso equitativo a las tecnologías. Frente a este panorama, organismos y empresas internacionales han comenzado a impulsar los principios de ética algorítmica y justicia digital.

Además, es necesario que las personas tengan un pensamiento crítico al usar esta tecnología y sepan emplear los llamados prompts, que son las instrucciones dadas a la IA, para obtener resultados más acordes con la información que necesitan según el entorno sociocultural en el que viven.

De igual manera, es importante conocer y analizar los resultados que arrojan estos sistemas inteligentes cuando se utiliza, ya que no es ajena a los sesgos humanos. Por ello, esta problemática debe abordarse con urgencia o se corre el riesgo de automatizar la desigualdad y dificultar aún más su detección y combate, mencionó Rosalía Guerrero Escudero.