Inteligencia Artificial: Unión Europea advierte sesgos de género en la herramienta

La Inteligencia Artificial (IA) es cada vez una herramienta más popular. Los llamados chatbots y otro tipo de mecanismos están cada día más accesibles y cuentan con más modalidades y posibilidades.

Esta tecnología toma fuerza para resolver problemas cotidianos, como redactar u ordenar tareas, así como también en aspectos recreativos.  Es justamente por su creciente popularidad que la Unión Europea busca a través de una nueva campaña evidenciar sesgos importantes que se reproducen en estas herramientas y la necesidad de remediarlo.

The Bias RemAIns (los sesgos permanecen) es el proyecto, bajo la dirección de la oficina Amén McCann en Uruguay, que busca ilustrar a través de imágenes y con creatividad cómo la tecnología reproduce un modelo hegemónico y, a veces, problemático. Milena Guillot, directora de la oficina, comentó en entrevista con EFE que “la Inteligencia Artificial tiene los sesgos que nosotros tenemos , porque reproduce nuestra cultura“.

La ejecutiva ejemplificó con que, al momento de preguntarle a la IA por el líder mundial en 2050, la herramienta mostraba cuatro hombres mayores. No limitado a eso, al preguntarle por un superhéroe, las imágenes también eran exclusivamente masculinas.

Otros sesgos reproducidos por la Inteligencia Artificial

Lamentablemente, la IA también cae en otros estereotipos. Durante el mes de julio, el medio Bloomberg reportó que mientras que los humanos de por sí tenemos sesgos, la inteligencia artificial lo ha hecho peor. Para una investigación, utilizaron la herramienta Stable Diffusion y generaron miles de imágenes relacionadas a empleos.

Los resultados arrojaron que cuando se trata de trabajadores de puestos de alto poder y altos sueldos, la tecnología genera imágenes de personas mayoritariamente de piel clara. Por otro lado, cuando se pregunta por trabajadores de áreas de paga más baja, la IA muestra a personas mayoritariamente no blancas.

Hay tiempo de cambiarlo

Guillot enfatizó que la sociedad “está en permanente evolución”, lo que facilita que la Inteligencia Artificial pueda adoptar un modelo más inclusivo. Sin embargo, es necesario hacer un trabajo atento para programar la herramienta y que esta incluya distintas perspectivas de edad, género y nacionalidad. Esto para asegurarse de que “te va a dar una perspectiva más rica. No te quedas solo con lo que arroja el modelo ortodoxo“.

La ejecutiva además consideró necesario enseñarle a la tecnología a ser “amable, verdadera e inclusiva“, tomando en cuenta que la información que reproduce debe ser chequeada de forma rigurosa, para entregar datos certeros y no reproducir estereotipos dañinos.