Desarrollo de métodos de evaluación del sesgo de género en los chatbots de inteligencia artificial

Desarrollo de métodos de evaluación del sesgo de género en los chatbots de inteligencia artificial. Madrid: Instituto de las Mujeres, 2025. 109 p.

Análisis de los sesgos de género en los textos generados por bots conversacionales de IA e impacto de promoción de la igualdad en tecnologías desarrollado en el marco del proyecto LOVELACE. La metodología del proyecto se desarrollo en cuatro fases diferenciadas. En la primera, se llevó a cabo un estudio mediante el lanzamiento de diversas preguntas o prompts a los chatbots para evaluar sus respuestas. Esta tarea fue realizada por un equipo amplio y multidisciplinar que generó un listado de preguntas o prompts orientados a identificar el sesgo de género en las respuestas de los chatbots. En la segunda fase, se realizó un análisis de contenido empleando técnicas de Procesamiento de Lenguaje Natural (PLN) con el fin de evaluar los textos generados por los chatbots y detectar posibles sesgos de género. Posteriormente, en la tercera fase, se diseñó un protocolo de evaluación basado en los resultados obtenidos en las etapas anteriores. Finalmente, en la cuarta y última fase, se difundió el protocolo de recomendaciones para la creación y uso de chatbots libres de sesgos de género mediante publicaciones en revistas científicas y presentaciones en congresos, promoviendo así la sensibilización sobre la importancia de evitar el sesgo de género en las tecnologías de IA.

Descargar publicación (Documento Adobe Acrobat [.pdf] 10.1 MB)