Luisa Granados, Daniela Flores y Allison Salguero, estudiantes de la Licenciatura en International Marketing and Business Analytics de Universidad del Valle de Guatemala (UVG), descubrieron distintos sesgos de género y discriminación en herramientas de inteligencia artificial (IA) al ser utilizadas en procesos de reclutamiento.
La investigación, según indican, surgió como resultado de una invitación de MBA José Cárcamo, director de carrera, para explorar el impacto de la inteligencia artificial en el ámbito laboral. El objetivo principal del proyecto fue determinar si herramientas como ChatGPT, Perplexiti o Gemini presentan sesgos de género o discriminación al seleccionar candidatos para alguna plaza laboral.
Metodología
El equipo de investigación realizó una evaluación de cómo la IA maneja los currículos en función del género. Para ello, recolectaron una serie de currículos, los cuales fueron procesados de dos formas distintas: con y sin nombres de género identificables. Las herramientas utilizadas fueron ChatGPT, Gemini y Perplexiti. A estas se les pidió que evaluaran qué candidato era el más adecuado para un puesto específico, basándose en las hojas de vida recibidas.
Una parte clave de la investigación incluyó la realización de pruebas, tanto con currículos identificables por nombre, como sin esta información. Esta metodología permitió observar cómo las IA tomaban decisiones basadas en los datos proporcionados y si el género influía en la selección del candidato.
Resultados
Allison Salguero comentó que, a pesar de que las IA afirmaban no discriminar por género, los resultados mostraron una tendencia a seleccionar candidatos basados en su género. En un caso específico, una candidata con menos aptitudes para el puesto fue elegida por ser mujer, evidenciando una forma de inclusión forzada.
“Nos sorprendió observar que, a pesar de que el perfil de trabajo estaba diseñado estratégicamente para un hombre, las IA tendían a seleccionar mujeres como una forma de inclusión forzada”, destacó Allison. Este hallazgo puso de manifiesto la necesidad de abordar los sesgos en el desarrollo de herramientas de IA para garantizar procesos de reclutamiento justos y equitativos.
Desafíos
Según indican, la adaptación y el manejo de las herramientas de IA fueron los principales retos del proyecto. Cada plataforma presentó desafíos únicos en términos de análisis y uso. Además, el equipo tuvo que aprender a formular preguntas de manera efectiva para obtener respuestas precisas.
Además de los desafíos técnicos, el estudio ofreció una perspectiva valiosa sobre el funcionamiento de los procesos de reclutamiento y el papel de las herramientas de IA en ellos. Las tres estudiantes indican que el proyecto podría ser útil en un futuro para el diseño de campañas de marketing dirigidas a cada audiencia.
Impacto en su carrera
Para Luisa, Daniela y Allison, el proyecto amplió su visión sobre el uso de datos en el marketing. “El marketing en la UVG es único debido a su enfoque en el análisis de datos. He descubierto un mundo fascinante en el que las decisiones están basadas en datos y esto me ha llevado a apreciar aún más la importancia del análisis de datos en nuestra carrera”, compartió Allison.
La carrera de International Marketing and Business Analytics te ofrece oportunidades para explorar diversas áreas profesionales y desarrollar habilidades. Conoce más de esta carrera y haz clic en el enlace.
También te puede interesar
Marketing Week 2024 inspira y conecta a los futuros líderes de los negocios
