En el debate sobre la equidad de género, la inteligencia artificial comienza a ocupar un lugar cada vez más relevante. Especialistas de la industria tecnológica advierten que el desarrollo de estos sistemas plantea un desafío clave: evitar que los algoritmos reproduzcan desigualdades existentes en la sociedad.
La preocupación aparece en un contexto en el que la IA ya se utiliza para tomar decisiones relevantes en distintos ámbitos. Sistemas automatizados intervienen en procesos de selección laboral, evaluaciones de crédito, diagnósticos médicos o políticas públicas. Si los datos con los que se entrenan reflejan desigualdades estructurales, los resultados pueden replicarlas o incluso amplificarlas.
En ese escenario, la diversidad en los equipos que diseñan y desarrollan estas tecnologías aparece como un factor cada vez más relevante. Según expertos del sector, ya no se trata únicamente de una cuestión cultural dentro de las empresas, sino de un componente que impacta en la calidad, la innovación y la responsabilidad de los sistemas tecnológicos.
El riesgo del sesgo algorítmico
Uno de los problemas más discutidos en el desarrollo de inteligencia artificial es el llamado sesgo algorítmico. La IA aprende a partir de grandes volúmenes de datos, por lo que los patrones presentes en esa información influyen directamente en el comportamiento de los sistemas.
Cuando esos datos contienen desigualdades históricas o estereotipos sociales, los algoritmos pueden reproducirlos. Esto se traduce en efectos concretos en áreas sensibles. Existen casos en los que sistemas de contratación automatizada asocian determinados roles profesionales con un género específico, mientras que en el ámbito de la salud algunos modelos se basan en síntomas históricamente documentados en hombres, lo que puede derivar en diagnósticos incorrectos en mujeres.
Para Natalia Jakubowski, Manager de Data & Analytics y responsable de IA & Intelligent Solutions Argentina en NTT DATA Argentina, este es uno de los principales retos actuales en el desarrollo tecnológico: "La evidencia es clara: el desafío del sesgo algorítmico es uno de los más relevantes en el desarrollo actual de estas tecnologías. La inteligencia artificial no es neutral: refleja las decisiones que tomamos al diseñar los sistemas, los datos que utilizamos y los criterios con los que evaluamos sus resultados", señaló.
La especialista agregó que el enfoque para abordar este problema no se limita a revisar los conjuntos de datos. "Por eso, la solución no pasa únicamente por revisar los datos, sino también por cómo diseñamos y desarrollamos estos sistemas. Asegurar equipos diversos en las etapas de diseño, desarrollo y auditoría permite anticipar mejor estos riesgos y construir soluciones más robustas".
Un desafío especialmente visible en América Latina
En América Latina, la expansión de sistemas basados en inteligencia artificial plantea interrogantes adicionales. La tecnología ya se utiliza en decisiones vinculadas con la asignación de subsidios, la selección de becas o incluso en herramientas de seguridad pública que emplean reconocimiento facial.
Diversos estudios advierten que estos sistemas pueden presentar riesgos de exclusión si no se diseñan con criterios adecuados de equidad. En tecnologías biométricas, por ejemplo, se ha detectado una mayor tasa de falsos positivos en mujeres, lo que podría derivar en situaciones injustas como identificaciones erróneas o detenciones indebidas.
Algo similar ocurre con ciertos modelos de evaluación crediticia. Algunos algoritmos pueden penalizar trayectorias laborales más interrumpidas o no lineales, un patrón que suele aparecer con mayor frecuencia en la experiencia laboral femenina, lo que limita el acceso a oportunidades económicas.
La diversidad como parte de la calidad tecnológica
En este contexto, especialistas del sector sostienen que incorporar diversidad en los equipos de desarrollo tecnológico es una condición necesaria para reducir riesgos y mejorar el diseño de los sistemas.
Jakubowski señaló que la diversidad deja de ser solamente un indicador cultural dentro de las organizaciones tecnológicas. "En ese sentido, la diversidad deja de ser solo una métrica cultural y se convierte en un factor clave de calidad, innovación y responsabilidad", afirmó.
La discusión cobra especial relevancia en el marco del Día Internacional de la Mujer, una fecha que también invita a revisar cómo las tecnologías emergentes pueden influir en la construcción de sociedades más inclusivas.
Para los expertos, ampliar la participación de mujeres en el sector tecnológico no solo responde a un objetivo de equidad laboral. También es una condición necesaria para asegurar que las herramientas basadas en inteligencia artificial se desarrollen de forma responsable y contribuyan a reducir, y no a profundizar, desigualdades históricas.