dom. Jul 21st, 2024

Diversidad: riesgos en la inteligencia artificial y oportunidades en las empresas tecnológicas


Diversidad: riesgos en la inteligencia artificial y oportunidades en las empresas tecnológicas Ciudad de México, 17 de junio de 2024.- Las herramientas tecnológicas deberían ser accesibles para cualquier persona. Para lograrlo, tendrían que ser creadas desde una perspectiva incluyente, atendiendo y respetando la diversidad humana; además de que la evolución de esta industria ha estado más ligada con la diversidad de lo que se piensa.  Un caso emblemático es el de Alan Turing (1912-1954), matemático inglés pionero de los ordenadores y cuyo artículo “Computing machinery and intelligence” (1950) lo perfiló como “el padre de la inteligencia artificial” (IA), quien tuvo que ocultar su orientación sexual porque la homosexualidad era penada por el gobierno británico; algo impensable en la mayoría de los países actualmente pero que, a pesar de los aportes de Turing para descifrar códigos secretos durante la Segunda Guerra Mundial, en esa época implicó lo condenaran a la castración química, lo que lo llevó al suicidio pocos años después.   Afortunadamente, el mundo ha avanzado en diversidad e inclusión. Sin embargo, aún hay mucho por hacer para garantizar los derechos humanos de todas las personas, incluyendo los de la población LGBT+. Hablando específicamente de la inclusión digital para este grupo, aún tenemos retos y oportunidades con relación al desarrollo de soluciones tecnológicas (incluida la IA) y por lo tanto con la diversidad en el “pool” de talento del sector de tecnologías de la información (TI).  De acuerdo con Erandi López, líder de Responsabilidad Social Corporativa para SoftServe México, compañía global de TI puntera en desarrollo de software y consultoría, partiendo de que la inteligencia artificial se entrena con grandes conjuntos de datos que pueden contener prejuicios históricos y sociales, dicha innovación es proclive a perpetuar o incluso amplificarlos si la data no es cuidadosamente seleccionada y analizada; lo cual puede resultar en discriminación contra determinados grupos, incluida la población LGBT+ en situaciones como búsqueda de empleo, préstamos bancarios o servicios de salud.  “Un ejemplo son los sistemas de reconocimiento facial o de voz basados en inteligencia artificial, tan usados hoy en día por servicios y hasta gobiernos, pero que a menudo carecen de representación LGBT+. Si no son diseñados con una perspectiva inclusiva, pueden fallar en reconocer y procesar correctamente identidades o expresiones de género no binarias. Algo similar ocurre con las soluciones de traducción automática y de reconocimiento de imágenes, pues tienden a ‘normalizar’ por así decirlo las expresiones de género, asignándolas de forma binaria y errónea al ignorar las variaciones más allá de lo concebido como masculino y femenino”; explica.  Además de que la población LGBT+ puede ser particularmente vulnerable a la invasión de su privacidad y abuso de datos personales, como la detección y divulgación involuntaria de su orientación sexual o identidad de género a través de algoritmos de análisis de datos que podrían ponerles en riesgo dentro de entornos hostiles; la experta también señala otros desafíos detectados en el uso de la inteligencia artificial, desde el punto de vista de la diversidad:  Interacción con asistentes virtuales. Los asistentes virtuales suelen estar programados con voces y personalidades que refuerzan estereotipos de género. Además, pueden no manejar adecuadamente temas relacionados con la diversidad sexual.  Acceso a tecnología. La discriminación sistémica puede llevar a que personas de la población LGBT+ tengan menos acceso a beneficios tecnológicos, incluyendo educación y recursos de IA.   Para hacer frente a esos desafíos, dos sugerencias básicas en el desarrollo de productos como software o apps, son integrar principios de diseño inclusivo,asegurando que las tecnologías sean accesibles y útiles para personas de todas las identidades de género; y realizar tests de diversidad, incluyendo a personas LGBT+ en las fases de prueba para recoger sus perspectivas y experiencias, lo que puede ayudar a identificar y corregir sesgos inadvertidos.  Importancia de la diversidad en los equipos tecnológicos  “Más allá de si los productos y servicios a desarrollar involucran soluciones de inteligencia artificial o no, algo que las empresas tecnológicas deben priorizar al interior es tener estrategias de Diversidad, Equidad e Inclusión, que bajos sus siglas DEI cada vez son más conocidas en el mundo empresarial. Pero todavía hay una brecha considerable por cerrar para garantizar ambientes de trabajo diversos e inclusivos, en los que todas las personas sean tratadas con dignidad y respeto“; agrega Erandi López. Entre los principales beneficios de tener una plantilla laboral diversa en el sector de las TI, con énfasis en los equipos dedicados al desarrollo de soluciones de IA, ella destaca tres:  Innovación y creatividad. Los equipos diversos son más propensos a incorporar múltiples perspectivas y experiencias, lo cual puede llevar a la creación de productos más innovadores y eficaces que sirvan mejor a una base de usuarios más amplia. Productos más inclusivos. La inclusión de personas LGBT+ en el proceso de desarrollo ayuda a identificar y mitigar sesgos en los algoritmos desde el principio, resultando en tecnologías más incluyentes. Ambiente laboral y salud mental. La sensibilización y capacitación sobre la diversidad sexual en las empresas contribuyen a generar espacios de trabajo seguros para la población LGBT+, cuidando con ello su salud mental y garantizando un clima laboral que fomente su productividad.   La relevancia social de conformar equipos diversos en la industria tecnológica se enmarca en un contexto donde, según datos del Instituto Tecnológico de Massachusetts (MIT), el 33% de las personas ingenieras homosexuales perciben su orientación sexual como una barrera para el avance profesional; aunado a que más de la mitad de las personas empleadas LGBT+ afirman haber presenciado chistes homofóbicos en su lugar de trabajo. En nuestro país, la Encuesta Nacional sobre Diversidad Sexual y de Género (ENDISEG) 2021 encontró que el 28.1% de dicha población laborando en ese momento, enfrentó algún trato desigual de beneficios, prestaciones laborales y ascenso durante los 12 meses previos, o recibió comentarios ofensivos por su orientación sexual.  Por ello, buscando contrarrestar los casos de discriminación en el sector, desde inicios del 2024 SoftServe introdujo en el proceso de onboarding para quienes se incorporan a la empresa un e-learning sobre Diversidad, Equidad e Inclusión; mismo que recientemente se amplificó hacia todas las personas asociadas de la firma a nivel mundial, buscando proporcionar una comprensión básica de los conceptos clave en DEI, sesgos inconscientes y buenas prácticas para garantizar el respeto hacia todas las personas, sin importar su identidad o expresión de género, origen étnico racial, edad, discapacidad u orientación sexual. Adicionalmente, SoftServe forma parte de Pride Connection México: red que provee de información, espacios y capacitación sobre diversidad, equidad e inclusión laboral a personas de la comunidad LGBT+.  Entre las acciones complementarias de la compañía de origen ucraniano para impulsar la construcción de sociedades más inclusivas en los países donde tiene mayor presencia, la más importante en México ha sido EmpowerU, su programa global cuyo objetivo es brindar capacitación en las tecnologías más relevantes del mercado con una perspectiva incluyente. Para contribuir a una industria más inclusiva, periódicamente lanza convocatorias enfocadas en mujeres y otros grupos históricamente subrepresentados.  Su edición local más reciente es un curso en torno a Python, lenguaje de programación usado en aplicaciones web, desarrollo de software, ciencia de datos y machine learning o ML, una rama de la inteligencia artificial traducida como aprendizaje automático. Con más de 50 personas inscritas, 14% del alumnado es parte de la población LGBT+. La graduación será este mes de junio, tras concluir un temario que también incluyó sesiones sobre cómo crear un currículum vitae (CV) y para aprender a sacar partido a la red social profesional LinkedIn; aparte de simular entrevistas laborales con personal de SoftServe, para que la preparación sea integral y no sólo tecnológica.  “En resumen, al tiempo que la inteligencia artificial presenta ciertos riesgos para la población LGBT+, debido a problemas de sesgos y falta de representación que es necesario mitigar, también ofrece una oportunidad significativa para mejorar la inclusión y la equidad. La clave está en desarrollar estas tecnologías de manera consciente, crítica y ética, asegurando que los equipos responsables sean tan diversos como las personas usuarias a las que sirven”; concluye la líder de Responsabilidad Social Corporativa para SoftServe México. 

Deja un comentario

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *