Por qué las mujeres deben tener voz en la mesa de la IA

Katya Moskalenko, gerente de marketing de productos de Measure Protocol, con sede en Londres, está haciendo sonar la alarma de que la inteligencia artificial podría tener un impacto negativo en la brecha de género existente en la industria tecnológica. Si bien crea un mundo de posibilidades apasionantes, también crea –casi inherentemente– riesgos de sesgo y exclusión.

Evitar esas trampas, nos dijo, requerirá "toda una cadena de decisiones y estrategias, como garantizar conjuntos de datos diversos, equipos diversos y consideraciones éticas en cualquier solución impulsada por IA".

Hay un largo camino por recorrer. Moskalenko cita datos del Foro Económico Mundial de 2021 que sugieren que solo el 26% de los puestos de datos y de IA están ocupados por mujeres; hay pocas razones para suponer que esa estadística haya mejorado dramáticamente.

va a ser un largo viaje

Katya admite que no existe una solución mágica para esto. "No podemos resolver todo de una vez", afirmó. “Será un largo camino para garantizar que la IA esté al servicio de todas las personas. Al tener una representación más equilibrada, podemos garantizar que todas las nuevas tecnologías, incluida la IA, sean inclusivas e imparciales por diseño”.

Pero el momento de empezar es ahora. A veces parece que todas las empresas, grandes y pequeñas, tienen un equipo que desarrolla nuevas soluciones impulsadas por IA, desde Adobe y AirBnB hasta pequeñas empresas emergentes, dijo.

“Entonces, lo primero es diversificar los equipos con más mujeres, con más personas de color, con más grupos minoritarios para garantizar una perspectiva diversa e inclusiva”, continuó. "Además, asegurémonos de tener conjuntos de datos que sean inclusivos y diversos para introducirlos en los sistemas, en grandes modelos de lenguaje".

La preocupación de que los modelos de IA, especialmente los entrenados en la web, desarrollen sesgos incorporados está lejos de ser nueva. Y no hay una solución fácil, aunque Moskalenko reconoce que algunos de los grandes actores en el espacio están haciendo un esfuerzo para abordar el problema.

“Estoy bastante impresionado de que OpenAI tenga buenas pautas; instrucciones sobre cómo ser cauteloso y responsable”, dijo. “Además, es increíblemente importante compartir las mejores prácticas y también algunas de las debilidades y vulnerabilidades que encontramos. Mitigar el daño no intencional es importante”.

Pide una cooperación atenta; Necesitamos reconocer que los problemas existen y trabajar juntos para resolverlos. “Con toda la rivalidad económica y empresarial que existe, también deberíamos pensar en la sociedad en su conjunto, en la humanidad en su conjunto. Viviremos en la sociedad y con la humanidad que hemos construido. La cooperación eficaz es la clave”.

Obtener esos conjuntos de datos correctos

La evangelista de datos y colaboradora de MarTech, Theresa Kushner, también está muy comprometida con la diversidad y la inclusión cuando se trata de mujeres en la IA. Le preguntamos sobre la relación entre la diversidad en los equipos y conjuntos de datos diversos e imparciales.

“Garantizar la igualdad de género comienza mucho antes de llegar a la fase de diseño de algoritmos de IA”, enfatizó. “Todo comienza con los datos que recopila. Curiosamente, la mayoría de las empresas no siempre creen que captar el género sea un imperativo. Por lo tanto, realmente no pueden decirle si sus datos están sesgados o no. He trabajado con algunas empresas que han tenido que inferir el género a partir de la información que han recopilado, como el nombre, la afiliación universitaria y las actividades extracurriculares. Esta no es una buena manera de asegurar el género, pero a menudo es lo único que tienen”.

Ella está de acuerdo en que es necesario contar con un equipo diverso que evalúe los algoritmos de IA. “A medida que los datos se ven cada vez más como un producto, los equipos de IA tienen que empezar a pensar como desarrolladores de productos, considerando a sus usuarios y sus mercados. Una vez escuché a un ingeniero hablar sobre el equipo que creó un producto similar a Fitbit. Aquí hay una herramienta que debería rastrear todas sus funciones corporales, pero los diseñadores, que eran todos hombres, omitieron del diseño lo único que toda mujer rastrea: su período. Sin grupos diversos que creen productos de datos, tenemos situaciones similares”.

Profundice: por qué nos importa la IA en el marketing

Contratar, pero también retener

Al tomar medidas para diversificar los equipos que trabajan en este espacio, contratar para la diversidad no es suficiente. "Debe haber esfuerzos que promuevan no sólo la contratación sino también la retención, porque desafortunadamente no es el final de la misión contratar a una mujer, también es importante garantizar que esté capacitada y recapacitada y que tenga todo lo que necesita para prosperar".

Si algo está claro es que poner énfasis en priorizar la recapacitación de los trabajadores varones en IA generativa (y en IA y datos en general) solo empeorará la mala situación.

Kushner estuvo de acuerdo y amplió el punto. “Por supuesto, también deberías entrenar en IA, pero no son las herramientas lo que debería preocuparnos. El acceso a las herramientas debería ser fácil de conseguir para cualquier mujer en el campo de TI. Sin embargo, deberíamos asegurarnos de que las mujeres también participen en la gobernanza de las herramientas y los algoritmos creados por la IA. Recuerde que la diversidad no es sólo género y etnia, sino también diversidad de pensamiento y enfoque. Incluir a las mujeres a menudo también te brinda ese tipo de diversidad”.

Mujeres en la tecnología: un movimiento global

Moskalenko ha estado involucrada en estos temas, no solo en lo que respecta a la IA, a través de su participación en el movimiento Women in Tech. Ella explicó por qué.

"He recorrido un camino interesante desde campos de marketing muy tradicionales, desde empresas de medios muy tradicionales, hasta la acelerada realidad de las nuevas empresas tecnológicas", nos dijo (Measure Protocol ofrece software para rastrear la inteligencia competitiva y el comportamiento del consumidor). . “Sentí que era importante para mí compartir mi experiencia y ayudar a otras mujeres a explorar esta industria increíblemente interesante y vibrante, y hacer que esta burbuja sesgada sea un poco más diversa e inclusiva”.

Puede encontrar más información sobre la misión mundial de Women in Tech aquí.