Por que as mulheres devem ter voz na mesa da IA

Katya Moskalenko, gestora de marketing de produto do Measure Protocol, com sede em Londres, está a soar o alarme de que a inteligência artificial pode ter um impacto negativo na disparidade de género existente na indústria tecnológica. Embora crie um mundo de possibilidades estimulantes, também cria — quase inerentemente — riscos de preconceito e exclusão.

Evitar essas armadilhas, disse-nos ela, exigirá “toda uma cadeia de decisões e estratégias, como garantir conjuntos de dados diversos, garantir equipas diversas, garantir considerações éticas em quaisquer soluções baseadas em IA”.

Há um longo caminho a percorrer. Moskalenko cita dados do Fórum Económico Mundial de 2021, sugerindo que apenas 26% dos dados e cargos de IA são ocupados por mulheres; há poucos motivos para supor que essa estatística tenha melhorado dramaticamente.

Será uma longa jornada

Katya admite que não há solução mágica para isso. “Não podemos resolver tudo de uma vez”, disse ela. “Será um longo caminho para garantir que a IA sirva todos os indivíduos. Ao ter uma representação mais equilibrada, podemos garantir que todas as novas tecnologias, incluindo a IA, sejam inclusivas e imparciais desde a concepção.”

Mas a hora de começar é agora. Às vezes parece que toda empresa, grande e pequena, tem uma equipe desenvolvendo novas soluções baseadas em IA – desde Adobe e AirBnB até pequenas start-ups, disse ela.

“Portanto, a primeira coisa é diversificarmos as equipas com mais mulheres, com mais pessoas de cor, com mais grupos minoritários para garantir uma perspectiva diversificada e inclusiva”, continuou ela. “Além disso, vamos ter certeza de que temos conjuntos de dados que são inclusivos e diversos para serem inseridos em sistemas, para serem inseridos em grandes modelos de linguagem.”

A preocupação de que os modelos de IA, especialmente aqueles treinados na web, desenvolvam preconceitos integrados está longe de ser nova. E não existe uma solução fácil, embora Moskalenko reconheça que alguns dos grandes intervenientes neste espaço estão a fazer um esforço para resolver o problema.

“Estou bastante impressionado que o OpenAI tenha boas diretrizes; instruções sobre como ser cauteloso e responsável”, disse ela. “Além disso, é extremamente importante compartilhar as melhores práticas e também alguns dos pontos fracos e vulnerabilidades que encontramos. Mitigar danos não intencionais é importante.”

Ela pede uma cooperação atenciosa; precisamos reconhecer que existem problemas e trabalhar juntos para resolvê-los. “Com toda a rivalidade económica e empresarial a acontecer, devemos também pensar na sociedade como um todo, na humanidade como um todo. Estaremos vivendo na sociedade e com a humanidade que construímos. A cooperação eficaz é a chave.”

Acertando esses conjuntos de dados

A evangelista de dados e colaboradora da MarTech, Theresa Kushner, também investe fortemente na diversidade e inclusão quando se trata de mulheres na IA. Perguntamos a ela sobre a relação entre diversidade nas equipes e conjuntos de dados diversos e imparciais.

“Garantir a igualdade de género começa muito antes de se chegar à fase de concepção de algoritmos de IA”, enfatizou ela. “Tudo começa com os dados que você coleta. Curiosamente, a maioria das empresas nem sempre acredita que a captura do género seja um imperativo. Portanto, eles realmente não podem dizer se seus dados são tendenciosos ou não. Trabalhei com algumas empresas que tiveram que inferir o gênero a partir de informações coletadas, como nome, filiação universitária e atividades extracurriculares. Esta não é uma boa forma de garantir o género, mas muitas vezes é tudo o que têm.”

Ela concorda que é necessário ter uma equipe diversificada avaliando os algoritmos de IA. “À medida que os dados são vistos cada vez mais como um produto, as equipes de IA precisam começar a pensar como desenvolvedores de produtos, considerando seus usuários e seus mercados. Certa vez, ouvi um engenheiro falar sobre a equipe que criou um produto semelhante ao Fitbit. Aqui está uma ferramenta que deveria monitorar todas as suas funções corporais, mas os designers, que eram todos homens, deixaram de fora do design aquilo que toda mulher monitora: sua menstruação. Sem grupos diversos criando produtos de dados, temos situações semelhantes.”

Aprofunde-se: por que nos preocupamos com IA em marketing

Contrate, mas também retenha

Ao tomar medidas para diversificar as equipas que trabalham neste espaço, não basta contratar pela diversidade. “Deve haver esforços que promovam não apenas a contratação, mas também a retenção – porque infelizmente não é o fim da missão contratar uma mulher, também é importante garantir que ela seja qualificada e requalificada e que tenha tudo o que precisa para prosperar.”

Se uma coisa estiver clara, é que a ênfase na priorização da requalificação dos trabalhadores do sexo masculino na IA generativa – e na IA e nos dados em geral – só piorará a situação.

Kushner concordou e ampliou o ponto. “É claro que você deve treinar igualmente em IA, mas não é com as ferramentas que devemos nos preocupar. O acesso às ferramentas deve ser fácil para qualquer mulher da área de TI. Devemos, no entanto, garantir que as mulheres também estejam envolvidas na governação das ferramentas e dos algoritmos criados pela IA. Lembre-se de que a diversidade não é apenas género e etnia, é também diversidade de pensamento e abordagem. Incluir mulheres muitas vezes também proporciona esse tipo de diversidade.”

Mulheres na tecnologia: um movimento global

Moskalenko tem estado envolvida nestas questões, não apenas no que diz respeito à IA, através da sua participação no movimento Women in Tech. Ela explicou o porquê.

“Passei por um caminho interessante, desde campos de marketing muito tradicionais, desde empresas de mídia muito tradicionais, até a realidade acelerada das start-ups de tecnologia”, ela nos disse (o Measure Protocol oferece software para rastrear inteligência competitiva e comportamento do consumidor) . “Senti que era importante para mim partilhar a minha experiência e ajudar outras mulheres a explorar esta indústria incrivelmente interessante e vibrante – e tornar esta bolha tendenciosa um pouco mais diversificada e inclusiva.”

Mais sobre a missão mundial da Women in Tech pode ser encontrada aqui.