A inteligência artificial também precisa de gênero

Nos últimos anos, a inteligência artificial (IA) deixou de ser apenas uma promessa tecnológica e passou a mediar decisões fundamentais em nossas vidas, desde processos seletivos e diagnósticos médicos até políticas públicas e decisões judiciais. No entanto, cresce o alerta de que esses sistemas não são neutros, eles refletem, aprendem e amplificam os vieses da sociedade que os cria.

Segundo a UNESCO, os modelos de IA generativa e assistentes virtuais ainda reproduzem desigualdades de gênero de forma sistemática. O relatório “I’d Blush If I Could” (2019) revelou que assistentes de voz programadas com vozes femininas foram projetadas para responder com docilidade a insultos e ordens, perpetuando estereótipos de submissão feminina. Mais recentemente, a mesma organização identificou que algoritmos de imagem e linguagem continuam associando homens a papéis de liderança e mulheres a funções de apoio, mesmo quando alimentados com bases de dados amplas e atualizadas.

O Berkeley Haas Center for Equity, Gender and Leadership, da Universidade da Califórnia, analisou 133 sistemas de IA corporativos e constatou que 44% apresentavam viés de gênero e 25% combinavam vieses de gênero e raça. Esses desequilíbrios não são apenas técnicos, eles têm efeitos concretos sobre oportunidades de trabalho, acesso ao crédito, saúde e justiça.

Essas evidências apontam para um desafio central, a inteligência artificial está aprendendo com um mundo desigual, e, sem intervenção, continuará reproduzindo discriminações estruturais. Por isso, a incorporação da perspectiva de gênero no desenvolvimento, na regulação e na aplicação da IA deixou de ser uma pauta acadêmica e tornou-se uma exigência ética e política.

A tecnologia deve ser entendida como um espaço de disputa e não de neutralidade. Assim como o Direito, a IA carrega escolhas, intencionalidades e silêncios. A sua “inteligência” depende de quem a programa, quais dados alimentam o sistema e que valores orientam suas respostas.

Na Escola Brasileira de Direitos das Mulheres, defendemos que o futuro digital precisa ser também um futuro feminista, diverso, transparente e comprometido com a justiça social. Promover uma inteligência artificial com gênero é garantir que o avanço tecnológico caminhe junto com os direitos humanos, a igualdade e a dignidade das pessoas.

Fontes:

• UNESCO. I’d Blush If I Could: closing gender divides in digital skills through education. Paris: UNESCO, 2019. Link

• UNESCO. Generative AI and Gender Bias: Risks and Opportunities. Paris: UNESCO, 2023.

• UN Women. Artificial Intelligence and Gender Equality: Key Findings and Recommendations. ONU Mulheres, 2020.

• Berkeley Haas Center for Equity, Gender and Leadership. Mitigating Bias in Artificial Intelligence (AI): An Equity Fluent Leadership Playbook. University of California, 2021.