5 PERGUNTAS PARA SUZANA FAGUNDES | LOCALIZA

A transformação digital tem tido um desempenho fundamental no desenvolvimento social nas últimas décadas. E qual é o papel das novas tecnologias em relação a temas como a equidade de gênero? Suzana Fagundes, diretora Jurídica e de Relações Institucionais da Localiza, traz seu olhar sobre os impactos de vieses inconscientes no desenvolvimento tecnológico.

1) O que são os vieses inconscientes e como eles impactam a sociedade?

Todo indivíduo tem uma visão de mundo limitada por suas vivências, crenças, pela cultura e costumes de onde está inserido. Quando essa limitação implica a definição de estereótipos acerca de certo grupo de pessoas, diz-se que tais percepções são vieses inconscientes. Os vieses
inconscientes referentes a percepções estereotipadas de indivíduos em decorrência de gênero, são chamados de vieses inconscientes de gênero.

2) Como os vieses inconscientes se refletem na tecnologia e se perpetuam nos frutos dessa inovação?

A inteligência artificial (IA) pode ser um acelerador na busca da equidade de gênero, na medida em que tem o potencial de corrigir ou amenizar as normas sociais hoje presentes, que ainda são baseadas em valores patriarcais e atribuem funções secundárias ou inferiores às mulheres. Essa
aceleração, todavia, não ocorre de forma natural.

Quando alguém codifica um algoritmo utilizado na IA, muitas vezes, sem perceber, faz refletir nele seus vieses inconscientes de gênero. Este ato inconsciente pode agravar a desigualdade de gênero de uma forma muito mais veloz e potente do que a realizada naturalmente pela sociedade.
Pior: mesmo sem utilizar o gênero como uma das variáveis na programação da IA, a simples existência de comportamentos ou características que se observam mais comumente em pessoas de um determinado gênero pode gerar um resultado que favorece um gênero em detrimento de outro, agravando as disparidades de oportunidade entre homens e mulheres.

Outro aspecto a ser mencionado é a qualidade dos dados considerados na elaboração da IA que podem incluir desequilíbrio de informações, levando a conclusões que artificialmente favorecem a determinado gênero.

3) É possível neutralizar esses vieses?

Embora ainda não haja uma receita clara para assegurar a neutralidade de gênero na IA, vários manuais e estudos sugerem, dentre outras iniciativas, treinamentos aos programadores, utilização de dados com neutralidade de gênero, aumento de mulheres na programação e realização de testes confirmatórios de neutralidade de gênero. Chama à atenção, todavia, que pouco se fala sobre o tema entre os profissionais da área e empresas que os contratam. Diversos deles sequer consideram o tema em pauta.

4) O que pode ser feito para minimizar seus efeitos?

O primeiro passo para criar tecnologia e IA que sejam mais justas, reduzindo a desigualdade de gênero, é ter consciência da existência desses vieses de gênero e de que algo deve ser feito para não permitir a potencialização de normas sociais discriminatórias.

À proporção que se torna cada vez mais comum a tomada de decisões por consumidores, empresas e instituições pautadas em IA, torna-se urgente trazer essa discussão à tona para definirmos práticas que permitam neutralizar o viés inconsciente de gênero na IA e, se possível, utilizá-la de
forma a contribuir na busca da tão almejada equidade de gênero .

5) Você acredita que a diversidade de ideias, opiniões, perfis e vivências pode contribuir para um papel menos relevante desses vieses na sociedade?

Os vieses são inerentes à visão de mundo de cada indivíduo. Estamos aqui tratando dos vieses de gênero, mas existe um incontável número de olhares e ideias pré-concebidas que se caracterizam como vieses inconscientes. Mesmo as pessoas mais abertas e atentas para o tema, por vezes, têm atitudes preconceituosas, ainda que involuntárias e não percebidas por elas próprias.

Na minha experiência pessoal, o aprofundamento da compreensão do tema, associado à convivência com pessoas e ideias diversas, ajudou a aprimorar meu olhar, aflorando meus próprios vieses inconscientes e permitindo que eu corrigisse minha visão de mundo. Acredito, portanto,
que isso deva ser replicado para termos um mundo mais equânime.
















Leave a Reply

Your email address will not be published.