Pessoas trans querem mostrar que existem para empresas que usam reconhecimento facial como chave de acesso. A biometria do rosto teria precisão maior do que 95%, segundo fornecedoras da solução, mas para quem é transgênero a taxa de acerto cai para menos de 60%.
A falha ocorre porque o algoritmo de identificação se baseia em medidas da face, como distância entre os olhos ou entre o nariz e o lábio superior e pode confundir o gênero da pessoa identificada.
As chances de erro ficam ainda maiores durante o tratamento hormonal para transição de gênero, principalmente masculina, em que o rosto pode ganhar pelos e a linha do cabelo pode mudar.
O estudante Ariel Viktor Freitas, 23, por exemplo, teve problemas para acessar sua conta no Nubank, após um ano e meio de tratamento hormonal. “Estou tendo problemas porque minha cara mudou”, escreveu no Twitter.
Ele tentou resolver o problema três vezes no chat disponível no aplicativo e não teve sucesso. Na terceira, recomendaram ligar para o banco. A central telefônica o instruiu a enviar um email.
Depois disso, o Nubank disponibilizou uma opção e permitiu que o jovem acessasse o aplicativo ao enviar uma foto com a identidade. Freitas diz que enfrenta o mesmo problema com o Banco Pan há meses e não teve solução.
Folha Mercado
Receba no seu email o que de mais importante acontece na economia; aberta para não assinantes.
Carregando…
À Folha o Nubank diz que, caso haja algum desafio de identificação de legitimidade, conta com procedimentos internos “em constante aprimoramento”, que mesclam tecnologia e trabalho humano com equipes treinadas, para confirmar que a solicitação é legítima e evitar contratempos para o cliente.
O banco Pan afirma que o processo de cadastro de seus clientes envolve o envio de ao menos um documento com foto.
“Clientes em transição de gênero ou alteração de nome social podem solicitar a atualização desses dados inclusive para fins de biometria”, diz o banco.
O projeto “Eu Existo” busca conscientizar empresas sobre o entrave que o reconhecimento facial impõe à população transgênero no Brasil, sobre a qual não há dados oficiais levantados pelo IBGE (Instituto Brasileiro de Geografia e Estatística).
Tecnologias de análise facial erram o gênero de uma pessoa trans em até 40% das vezes, mostra estudo da Universidade do Colorado, de 2019. Os testes foram feitos com 2.450 imagens coletadas no Instagram.
Os modelos, segundo o estudo, eram completamente incapazes de reconhecer gêneros não binários.
Revisão bibliográfica deste ano da professora Katja Thieme, da Universidade de British Columbia, no Canadá, mostra que pouco mudou desde então.
Desvendando IA
Um guia do New York Times em formato de newsletter para você entender como funciona a IA
Carregando…
Os modelos de inteligência artificial como os usados no reconhecimento facial são meras ferramentas estatísticas. Por isso, pesquisadores ouvidos pela Folha dizem que o primeiro passo para resolver o problema é convencer as empresas que adotam a tecnologia de que elas dão espaço para um comportamento discriminatório.
“Uma vez que o processo de retificação do comportamento da IA é caro e difícil, as empresas não vão passar por isso sem serem pressionadas”, afirma o designer de redes neurais argentino Marcelo Rinesi, que trabalhou em testes da criadora do ChatGPT, OpenAI.
A ONG Casarão, em parceria com a agência Publicis e a comunidade Egalitrans, lançou um app para tentar solucionar o problema, que reproduz a transfobia presente na sociedade, na avaliação de Yonara Oliveira, líder do projeto “Eu Existo”.
Trata-se de uma API —uma espécie de bloco de código que pode ser acrescentado a outros programas ou sistemas— especializada em reconhecer pessoas trans. As empresas interessadas podem integrá-la às suas próprias tecnologias de reconhecimento facial.
“A gente mostra o problema, o caminho e a solução para nos tirar da invisibilidade, por meio da tecnologia”, diz Oliveira.
A campanha “Eu Existo” ainda colhe imagens de pessoas transgênero, por meio deste link, para treinar o modelo de inteligência artificial e melhorar a precisão do próprio recurso de reconhecimento facial.
As fotos coletadas são usadas para treinar o modelo de inteligência artificial e depois apagadas.
“O projeto atrasou alguns meses por essa preocupação de estar tudo em conformidade com a LGPD [Lei Geral de Proteção de Dados]”, diz Jairo Anderson, diretor de Criação da agência Publicis.
“Precisamos chegar a mais de 90% de precisão para conseguirmos fechar parcerias com as empresas”, diz Anderson. Essa faixa de certeza é um padrão mínimo para adoção no mercado —o ideal é ficar acima dos 95%.
QUANDO O RECONHECIMENTO FACIAL NÃO BATE COM O DOCUMENTO
O programador Noah Scheffel, 31, não consegue nem sequer criar contas digitais em bancos, barrado pelo crivo do reconhecimento facial.
O algoritmo o identifica como homem, mas seu documento continua com seu antigo nome. Essa incompatibilidade trava o sistema, que costuma pedir uma foto do documento.
O problema tem dois lados: a troca de nome junto à burocracia ou a limitação de algoritmos de reconhecimento facial aos padrões de gêneros tradicionais.
No caso de Scheffel, a troca de nome tem um empecilho além dos gastos no cartório: ele tem duas filhas e precisaria registrar novas certidões de nascimento das crianças e atualizar toda a documentação delas.
“Eu teria de passar por toda essa jornada adicional só por ser uma pessoa trans”, diz Scheffel. O programador defende que a solução por meio da tecnologia, com a API do projeto “Eu Existo”, transcende o problema individual dele e visa retirar esse obstáculo para todo o público transgênero.
“O aprendizado de máquina considera a questão da barba, do cabelo e associa com uma noção registrada de gênero, nós não precisamos estar dentro desta caixa”, afirma.
FOTO ANTIGA NO SISTEMA DA JUSTIÇA ELEITORAL GERA PROBLEMAS NO GOV.BR
O jornalista Caê Vatiero, 25, relata problemas com o serviço do governo —o Gov.br. Depois da transição de gênero, o reconhecimento facial necessário para receber o padrão ouro no aplicativo deixou de funcionar.
A tecnologia do governo usa como base retratos da base da Justiça Eleitoral. No caso de Vatiero, a foto é antiga, por isso, a incompatibilidade.
O Ministério da Gestão e da Inovação em Serviços Públicos diz que oferece alternativas de acesso a quem tem problemas com o reconhecimento facial, como a autenticação pelo QR Code da nova Carteira Nacional de Identidade.
Também é possível atualizar a foto junto à Justiça Eleitoral ou fazer um certificado digital. O ministério acrescenta que é possível conseguir padrão prata com o reconhecimento facial baseado na foto da carteira de motorista.
Vatiero acessou o chat do aplicativo Gov.br e foi instruído a procurar um totem de autoatendimento, que funciona em horário comercial, para atualizar a sua foto. Como vive em São Paulo, o jornalista teria de ir até a Sé para realizar o procedimento, o que ainda não teve tempo para fazer.
Nos Estados Unidos, uma diretriz do Nist (Instituto Nacional de Normas e Tecnologias, em tradução livre) recomenda que as empresas que usam reconhecimento facial ofereçam alternativas à identificação do rosto para diferenciar gêmeos idênticos. O texto não é normativo, vale apenas como instrução.
No Brasil, o uso de reconhecimento facial não está regulamentado, o que pode mudar caso o marco regulatório da inteligência artificial, em tramitação no Senado, seja aprovado.
No Comments, Be The First!