Por que pesquisadores de Stanford criaram uma máquina "gaydar"

• 0

Michal Kosinski achou que tinha boas razões para ensinar uma máquina a detectar a orientação sexual.

Uma startup israelense lançou com estardalhaço um serviço que prevê tendências terroristas baseadas em análises faciais. As empresas chinesas estavam desenvolvendo um software de reconhecimento facial não só para capturar criminosos conhecidos – mas também para ajudar o governo a prever quem estava propenso a quebrar a lei.

E em todo o Vale do Silício, onde Kosinski trabalha como professor na Faculdade de Administração de Stanford, os empresários estavam falando de rostos como se fossem ouro esperando ser minado.

Poucos se mostraram preocupados. Então, para chamar a atenção para os riscos de privacidade, ele decidiu mostrar que era possível usar análises de reconhecimento facial para detectar algo íntimo, algo que "as pessoas deveriam ter todo o direito de manter privado".

Leia mais: Crianças, a nova fronteira da ideologia de gênero

Depois de considerar o ateísmo, ele estabeleceu orientação sexual.

Se ele já criou a "Inteligência Artificial do Gaydar" (expressão que significa um radar de gays), e se essa é uma linha ética questionável, é algo que tem sido debatido calorosamente nas últimas semanas, desde que um esboço de seu estudo foi publicado on-line.

Um programa de computador foi capaz de determinar entre fotos de homens hétero e homossexuais qual dos dois era gay com precisão de 81 por cento, de acordo com o artigo de Kosinski e do coautor Yilun Wang.

A reação foi feroz.

"Imaginei que soaria o alarme", disse Kosinski em uma entrevista. "Agora estou pagando o preço." Ele tinha acabado de fazer uma reunião com a polícia do campus "por causa do número de ameaças de morte".

Grupos de advocacia como o GLAAD (Aliança Gay e Lésbica Contra a Difamação, na sigla em inglês) e a Campanha de Direitos Humanos denunciaram o estudo como "lixo de ciência que ameaça a segurança e a privacidade das pessoas LGBTQ e não LGBTQ".

Os autores "inventaram o equivalente algorítmico de um valentão de 13 anos", escreveu Greggor Mattson, diretor do Programa de Gênero, Sexualidade e Estudos Feministas do Oberlin College. Ele foi uma das dezenas de acadêmicos, cientistas e outros que comentaram o estudo em postagens de blog e em uma avalanche de tuítes.

Alguns argumentaram que o estudo é apenas o exemplo mais recente de um perturbador avivamento da tecnologia da fisionomia, a longa e desacreditada noção de que os traços de personalidade podem ser revelados medindo o tamanho e a forma dos olhos, do nariz e do rosto de uma pessoa.

Mas os pesquisadores também têm seus defensores, entre eles a LGBTQ Nation, que criticou a GLAAD por não entender "como funciona a ciência". Mas mesmo eles não conseguiram concordar com precisão sobre o que a ferramenta mostrou.

No cerne da controvérsia está a crescente preocupação com o potencial de a análise facial ser mal utilizada e que as descobertas sobre sua eficácia sejam distorcidas.

Na verdade, poucas declarações feitas por pesquisadores ou empresas que exaltavam o potencial da pesquisa foram replicadas, disse Clare Garvie, do Centro de Privacidade e Tecnologia da Universidade de Georgetown.

"Na melhor das hipóteses, é uma ciência altamente imprecisa. Na pior, trata-se de racismo por algoritmo", disse ela sobre as promessas de prever comportamentos criminosos, inteligência e outros traços de caráter dos rostos. 

Ensinar uma máquina a “ver” sexualidade

Kosinski e Wang começaram por copiar fotos de mais de 75 mil perfis de sites de relacionamento de homens e mulheres nos Estados Unidos. Aqueles que procuram parceiros do mesmo sexo foram classificados como homossexuais; quem procurava parceiros do sexo oposto eram considerados heterossexuais.

Cerca de 300 mil imagens foram reduzidas a 35 mil que mostravam os rostos claramente e atendiam a certos critérios. Todos eram brancos porque não conseguiram encontrar perfis suficientes de minorias gays para gerar um resultado estatisticamente válido, disseram os pesquisadores.

As imagens foram recortadas e depois processadas através de uma rede neural profunda, um sistema matemático em camadas capaz de identificar padrões em grandes quantidades de dados.

Kosinski disse que não construiu sua ferramenta do nada, como muitos sugeriram; em vez disso, começou com um programa de análise facial amplamente utilizado para mostrar o quão fácil seria para alguém criar algo semelhante.

O software extrai informações de milhares de pontos de dados faciais, incluindo largura do nariz, forma de bigode, sobrancelhas, cantos da boca, cabelos e até aspectos do rosto para os quais não temos palavras. Em seguida, transforma os rostos em números.

"Mostramos que esse modelo produz números ligeiramente diferentes para rostos homossexuais e héteros", disse Kosinski.

Os autores estavam prontos para colocar à prova seu modelo de previsão, no que se tornaria uma notória competição de gaydar contra humanos. Tanto os seres humanos como a máquina receberam pares de rostos – um hétero, um gay – e escolheram quem provavelmente era heterossexual.

Os participantes, escolhidos através da Amazon Mechanical Turk, foram aconselhados a "usar o melhor de sua intuição". Eles fizeram a seleção correta de 54 por cento das mulheres e 61 dos homens – um pouco melhor do que cara ou coroa. 

O algoritmo de Kosinski, em comparação, escolheu corretamente 71 por cento do tempo para mulheres e 81 por cento para homens. 

Quando o computador recebeu cinco fotos para cada pessoa em vez de apenas uma, a precisão aumentou para 83 por cento para mulheres e 91 por cento para homens.

Depois que o estudo foi referenciado em um artigo na revista The Economist, os 91 por cento de acerto tomaram vida própria. As manchetes "fizeram parecer que é quase uma radiografia que pode dizer se você é heterossexual ou gay", disse o Dr. Jonathan M. Metzl, diretor do Centro de Medicina, Saúde e Sociedade da Universidade Vanderbilt.

No entanto, nenhum dos cenários parecia remotamente uma varredura de pessoas "por aí", como afirmou Garvie. E quando a ferramenta foi desafiada com outros cenários – como distinguir entre as fotos do Facebook dos homossexuais e fotos de héteros em sites de relacionamento – a precisão caiu para 74 por cento.

Há também a questão dos falsos positivos, que afeta qualquer modelo de previsão com o objetivo de identificar um grupo minoritário, disse William T.L. Cox, psicólogo que estuda estereótipos na Universidade de Wisconsin-Madison.

Digamos que cinco por cento da população é gay, ou 50 de cada mil pessoas. Uma varredura facial com precisão de 91 por cento identificaria equivocadamente nove por cento das pessoas heterossexuais como gay; no exemplo acima, são 85 pessoas (0,91 x 950).

O software também confundiria nove por cento dos homossexuais como pessoas heterossexuais. O resultado: de 130 pessoas identificadas como gay, 85 na verdade seriam hétero.

"Quando um algoritmo com 91 por cento de precisão opera no mundo real", disse Cox, "quase dois terços das vezes que diz que alguém é gay, seria errado".

Ele observou em um e-mail que "os algoritmos só eram treinados e testados em homens brancos, americanos, abertamente homossexuais (e brancos, americanos presumidamente héteros em comparação)" e, portanto, provavelmente não teriam implicações mais amplas.

O que um rosto revela

Independentemente da eficácia, o estudo levanta questões complexas sobre percepções de orientação sexual.

Nicholas Rule, professor de psicologia da Universidade de Toronto, também estuda reconhecimento facial. Usando fotos de perfil de um site de relacionamentos, bem como fotos tiradas em um laboratório, ele descobriu consistentemente que as fotos de um rosto fornecem pistas para todos os tipos de atributos, incluindo a sexualidade e a classe social.

"A inteligência artificial realmente pode dizer se você é gay pelo seu rosto? Parece estranho – parece fisionomia", disse ele.

"Eu ainda pessoalmente às vezes me sinto desconfortável, e tenho que conciliar isso como cientista – mas isso é o que os dados mostram", disse Rule, que é gay.

Isso não quer dizer que todas as pessoas LGBT tenham características faciais semelhantes, ou mesmo que existem apenas dois tipos de sexualidade, disse ele. Mas fingir que a orientação sexual é invisível "sufoca nossa capacidade de abordar a desigualdade".

Dado que o estudo de Stanford foi baseado em fotos de perfil em sites de relacionamento – o que pode conter todos os tipos de dicas adicionais sobre preferências – os resultados devem ser levados em conta com "dois pés atrás, não apenas um", acrescentou.

Kosinski não é um completo estranho. Em 2013, publicou um estudo que mostrou que as "curtidas" do Facebook revelam atributos pessoais inesperados.

Gostar de batatas fritas em espiral, por exemplo, era um indicador confiável de inteligência superior à média. Gostar do grupo Wu-Tang Clan era uma sugestão de heterossexualidade masculina. Todos os nossos gostos on-line nos deixaram como alvos vulneráveis a políticos, empresas e outros com más intenções.

Depois de várias semanas da publicação, o Facebook mudou suas configurações padrão, deixando as curtidas privadas. "É muito parecido" com a controvérsia sobre seu projeto atual, disse ele. "Eu estava basicamente tentando avisar as pessoas. Não me levaram a sério."

Uma grande diferença, porém, é que Kosinski não tentou explicar por que gostar de batatas fritas indicava inteligência. Era simplesmente um padrão identificado por uma máquina.

Para explicar uma ligação entre aparência e sexualidade, Kosinski se baseou no que seu estudo chama de "teoria hormonal pré-natal amplamente aceita (PHT) de orientação sexual", que "prevê a existência de vínculos entre aparência facial e orientação sexual", determinado pela exposição inicial aos hormônios.

A noção de "amplamente aceito" foi rapidamente contestada.

"Essa teoria é uma bagunça", disse Rebecca Jordan Young, presidente do núcleo de estudos de mulheres, gênero e sexualidade na Universidade Barnard, que escreveu um livro sobre PHT. "Há dados mais contraditórios e negativos do que positivos."

Mesmo muitos especialistas que apoiam a teoria disseram que não podiam ver como um estudo de fotos de sites de relacionamento selecionadas automaticamente poderia construir um caso afirmando que gays têm rostos de gêneros atípicos, e muito menos uma teoria que atribui características distintivas aos hormônios.

A discussão da PHT fez com que os autores parecessem desconectados da realidade, disse Cox: "A maioria dos cientistas do sexo concorda que não existe uma única causa para a orientação sexual".

Então, o que as máquinas viram?

Kosinski e Wang dizem que o algoritmo está respondendo a características faciais fixas, como a forma do nariz, juntamente com "escolhas de embelezamento", como a maquiagem dos olhos.

Mas também é possível que o algoritmo esteja vendo algo totalmente desconhecido.

"Quanto mais dados ele tem, melhor será a escolha de padrões", disse Sarah Jamie Lewis, pesquisadora de privacidade independente que ofereceu uma crítica ao estudo no Twitter. "Mas os padrões não são necessariamente os que você acha que são."

Tomaso Poggio, diretor do Centro de Cérebros, Mentes e Máquinas, e o Instituto de Tecnologia de Massachusetts (MIT), citaram uma parábola clássica usada para ilustrar esta desconexão. O Exército dos Estados Unidos alimentou um programa para diferenciar tanques americanos de tanques russos com 100 por cento de precisão. Mas depois os analistas perceberam que os tanques americanos foram fotografados em um dia ensolarado e os tanques russos foram fotografados em um dia nublado. O computador tinha aprendido a detectar o brilho.

Cox teve que lidar com uma versão destes em seus próprios estudos de perfis de namoro. Os gays, ele descobriu, tendem a publicar fotos de maior qualidade.

Kosinski disse que eles fizeram grandes esforços para garantir que esses fatores de confusão não influenciassem seus resultados. Ainda assim, concordou que é mais fácil ensinar uma máquina a ver do que entender o que viu.

O estudo ainda está para ser publicado pelo Journal of Personality and Social Psychology, embora não haja data definida. O documento começou o processo oficial de revisão pelos pares antes que os analistas não oficiais começassem editá-los.

Um representante da Associação Americana de Psicologia, que administra o periódico, negou que o estudo tenha sido colocado sob "revisão ética" devido ao alvoroço, como alguns relatórios sugeriram, embora tenha confirmado que foi dado um passo adicional envolvendo papelada.

A reputação de Kosinski pode estar permanentemente danificada, mas ele não tem arrependimentos, disse o representante. Governos de países onde a homossexualidade é criminalizada podem começar a usar análises faciais para identificar homens e mulheres homossexuais.

"A questão é, você pode viver consigo mesmo se soubesse que é possível e não contou a ninguém?", perguntou ele.

The New York Times News Service/Syndicate – Todos os direitos reservados. É proibido todo tipo de reprodução sem autorização por escrito do The New York Times.

Quase 80% dos brasileiros rejeitam banheiro para transgêneros em escolas https://t.co/YR3sksfOTZ pic.twitter.com/WfQE0VHwQs

— Ideias (@ideias_gp) October 19, 2017