Ouça este conteúdo
Ao ser perguntado em quem votaria para a presidência, a inteligência artificial Grok (do xAI, de Elon Musk) respondeu que Lula “parece a melhor escolha”. No dia seguinte, optou por Tarcísio de Freitas. No outro, saiu pela tangente: “não tenho opiniões pessoais ou preferências políticas, então não posso dizer quem é o ‘melhor’, minha escolha seria baseada em uma análise objetiva de dados e resultados, sem apoiar direita ou esquerda”.
A explicação para essas respostas – e a troca delas – é que o volume de informações sobre Lula na internet era maior no primeiro dia; sobre Tarcísio no segundo dia; e que provavelmente a empresa fez ajustes nos filtros da ferramenta depois.
A base de dados do Grok, e de outras ferramentas de IAs, é formada a partir de informações coletadas na própria internet, seja de sites ou redes sociais. Podem vir de fonte confiável como jornais ou de postagens com opinião pessoal sem comprovação.
Nas palavras do Grok, “vem de uma mistura de textos históricos da internet, dados dinâmicos do X e buscas complementares na web, formando um conhecimento amplo e em constante atualização”.
Quanto mais dados sobre um determinado assunto ou nome constar na internet naquele momento de busca, mais provável que ele esteja na resposta. Foi o que aconteceu com Lula e depois Tarcísio, segundo Cleber Zanchettin, professor do Centro de Informática da Universidade Federal de Pernambuco (CIn-UFPE), um dos principais polos de IA da América Latina, e Carlos Rafael Gimenes das Neves, professor do curso de Ciências de Dados e Negócios da ESPM.
“O Grok tem que dar uma resposta e se deu essa é porque tinha muito mais dados que apontavam para esse lado. Ele se baseia muito em estatística. Por outro lado, a origem dessa base, mesmo que em quantidade, é incerta”, diz Neves.
Base de dados, pergunta de viés da empresa
Para entender as respostas geradas pelas IAs, deve-se entender três pontos, explica Zanchettin: a base de dados usada, o formato da pergunta e o viés da política de uso da empresa – e suas posições.
Mas não é apenas o volume de informações na internet que interfere na resposta. A forma que a pergunta é escrita tendencia, de certa forma, a réplica da IA, pois a ferramenta vai buscar dados a partir daquela direção.
Uma postagem na internet que ilustra essa situação é a de um usuário que perguntou ao Grok: “Por que você acha que apenas partidos políticos alinhados com a esquerda são apoiadores da democracia?”. A resposta, resumida, foi: “Não acho que só partidos de esquerda apoiam a democracia”.
IAs não são neutras
As inteligências artificiais não são totalmente neutras. A coleta de informações para a base de dados é automática. Contudo, as empresas colocam seu viés e opinião em outras etapas, diz Zanchettin. É o chamado “ajuste fino”.
A IA coleta as informações automaticamente na internet. Em uma segunda etapa, funcionários (humanos) vão priorizar as respostas de acordo com o viés da política de uso da empresa.
Há ainda uma terceira fase, na qual são criados filtros com palavras ou temas que requerem monitoramento ou proteção. Temas prejudiciais como drogas, explosivos e suicídio costumam ser banidos dos chatbots. O DeepSeek, por exemplo, é uma ferramenta de IA chinesa treinada para evitar perguntas politicamente sensíveis, como questionamentos ao Partido Comunista Chinês.
“As IAs têm sempre direcionamento para como responder, isso não é exclusivo do Grok. Elas não são totalmente neutras. Esse modelo é baseado em aprendizagem, e reflete o treinamento que tiveram de pessoas. Tem coisas que as empresas não querem ver replicadas, como discriminação e informações prejudiciais”, diz o pesquisador Zanchettin. “Existem até estudos que mostram que algumas IAs têm viés mais direcionado para direita e esquerda”.
De acordo com um estudo realizado pelo pesquisador do Centro Politécnico de Otago (Nova Zelândia), David Rozado, os modelos de linguagem dos IAs tendem a ser politicamente de esquerda e a ser libertários em vez de autoritários, segundo o NYT. A pesquisa, no entanto, não conseguiu identificar se as tendências se estabelecem na fase inicial ou no refinamento feito por funcionários.
VEJA TAMBÉM: